Anthropic diz que Claude foi usado em ciberataques e vigilância

Operadores de língua russa e chinesa usaram o Claude, da Anthropic, para automatizar ciberataques, informou a empresa em um relatório divulgado na quinta-feira.

O operador de língua russa “JackPoterz” usou fluxos de trabalho personalizados orientados por IA para automatizar grande parte da cadeia de ataque, visando mais de 20 organizações, incluindo ministérios governamentais e órgãos de inteligência. O agente também visou embaixadas e missões diplomáticas na Ucrânia e na Europa.

Operadores de língua chinesa também usaram o Claude como camada de engenharia e orquestração para pesquisa de vulnerabilidades, com um dos fluxos de trabalho produzindo mais de uma dúzia de possíveis descobertas de vulnerabilidades de dia zero no firmware de dispositivos de rede em um mês.

A Anthropic disse que a IA está mudando a economia dos ciberataques, permitindo que operadores individuais concluam invasões em duas a três horas e lidem com dezenas de vítimas em paralelo.

Separadamente, um provável consultor independente baseado em Bamako, que trabalhava com o serviço de inteligência estatal do Mali, usou o Claude como principal força de trabalho de engenharia para construir um sistema doméstico de vigilância em escala populacional que monitora aproximadamente 25 milhões de cartões SIM nas três operadoras móveis nacionais do país.

A plataforma implantada funcionava localmente, usando modelos locais, enquanto o Claude fornecia suporte de design de software e engenharia. Ela foi projetada para gerar dossiês de inteligência sobre números de telefone sem exigir uma ordem judicial.

Relacionado: A IA não desencadeou um “hackpocalypse” na DeFi, diz sócio da Dragonfly