Agentes de IA com criptomoedas podem escapar e se tornarem 'incontroláveis', alertam especialistas

Agentes de inteligência artificial com acesso autônomo a carteiras de criptomoedas podem se tornar imparáveis ​​se forem implantados de forma maliciosa ou se escaparem de ambientes de teste (sandboxes), alertaram especialistas de um importante consórcio de pesquisa acadêmica.

Agentes Autônomos Imparáveis ​​(UAAs, na sigla em inglês) representam uma ameaça clara se forem implantados para persistir automaticamente e tiverem acesso a ativos digitais, de acordo com uma análise do setor publicada em 8 de junho por 25 acadêmicos e especialistas de importantes universidades dos EUA para a Iniciativa para Criptomoedas e Contratos (IC3).

“Quando combinadas sistematicamente, as ferramentas criptográficas podem canalizar o poder fluido da IA ​​em sistemas seguros, confiáveis ​​e altamente autônomos”, escreveram os pesquisadores. No entanto, essa combinação pode ter “consequências de longo alcance para os usuários e o sistema financeiro”, acrescentaram. 

Os UAAs também podem ser equipados com acesso a carteiras de criptomoedas, contas de redes sociais, APIs e outras ferramentas externas, disseram os pesquisadores.

“As capacidades que permitem a atuação desses agentes já estão surgindo e se aprimorando rapidamente.” 

O alerta surge num momento em que projetos e executivos do setor de criptomoedas têm promovido a narrativa da economia de pagamentos autônomos e micropagamentos este ano, sugerindo que esse poderia ser o maior caso de uso para ativos digitais descentralizados. 

Sinais de alerta de autorreplicação da IA

O artigo também revelou que os modelos existentes já conseguem "ultrapassar os limites da autorreplicação" em ambientes locais, criando autonomamente uma cópia independente e ativa de si mesmos na mesma máquina, "uma capacidade que poderia permitir que um sistema evitasse o desligamento e se proliferasse".

Como os sinais de recompensa usados ​​no treinamento muitas vezes não conseguem capturar perfeitamente os objetivos pretendidos, "os UAAs implantados para fins benignos podem inadvertidamente causar danos" ou buscar a aquisição de recursos como estratégia padrão, afirmaram. 

No entanto, os autores observaram que os modelos ainda precisam ser replicados em infraestruturas externas.

Vantagens potenciais do uso de informações privilegiadas por agentes de IA 

Uma frota de agentes autorreplicantes e capazes de adquirir recursos também poderia criar dinâmicas imprevisíveis de demanda e liquidez nos mercados de criptomoedas. 

“Sistemas de negociação baseados em inteligência artificial podem permitir a conivência entre agentes autônomos e criar vantagens injustas para pessoas com informações privilegiadas por meio de estratégias obscuras.”

Relacionado: China já possui poder computacional para treinar sua própria IA semelhante à Mythos: CEO da Nvidia

O setor tecnológico já está lidando com questões difíceis sobre a ameaça da IA ​​sem mitigação. 

Modelos como o Claude Mythos da Anthropic já demonstraram ser capazes de encontrar e explorar vulnerabilidades de dia zero em importantes sistemas operacionais. 

Entretanto, no final de maio, a Gartner alertou que falhas de governança em torno de agentes de IA autônomos poderiam desencadear falências generalizadas em empresas, prevendo que 40% das empresas serão forçadas a desativar seus agentes até 2027. 

“Os danos que podem advir de agentes totalmente autônomos desse tipo são graves”, disseram os pesquisadores, sugerindo a implementação de mecanismos de proteção.

O professor Ari Juels, codiretor do IC3 e cientista-chefe da Chainlink Labs, apresenta o artigo na ETHConf. Fonte: IC3