Executiva de tecnologia diz que a UE pode conter o risco de uma IA descontrolada, segundo relatório

Embora incidentes recentes na OpenAI e na Anthropic alimentem receios de que agentes de IA descontrolados possam escapar ao controle humano, a responsável pela área de tecnologia da União Europeia afirmou que as regras do bloco sobre o uso da IA são mais do que capazes de lidar com os desafios.

“Vemos que a segurança e a proteção de modelos muito avançados são um tema muito importante internacionalmente, e nós, na Europa, estamos bem preparados para isso”, disse a responsável pela área de tecnologia da UE, Henna Virkkunen, à Reuters em uma entrevista publicada na sexta-feira.

Ela rejeitou as críticas de quem afirma que as regras de IA do bloco estão desatualizadas. Embora o AI Act da UE, que regulamenta com base no nível de risco, esteja entre as regulamentações de IA mais rigorosas do mundo, ele foi adotado há dois anos.

Relacionado: Dirigente da Anthropic pede desaceleração no desenvolvimento da IA para um ritmo mais seguro

“Temos nosso AI Act em vigor, e o AI Act abrange todo o ciclo de vida desses modelos”, afirmou, acrescentando que os reguladores estão fornecendo orientações às empresas sobre como avaliar seus modelos, levando em conta recomendações de 60 especialistas em IA.

A Comissão Europeia solicitou informações, no fim de agosto, a mais de 30 empresas de IA não identificadas, pedindo detalhes sobre suas medidas de segurança e proteção.

Virkkunen afirmou que agora está avaliando as respostas.

A Cointelegraph informou em 13 de setembro que o CEO da Anthropic, Dario Amodei, afirmou em uma publicação no blog que o ritmo do desenvolvimento da IA é rápido demais e que, se não for controlado, poderá “ultrapassar nossa capacidade de compreender e controlar esses sistemas”.

Ele afirmou que o avanço vertiginoso da IA estava sendo impulsionado por sua própria capacidade crescente de construir a próxima geração de IA, ou de realizar autoaperfeiçoamento recursivo.

Revista: Grande demais para pausar: uma desaceleração da IA poderia provocar o colapso da economia?