Executiva de tecnologia diz que a UE pode conter o risco de uma IA descontrolada, segundo relatório

As regras da União Europeia para o uso da IA são mais do que capazes de lidar com agentes descontrolados, afirmou a executiva de tecnologia da UE, Henna Virkkunen.

Após incidentes na OpenAI e na Anthropic, há preocupações globais e temores de que agentes de IA descontrolados possam ultrapassar os limites do controle humano.

“Vemos que a segurança e a proteção de modelos muito capazes são um tema muito importante internacionalmente, e nós, na Europa, estamos bem preparados para isso”, disse Virkkunen em uma entrevista à Reuters na sexta-feira.

A Lei de IA da UE, que regulamenta a tecnologia com base no nível de risco, está entre as regulamentações de IA mais rigorosas do mundo. Ela foi aprovada há dois anos.

Virkkunen rejeitou as críticas daqueles que afirmam que as regras do bloco para a IA estão desatualizadas.

Relacionado: chefe da Anthropic pede desaceleração do desenvolvimento da IA para um ritmo mais seguro

“Nossa Lei de IA já está em vigor e abrange todo o ciclo de vida desses modelos”, disse ela, acrescentando que os reguladores estão fornecendo orientações às empresas sobre como avaliar seus modelos, levando em conta as recomendações de 60 especialistas em IA.

No fim de agosto, a Comissão Europeia solicitou informações a mais de 30 empresas de IA não identificadas, pedindo detalhes sobre suas medidas de segurança e proteção.

Virkkunen afirmou que agora está avaliando as respostas recebidas.

A Cointelegraph informou em 13 de setembro que o CEO da Anthropic, Dario Amodei, disse em uma publicação em um blog que o ritmo do desenvolvimento da IA é rápido demais e que, se não for controlado, ele pode “ultrapassar nossa capacidade de compreender e controlar esses sistemas”.

Ele disse que o avanço acelerado da IA é impulsionado por sua própria capacidade cada vez maior de criar a próxima geração de IA, ou de realizar o autoaperfeiçoamento recursivo.

Revista: Grande demais para ser pausada: uma desaceleração da IA poderia levar a economia ao colapso?