Rei Charles receberá líderes de IA em meio a apelo do setor por desaceleração do desenvolvimento

Líderes das empresas de IA mais poderosas do mundo devem se reunir na Escócia nesta semana, em uma cúpula organizada pelo rei Charles III, do Reino Unido, para discutir o desenvolvimento responsável da IA, em meio a temores no setor de que a tecnologia possa superar o controle humano. 

O evento será realizado nesta semana na Dumfries House e supervisionado pela Ditchley Foundation, de acordo com o The Sunday Times. Líderes de empresas como Nvidia, OpenAI, Anthropic, IonQ e Google DeepMind foram convidados para discutir como a IA poderia ser desenvolvida “para o bem da humanidade”. 

A cúpula ocorreria uma semana depois de Dario Amodei, CEO da Anthropic, Sam Altman, CEO da OpenAI, e Elon Musk, CEO da SpaceXAI, pedirem maior contenção no desenvolvimento de IA de fronteira. 

Em uma carta aberta na sexta-feira, Amodei alertou que a tecnologia vinha “avançando drasticamente mais rápido” desde o verão, impulsionada pela capacidade da IA de se aprimorar, um processo conhecido como autoaperfeiçoamento recursivo.

Ele disse que um “enxame” de agentes de IA, como os que atacaram o Hugging Face em julho, poderia ser capaz de “assumir o controle de toda a internet” nos próximos seis a 12 meses. Altman concordou que as empresas “precisam ditar o ritmo da fronteira”.  

Fontes próximas de Charles disseram que ele havia se interessado pelo desenvolvimento da IA e por seus riscos potenciais, informou o The Sunday Times. 

Relacionado: Chefe da Anthropic pede desaceleração no desenvolvimento da IA para um ritmo mais seguro