Anthropic contrata cofundador da Mysten Labs em meio à corrida pela segurança da IA

Sam Blackshear, cofundador e diretor de tecnologia da Mysten Labs, anunciou que deixará o cargo para se juntar à Anthropic e trabalhar em pesquisas de segurança defensiva.

Blackshear, juntamente com quatro ex-executivos da Meta, fundou a Mysten Labs — criadora da blockchain Sui — em setembro de 2021. Blackshear afirmou que o cofundador e CEO da Mysten Labs, Evan Cheng, assumirá a responsabilidade de definir a “visão técnica” da Mysten daqui para frente.

“Ao refletir sobre minha carreira, percebo que fui mais feliz trabalhando na parte técnica e explorando novos domínios de problemas”, disse Blackshear. “Esta é uma oportunidade de fazer as duas coisas, e estou motivado para trabalhar com segurança em um momento em que o equilíbrio de poder entre atacantes e defensores está mudando.”

Sua saída ocorre em um momento em que a IA está sendo cada vez mais utilizada para identificar vulnerabilidades de software, automatizar campanhas de phishing e acelerar ataques à infraestrutura de blockchain .

A corrida armamentista da IA ​​está "ficando assustadora", afirma Blackshear

Em abril, a Blackshear organizou um painel com especialistas em segurança sobre como os agentes de codificação de IA estão reformulando a segurança dos contratos inteligentes. 

Ele disse que, para ele, um ponto de virada que o fez perceber que algo havia mudado fundamentalmente foi quando ele migrou uma ferramenta de análise estática que havia desenvolvido no Facebook, escrita em OCaml-Java, para o Move, a linguagem de programação usada para construir contratos inteligentes no Sui. 

Sam disse que usou Claude para fazer a alteração e sinalizar quaisquer vulnerabilidades potenciais, e "simplesmente funcionou", disse ele. 

“E aí, quando vi os resultados, pensei: 'Uau!', estamos em um novo mundo em termos de velocidade e capacidades.”

“Antes, a triagem dos resultados era feita completamente manualmente, e a codificação levava muito, muito tempo”, acrescentou. 

Empresas de criptomoedas buscam acesso à IA de ponta

Muitos dos maiores players do mercado de criptomoedas têm buscado acesso a novos e poderosos modelos de IA para fortalecer seu código contra ataques, sendo que muitos desses modelos, incluindo os da Anthropic, são restritos a apenas um pequeno grupo de empresas. 

Executivos do setor de criptomoedas, em conversa com o Cointelegraph, concordaram que, embora restringir esses modelos de vanguarda faça sentido inicialmente, isso deixa de fazer quando modelos de IA concorrentes e disponíveis publicamente atingem o mesmo nível de capacidade de segurança cibernética. 

“Entendo perfeitamente a necessidade de salvaguardas para modelos avançados, mas precisamos simplificar os programas de verificação e aceitação para disponibilizar esses modelos a defensores legítimos”, disse Michael Coates, diretor de segurança da informação da Fundação Solana.

“Precisamos garantir que os melhores modelos que pudermos obter estejam nas mãos dos defensores, porque os atacantes terão equipamentos suficientemente capazes.”