Deepfake criado por IA em anúncio eleitoral levanta preocupações sobre transparência

A temporada eleitoral está a todo vapor nos Estados Unidos, o que significa que as ondas de rádio e televisão e as redes sociais estão inundadas de anúncios de campanha.

Prevê-se que os candidatos, além dos comitês de ação política (PACs) que os apoiam e se opõem a eles, gastem um valor recorde de US$ 10 bilhões em anúncios neste ciclo eleitoral. Parte desse valor está sendo investido em deepfakes criados por inteligência artificial. 

Segundo a NBC News, pelo menos 15 anúncios de campanha gerados por inteligência artificial foram veiculados desde novembro. Alguns utilizaram deepfakes para retratar um candidato fazendo ou dizendo coisas que comprometem a imagem de sua campanha.

Defensores da transparência afirmam que os anúncios, que são ilegais em alguns estados, podem prejudicar a integridade das eleições americanas.

O anúncio infringe as leis eleitorais locais.

No contexto de anúncios de campanha, a IA é regulamentada principalmente em nível estadual. Cerca de 28 estados possuem leis de divulgação, enquanto em dois estados ela é proibida, embora não totalmente. 

Em Minnesota, uma campanha publicitária já entrou em conflito com a legislação local. A vice-governadora de Minnesota, Penny Flanagan, publicou no BlueSky em 3 de junho: "Vocês poderão ver um comercial de TV estrelado por algo que... se parece um pouco comigo."

Flanagan se referia a um anúncio veiculado por um comitê de ação política (PAC) que apoiava sua oponente na disputa primária para o Senado, a também democrata e representante dos EUA, Angie Craig. O anúncio mostra Flanagan em pé sobre uma grande pilha de dinheiro e critica suas supostas ligações com grupos de interesse.

“O super PAC do meu oponente está usando uma imagem falsa criada por inteligência artificial de mim para enganar os eleitores. Eles não conseguem vencer com a verdade, então estão recorrendo à mentira.”

“É repugnante. Os habitantes de Minnesota merecem algo melhor.”

O anúncio pode infringir as leis eleitorais de Minnesota. Em 2023, a representante estadual democrata Maye Quade apresentou um projeto de lei que proíbe deepfakes gerados por inteligência artificial. O projeto foi aprovado e se tornou lei, e "qualquer pessoa que compartilhe amplamente um deepfake nos 90 dias que antecedem uma eleição" é considerada culpada de crime. Isso, desde que a pessoa também:

• Sabe ou deveria saber que o anúncio era uma deepfake e foi feito sem o consentimento da pessoa retratada.
• Agiu com a intenção de prejudicar a reputação de um candidato para influenciar uma eleição.

Os anúncios foram veiculados depois que o DFL, o Partido Democrata de Minnesota, indicou Flanagan, então tecnicamente pode não ter violado a lei. Mesmo assim, a campanha de Flanagan estaria consultando advogados.

Quade disse à mídia local que o anúncio violava o espírito da lei e que, em geral, as pessoas não gostam que a IA seja usada dessa forma. "As pessoas não gostam disso, de maneira geral [...] Que campanha, de qualquer partido, vai ajudar os eleitores a se sentirem bem com seu candidato usando isso?"

Do lado democrata, 40 legisladores estaduais do Partido Democrata-Republicano-Liberal (DFL) assinaram uma carta condenando o uso de deepfakes gerados por inteligência artificial em materiais de campanha. Eles observaram que, em 2023, “os legisladores votaram quase unanimemente para proibir o uso de deepfakes enganosos gerados por IA em eleições, reconhecendo a ameaça que o conteúdo manipulado por IA representa para os eleitores e para a confiança pública”.

“Independentemente da filiação partidária, o uso de deepfakes gerados por IA em propaganda eleitoral é inaceitável.”

Mark Jablonowski, CEO da agência de publicidade DSPolitical, disse à NBC que acredita que a maioria dos políticos conseguirá superar isso. "Acho que a maioria das campanhas, de ambos os lados do espectro político, provavelmente quer fazer a coisa certa [...] É claro que haverá exemplos que podem ser apontados como exemplos de pessoas que estão agindo da maneira errada."

O comitê de ação política (PAC) que divulgou o anúncio, North Star Dawn PAC, não respondeu ao pedido de comentário do Cointelegraph. 

O que dizem as leis eleitorais sobre deepfakes criados por IA?

Conforme mencionado anteriormente, cerca de 30 estados americanos possuem leis que regulamentam o uso de inteligência artificial em eleições. A grande maioria dessas leis se refere à simples divulgação de informações, e muitos estados preveem apenas sanções civis para infrações. 

A Comissão Federal de Eleições (FEC, na sigla em inglês), órgão regulador responsável pela criação de regras de financiamento, transparência e outras normas relativas às eleições, declarou ao Cointelegraph o seguinte:

“Os regulamentos da Comissão exigem que avisos claros e visíveis apareçam em certos anúncios de campanha, incluindo comunicações públicas distribuídas pelo comitê de campanha de um candidato federal. Há também uma proibição contra 'deturpação fraudulenta'.”

A Public Citizen, um grupo de defesa do consumidor, apresentou uma petição à Comissão Eleitoral Federal (FEC) em 2023, solicitando que a comissão emitisse regras para a IA. Em vez disso, o órgão "decidiu não iniciar um processo de regulamentação".

“A Comissão determinou que a proibição de declarações falsas prevista na lei é tecnologicamente neutra, aplicando-se a todos os meios da fraude especificada, incluindo mídias assistidas por IA.”

Não se pode esperar uma ação rápida do governo federal, pelo menos não do Congresso, em relação à IA. Em 2023, a senadora Amy Klobuchar e a deputada Yvette Clarke, ambas democratas, apresentaram o projeto de lei REAL Political Advertisements Act em suas respectivas casas legislativas. No entanto, o projeto não foi aprovado em nenhuma das duas casas. 

Na verdade, o Congresso dos EUA demonstra total falta de vontade de regulamentar a IA de forma significativa. Há quase um ano, o presidente Donald Trump sancionou a lei One Big Beautiful Bill Act. A versão final por pouco não incluiu uma proibição de 10 anos para qualquer regulamentação estadual e local da IA, dando à indústria carta branca para tudo, desde a construção de centros de dados até a forma como a IA seria usada na mídia popular. 

Agora, dois congressistas estão de volta à carga. A democrata Lori Trahan e o republicano Jay Obernolte apresentaram, em 4 de junho , um projeto de lei que, se aprovado, proibiria os estados de aprovarem leis "que visem o desenvolvimento de modelos de inteligência artificial".

Segundo a União Americana pelas Liberdades Civis (ACLU), “Isso pode incluir desde regulamentações de privacidade e requisitos antidiscriminatórios até leis de segurança de inteligência artificial”.

A ACLU observou que a proibição de 10 anos mencionada anteriormente foi retirada do arquivo do Senado em uma votação quase unânime de 99 a 1.

Jina John, conselheira sênior de políticas para IA, privacidade e tecnologia da ACLU, afirmou: “Este projeto de lei não aprende com as tentativas anteriores do Congresso de bloquear as regulamentações estaduais de IA. Os estados devem ter a capacidade de proteger seus próprios residentes de danos, responsabilizar as empresas de tecnologia e garantir que a IA seja segura e confiável.”