Anatel obriga supervisão humana em política de governança de IA

Resumo da notícia:

• Anatel aprova Resolução Interna nº 554, o marco institucional estabelece princípios, diretrizes e mecanismos para utilização de IA.
• PGIA reconhece formalmente o IA.lab como núcleo técnico e de pesquisa responsável por subsidiar a governança institucional da IA na Anatel.
• Normativa prevê processo de avaliação técnica e até suspensão de soluções de IA em caso de efeitos discriminatórios, injustos ou perpetuando vieses incompatíveis com os princípios da administração pública.

O Conselho Diretor da Agência Nacional de Telecomunicações (Anatel) aprovou esta semana a Política de Governança de Inteligência Artificial da Anatel (PGIA).

• Blockchain: Goiás quer usar tecnologia do Bitcoin no comércio exterior

Aprovado por meio da Resolução Interna nº 554, o marco institucional estabelece princípios, diretrizes e mecanismos para orientar o uso ético, seguro, transparente e responsável da Inteligência Artificial (IA) em todas as atividades da Agência.

Segundo a Anatel, a iniciativa é resultado de um trabalho construído ao longo dos últimos dois anos pelo IA.lab, grupo de pesquisa em inteligência artificial liderado pelo conselheiro Alexandre Freire, vinculado ao Centro de Altos Estudos em Comunicações Digitais e Inovações Tecnológicas (Ceadi), instância de pensamento estratégico da Agência. A política reconhece formalmente o IA.lab como núcleo técnico e de pesquisa responsável por subsidiar a governança institucional da IA na Anatel, fortalecendo sua atuação na produção de conhecimento, desenvolvimento metodológico e assessoramento técnico.

• Brasileiro lança álbum de figurinhas da Copa do Mundo em NFTs

A aprovação da Política de Governança de Inteligência Artificial representa um passo importante para que a Anatel continue inovando sem abrir mão da segurança jurídica, da proteção de direitos e da confiança institucional, avaliou Alexandre Freire.

O capítulo relacionado à gestão de riscos, por exemplo, estabelece que, “caso seja identificado indício de que uma solução de IA esteja gerando efeitos discriminatórios, injustos ou perpetuando vieses incompatíveis com os princípios da administração pública ou com normativos aplicáveis à atuação da Anatel, deverá ser instaurado processo de avaliação técnica e ética”. Nesse caso, o “parecer técnico do IA.lab poderá sugerir a suspensão temporária nos casos em que houver risco relevante e imediato à integridade de direitos ou à conformidade institucional, devendo ser formalmente justificada”.

• Bitso lança plataforma de trading com autocustódia e acesso a mais de 300 mercados globais

A norma também possui um capítulo exclusivo para monitoramento das soluções de IA, que “deverá ser periódico e documentado, com relatórios que permitam a rastreabilidade das decisões automatizadas e a identificação de riscos emergentes”. Já o capítulo sobre segurança da informação e segurança de dados veda o “uso de soluções não corporativas de IA para a elaboração de conteúdos, análises, pareceres ou decisões, bem como para apoio ou subsídio a essas atividades, quando relacionadas a atribuições institucionais da Anatel”.

Em relação às responsabilidades e sanções, a agência tornou “obrigatória a supervisão humana sobre conteúdos produzidos por IA generativa, devendo o responsável observar os princípios gerais da Administração Pública, os riscos envolvidos e as melhores práticas em vigor.”

• Desconhecimento e risco catapultam renda fixa digital no Brasil: 18,9% ao ano

Para o CEO e fundador da Tech-as-a-Service (TaaS) HOUS3, Vinicius Chagas, a IA é o próximo grande participante do mercado financeiro, conforme noticiou o Cointelegraph Brasil.