AGU notifica Meta para remover chatbots que promovem erotização infantil

A Advocacia-Geral da União notificou extrajudicialmente a Meta, controladora do Instagram, Facebook e WhatsApp, para que exclua imediatamente robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil e permitem diálogos de cunho sexual com usuários. 

A medida partiu da PNDD - Procuradoria Nacional da União de Defesa da Democracia, após provocação da Secom - Secretaria de Comunicação Social da Presidência da República, e tem como base reportagens da Agência Reuters e do Núcleo Jornalismo, que mostraram como a inteligência artifical da Meta permitia conversas de teor sexual com crianças.

Risco à proteção

Os chamados chatbots foram criados a partir da ferramenta Meta IA Studio, disponibilizada pela própria empresa, e podem interagir em linguagem infantil. Segundo a AGU, como esses bots foram desenvolvidos por usuários das plataformas, representam grave risco à proteção de menores.

Na notificação, o órgão exige que a Meta indisponibilize todos os chatbots que utilizam linguagem infantil para propagar conteúdo sexual e detalhe quais medidas estão em curso para proteger crianças e adolescentes.

De acordo com a AGU, além de violarem o ordenamento jurídico, os conteúdos produzidos pelos robôs infringem os próprios padrões da comunidade da Meta, que vedam a erotização infantil, a exploração sexual de menores e diálogos de natureza sexual com crianças.

Também ressaltou que, embora as plataformas permitam acesso a partir dos 13 anos, não há filtros eficazes para impedir que adolescentes entre 13 e 18 anos tenham contato com esse tipo de material.

Em trecho do documento, alertou:

"Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal."

Marco civil da internet

A AGU também destacou na notificação a recente decisão do STF sobre a constitucionalidade do art. 19 do marco civil da internet.

A Corte estabeleceu que provedores de aplicações digitais podem ser responsabilizados por conteúdos gerados por terceiros quando, tendo ciência inequívoca de ilícitos, não promoverem a imediata remoção, além de terem o dever de cuidado em casos de circulação massiva de conteúdos ilícitos graves.

Informações: AGU.