A AGU apresentou manifestação ao STF no RE 1.037.396, requerendo que a tese de repercussão geral a ser fixada no Tema 987 explicite a aplicação dos deveres de prevenção e cuidado dos provedores de internet também a conteúdos ilícitos produzidos ou impulsionados por inteligência artificial. O relator do caso é o ministro Dias Toffoli, e o julgamento está sendo realizado em conjunto com o Tema 533, que trata da responsabilidade de plataformas digitais por conteúdos de terceiros.
No documento, protocolado nesta quarta-feira, 21, a AGU defende que os deveres já previstos para provedores de aplicações — como atualização de termos de uso, combate à criação de perfis falsos, mecanismos de moderação e canais de denúncia — devem alcançar também os casos em que há uso de ferramentas de inteligência artificial para difundir desinformação, manipular imagens de autoridades públicas (como em deep fakes) e comprometer políticas públicas e a integridade do processo democrático.
A manifestação tem como base o artigo 19 do marco civil da internet (lei 12.965/14) e visa contribuir para a formulação da tese de repercussão geral a ser fixada no julgamento, no qual se discute se os provedores de aplicações podem ser responsabilizados civilmente pela não remoção de conteúdos ilícitos gerados por terceiros, mesmo sem ordem judicial.
A AGU destaca que, com o avanço de tecnologias como a inteligência artificial, especialmente no uso de algoritmos para impulsionar ou recomendar conteúdos, tornam-se mais evidentes os riscos sistêmicos de desinformação, manipulação e fraude em ambiente digital. Como exemplo, cita estudo do NetLab/UFRJ, que identificou, entre 10 e 21 de janeiro de 2025, um total de 1.770 anúncios fraudulentos veiculados em plataformas da Meta (Facebook e Instagram), muitos deles com uso de IA e apropriação indevida da imagem de autoridades públicas.
Além da falsificação de imagem, o estudo identificou que parte dos anúncios utilizava o nome e a imagem de agentes públicos para promover falsas oportunidades de investimento com transferências via Pix, simulando ganhos financeiros rápidos e induzindo os usuários ao erro. Os conteúdos foram veiculados como publicidade paga, impulsionada pelas plataformas, e tinham como finalidade a captação indevida de recursos. A AGU considera que esse tipo de prática reforça a necessidade de responsabilização das empresas por não impedirem a disseminação de fraudes evidentes.
Na manifestação enviada ao STF, a AGU defende que, se confirmada a ciência da plataforma sobre o conteúdo ilícito e sua omissão diante disso, deve-se reconhecer sua responsabilidade civil mesmo sem ordem judicial prévia. Essa interpretação, segundo o órgão, está em consonância com a jurisprudência do STF e do STJ sobre o marco civil da internet.
Ao final, a AGU solicita que a tese de repercussão geral registre expressamente que os deveres de cuidado das plataformas abrangem também:
- Conteúdos ilícitos produzidos com inteligência artificial;
- Desinformação que afete o funcionamento da administração pública, a integridade das autoridades ou o processo democrático.
O pedido é assinado pelo advogado-Geral da União, Jorge Messias, e pelos advogados da União Isadora Cartaxo de Arruda, João Bosco Teixeira, Rafael Fernandes Dubra e Pedro Henrique Morais e Silva.
- Processo: RE 1.037.396
Leia a manifestação.