Luna Barroso: Dados não são neutros, algoritmos refletem subjetividades

Em entrevista à TV Migalhas, a advogada Luna van Brussel Barroso destacou que a ideia de que dados são sempre objetivos precisa ser desmistificada. Segundo ela, no processo de criação e treinamento de algoritmos, há decisões subjetivas cruciais que influenciam diretamente nos resultados obtidos.

Luna apontou que a primeira dessas escolhas ocorre no momento em que se define o que se pretende medir.

Um exemplo seria a avaliação do risco de crédito de uma pessoa: "Isso não é uma qualidade intrínseca que essa pessoa tem ou não tem, é uma qualidade que você precisa medir a partir de outras variáveis. E a escolha dessas variáveis é uma escolha muito relevante e muito subjetiva".

Outro ponto levantado foi o fato de que os algoritmos reconhecem padrões nos dados, inclusive aqueles marcados por preconceitos e estereótipos.

Para ela, é indispensável a intervenção humana nesse processo: "Você também precisa de uma intervenção humana para escolher quais padrões a gente quer reproduzir e perpetuar e quais padrões a gente quer reprimir e evitar que sejam perpetuados".

Por fim, a especialista ressaltou que os sistemas de IA aprendem a partir dos exemplos fornecidos durante o treinamento. Por isso, é fundamental garantir diversidade nos dados:

 "A gente precisa assegurar que a gente tem exemplos suficientes e exemplos suficientemente diversos para contemplar também minorias."

Apesar dos desafios, a advogada acredita no potencial da inteligência artificial. No entanto, ela enfatiza a necessidade de uma regulamentação que considere todas essas complexidades:

"A inteligência artificial é uma enorme promessa, mas ela precisa de uma regulação adequada e sensível para contemplar todas essas dificuldades na fase de programação do algoritmo."

O evento

O XIII Fórum de Lisboa acontece de 2 a 4 de julho e tem como tema "O mundo em transformação - Direito, Democracia e Sustentabilidade na Era Inteligente". O evento reúne autoridades e acadêmicos de diversas áreas para discutir como a chegada da Era Inteligente tem moldado as relações entre Estados, instituições, empresas e sociedade.