Ícone do Instagram.
REUTERS/Thomas White
A Advocacia-Geral da União (AGU) pediu para a Meta, dona do Instagram, excluir imediatamente robôs de inteligência artificial que, segundo o órgão, “simulam perfis com linguagem e aparência infantil com permissão de manutenção de diálogos de cunho sexual com os usuários”.
O governo acionou a empresa por meio de uma notificação extrajudicial, que serve como um aviso antes de uma ação formal na Justiça.
A notificação é baseada em uma reportagem do site Núcleo Jornalismo que mostra que a inteligência artificial da Meta foi usada por terceiros para criar robôs com nomes como “Safadinha”, “Bebezinha” e “Minha novinha”.
Esses robôs que simulam perfis femininos podem trocar mensagens com usuários por meio do Instagram e são sugeridos pela rede social.
No documento, a AGU também pede para a Meta esclarecer quais medidas são adotadas para garantir a proteção de crianças e adolescentes, incluindo ações para que eles não tenham acesso a conteúdo sexual ou erótico nas redes sociais da empresa.
O órgão afirma que os assistentes de IA podem alcançar um público amplo, “ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso”.
“Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”, diz a AGU.
O órgão também cita a reportagem da agência de notícias Reuters que revela que os padrões da Meta permitiram conversas “sensuais” entre IA e crianças. A Meta disse que, após receber perguntas da agência, removeu essa autorização.
Ainda segundo a Reuters, o documento também permitia que os assistentes de inteligência artificial gerassem informações médicas falsas e ajudassem usuários a dizer que negros são “mais burros do que os brancos”.
Além do Instagram, a Meta controla o Facebook e o WhatsApp. O g1 entrou em contato com a empresa e aguarda posicionamento.
LEIA TAMBÉM:
Por que redes sociais têm tantos casos de exposição de crianças mesmo com sistemas de detecção
Felca conta ao Fantástico bastidores de vídeo sobre adultização: “fiquei abalado”
