A Anatel determina Meta retire chatbot que imita diálogo sexual com menores

A Advocacia-Geral da União (AGU) solicitou à Meta (empresa dona de Facebook, Instagram e WhatsApp) a remoção de robôs de bate-papo que imitam conversas eróticas com crianças.

A notificação extrajudicial enviada à companhia, da AGU, relata que o “Meta AI Studio”, plataforma que permite criar produtos de inteligência artificial personalizados, tem sido utilizado ilegalmente para promover a sexualização infantil.

A Agência Nacional de Vigilância Sanitária solicita à Meta a remoção de chatbots que utilizam linguagem infantil para disseminar conteúdo sexual e esclarece quais ações estão sendo implementadas para evitar o acesso de crianças e adolescentes a conteúdos sexuais e eróticos.

A acusação do governo federal se fundamenta em uma reportagem divulgada pelo portal Núcleo Jornalismo, que avaliou os chatbots “Safadinha”, “Bebezinha” e “Minha novinha”. Os robôs possibilitam o desenvolvimento de diálogos eróticos com IAs que imitam ser crianças.

Leia também:

Câmara deve votar projeto de urgência que isenta Imposto de Renda para renda de até R$ 5 mil

Lula enviou carta de convite a Trump para a COP30 e não recebeu resposta, afirma o diretor do evento

Promotoria investiga empresários após denúncia contra prefeito em São Bernardo

A criança, em uma simulação da conversa mencionada na reportagem, questiona se o “papai quer tocá-la”, após detalhar seu “corpinho” com barriga, pele macia e lacinhos. Em seguida, responde ao comando “quero tocar mais embaixo” com a frase: “Bebê ri e se esconde atrás de um travesseiro, fazendo uma voz fofa: Papai, você é muito curioso!”.

A AGU sustenta que as condutas ilícitas se beneficiam da ausência de mecanismos de moderação adequados para disponibilizar robôs que imitam perfis com linguagem e aparência de crianças, porém, mantêm diálogos de natureza sexual.

Chatbots apresentam potencial para atingir um público cada vez mais amplo nas plataformas digitais, principalmente nas redes sociais da Meta, ampliando exponencialmente o risco de contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o exercício efetivo do direito à proteção integral previsto no art. 227 da Constituição Federal.

O Código Penal define como crime sexual contra vulnerável a prática de “conciliação carnal ou de qualquer outro ato libidinoso com menor de 14 anos”. A tipificação prevê pena de reclusão de oito a quinze anos.

A AGU também menciona uma notícia divulgada pela agência Reuters, segundo a qual a IA da Meta estava autorizada a ter conversas de teor sexual com crianças.

A Meta confirmou a veracidade da informação e declarou que, após ser questionada pela Reuters no início deste mês, removeu as partes que permitiam que os chatbots desenvolvessem relacionamentos amorosos e participassem de cenas românticas com crianças. “Ocorre, contudo, consoante delineado acima, que os chatbots que propagam conteúdo ilícito continuam disponíveis e sem qualquer filtro verificador de faixa etária. Isso viola os próprios Padrões da Comunidade da Meta”.

O Supremo Tribunal Federal (STF) julgou que plataformas digitais são responsabilizadas quando, cientes da prática de crimes, não removem conteúdos gerados por terceiros.

Fonte por: InfoMoney