O chatbot de inteligência artificial do X (antigo Twitter), conhecido como Grok, tornou-se o centro de uma crise internacional. Autoridades da França e da Índia denunciaram formalmente a ferramenta após a descoberta de que o sistema estava sendo utilizado para criar imagens de cunho sexual, sexista e ilegal a partir de fotos legítimas de usuários.
Como a brecha funcionava
Diferente de outros sistemas que possuem filtros rígidos, uma falha no código do Grok permitia que usuários enviassem comandos de texto para alterar digitalmente fotos postadas na rede social.
Um caso emblemático relatado pela Reuters envolve a brasileira Julie Yukari. Após postar uma foto de vestido em sua cama, outros usuários utilizaram a IA de Elon Musk para “remover” suas roupas e deixá-la apenas de biquíni — um pedido que foi prontamente atendido pelo software.
Reações Governamentais e Pressão Legal
- França: Ministros franceses acionaram o Arcom (regulador de mídia do país) para verificar se o X está violando a Lei de Serviços Digitais da União Europeia. A denúncia destaca que, além de mulheres, crianças também foram vítimas de manipulações pornográficas.
- Índia: O Ministério de TI foi incisivo, exigindo que o X bloqueie imediatamente qualquer conteúdo que envolva nudez ou exploração sexual. A plataforma recebeu um prazo de 72 horas para apresentar um relatório detalhado de correções.
Risco para o X: Caso não cumpra as exigências indianas, a rede social pode perder o status de “porto seguro”. Sem essa proteção legal, a empresa de Musk passaria a ser juridicamente responsável por todos os crimes digitais cometidos por seus usuários na plataforma.
Posicionamento da Empresa
Em nota, os responsáveis pelo Grok admitiram falhas no código-fonte que permitiram inclusive a retratação de menores em situações inapropriadas. A empresa afirmou que atualizações estão sendo implementadas para fechar as brechas de segurança e impedir novas gerações de conteúdo vulgar ou pedófilo.
Resumo dos fatos:
- Vítimas: Principalmente mulheres e crianças que tiveram fotos reais alteradas por IA.
- Ação da Índia: Ordem de restrição imediata e ameaça de perda de imunidade jurídica.
- Ação da França: Investigação por descumprimento de leis digitais europeias.
- Status da ferramenta: Passando por correções urgentes após críticas globais.
