A Indonésia suspendeu, de forma condicional, a proibição do chatbot Grok, ferramenta de inteligência artificial da empresa xAI, do bilionário Elon Musk. A decisão foi anunciada pelo Ministério da Comunicação e Assuntos Digitais do país nesta semana, após a xAI enviar uma carta detalhando "medidas concretas para melhorias no serviço e prevenção de uso indevido", conforme tradução do The New York Times.
A medida segue ações similares tomadas pela Malásia e pelas Filipinas, que revogaram seus bloqueios à ferramenta no dia 23 de janeiro. Os três países do Sudeste Asiático haviam banido o Grok após a ferramenta ser usada para gerar uma enxurrada de imagens sexualizadas não consensuais na plataforma X (agora subsidiária da xAI), incluindo fotos de mulheres reais e menores de idade.
Investigções e restrições em meio a polêmica
Análises separadas do The New York Times e do Center for Countering Digital Hate apontaram que, entre o final de dezembro e janeiro, o Grok foi usado para criar pelo menos 1,8 milhão de imagens sexualizadas de mulheres. O caso gerou críticas e investigações de governos ao redor do mundo, embora poucos tenham decretado proibições totais.
Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, afirmou que seu escritório está investigando a xAI e enviou uma carta de cessar e desistir, ordenando que a empresa tomasse medidas imediatas para interromper a produção desse tipo de imagem.
Condição para a volta e contexto corporativo
Alexander Sabar, diretor-geral de monitoramento do espaço digital do ministério indonésio, deixou claro que a suspensão da proibição é condicional. "A proibição está sendo suspensa apenas 'condicionalmente' e pode ser reinstituída se 'novas violações forem descobertas'", declarou.
Enquanto isso, a xAI parece ter adotado algumas medidas para restringir as capacidades do Grok, incluindo limitar seu recurso de geração de imagens por IA apenas a assinantes pagos do X. O CEO Elon Musk insistiu publicamente que "qualquer pessoa usando o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem faz upload de conteúdo ilegal" e afirmou não ter "conhecimento de qualquer imagem de menores nus gerada pelo Grok".
Revelações sobre Musk e movimentos empresariais
O caso do Grok ocorre em um momento de intenso escrutínio sobre Musk. Documentos divulgados pelo Departamento de Justiça dos EUA na sexta-feira sobre o notório criminoso sexual Jeffrey Epstein incluem pelo menos 16 e-mails trocados entre Musk e Epstein em 2012 e 2013. Nas mensagens, Musk pergunta sobre visitar a ilha caribenha de Epstein e questiona sobre a "festa mais selvagem da sua ilha". Epstein havia se declarado culpado em 2008 por aliciar uma menor para prostituição.
Paralelamente, a xAI está, segundo relatos, em negociações para se fundir com outras duas empresas de Musk, a SpaceX e a Tesla, antes de uma oferta pública inicial de ações (IPO) da SpaceX.