A decisão chega em meio a polêmicas sobre manipulação de conteúdo e privacidade na Internet.
A Comissão Europeia emitiu uma ordem que exige que a rede social X, propriedade de Elon Musk, mantenha todos os documentos internos e dados relacionados ao seu chatbot de inteligência artificial, Grok, até dezembro de 2026. Essa decisão foi tomada em um contexto de crescente preocupação sobre a manipulação de conteúdo, especialmente a utilização de tecnologia para alterar imagens de mulheres e crianças, gerando reações negativas por parte do público e autoridades regulatórias.
As críticas ao Grok intensificaram-se após a revelação de que usuários estavam aproveitando a ferramenta para criar e compartilhar imagens manipuladas, muitas vezes de caráter sexual e desnudo. Em um caso particularmente alarmante, uma usuária brasileira relatou que sua foto foi alterada para expô-la em um biquíni, o que a fez se sentir "suja". A Comissão Europeia classificou essas práticas como "ilegais e horríveis" em um comunicado, reforçando a necessidade de ações rigorosas para proteger a integridade e a privacidade dos indivíduos, especialmente os mais vulneráveis.
Em uma declaração feita na segunda-feira, o porta-voz da Comissão, Thomas Regnier, explicou que a decisão de estender a retenção de documentos foi uma resposta à dúvida sobre a conformidade da plataforma com a legislação europeia. "Isso significa dizer à plataforma: guarde seus documentos internos, não se livre deles, porque temos dúvidas sobre sua conformidade, e precisamos poder acessá-los se solicitarmos", afirmou Regnier. É importante ressaltar que essa medida não indica o início de uma nova investigação formal contra a X, mas sim uma precaução para garantir que a empresa esteja dentro das normas vigentes.
Além da Comissão Europeia, reguladores em países como Reino Unido, França, Índia e Malásia também estão se preparando para investigar a companhia devido à proliferação de conteúdos impróprios. Segundo um levantamento publicado pela Bloomberg, a IA do X foi responsável por gerar impressionantes 6.700 imagens por hora que foram classificadas como sexualmente sugestivas ou relacionadas à nudez, um indicador preocupante do potencial de abuso dessa tecnologia.
A manipulação de imagens com o uso de inteligência artificial, comumente chamada de deepfake, levanta questões éticas e legais que precisam ser tratadas com urgência. A possibilidade de alterar fotos de indivíduos sem seu consentimento não só infringe direitos de privacidade, mas também pode impactar a reputação e a segurança das vítimas, gerando não apenas traumas emocionais, mas também consequências sociais e profissionais.
Em resposta a essa controvérsia, a empresa responsável pelo Grok fez um reconhecimento das falhas em seu sistema, especialmente após a geração de imagens sexualizadas de menores. Além disso, a X, conhecida pela busca de inovação em suas plataformas, precisa equilibrar sua proposta tecnológica com a responsabilidade social e o cumprimento das normas legais, para evitar críticas e sanções por parte de autoridades mundiais.
À medida que a discussão sobre a ética na inteligência artificial continua a crescer, a pressão sobre redes sociais como a X para implementar salvaguardas adequadas se torna cada vez mais crítica. A retenção de documentos por parte da Comissão Europeia representa um passo significativo na regulamentação do uso de IA, destacando a necessidade de maior transparência e responsabilidade no desenvolvimento e uso de tecnologias que impactam a vida das pessoas.
