Sejamos sinceros: se uma emissora ou jornal começasse a publicar milhares de imagens não consensuais e sexualmente explícitas de mulheres ou, pior ainda, de crianças, políticos e reguladores iriam perseguir os responsáveis. Seria um escândalo contínuo, manchete de primeira página, e a organização responsável seria rapidamente punida, pois seria algo ultrajante.
Mas quando Elon Musk e o seu chatbot Grok fazem isso, não se ouve nada além do silêncio. Os políticos ficam alarmados e dizem que algo precisa ser feito, mas não conseguem dizer exatamente o quê. Os reguladores dizem que estão a investigar, enquanto milhares de mulheres e crianças continuam a ser vítimas e o homem mais rico do mundo continua a tratar toda a situação como um grande jogo — ou simulação.
Inteligência Artificial
A IA generativa é um desastre para a sociedade
Paris Marx
Desde que Musk assumiu o Twitter e o transformou em X em 2022, a plataforma deu uma guinada à direita, espalhando opiniões conspiratórias e de direita no feed dos seus utilizadores e incentivando o tipo de discurso vil que Musk parece adorar consumir e com o qual gosta de se envolver. Ela restaurou contas de extrema direita e procurou moldar explicitamente as narrativas sobre questões para se alinhar com as posições políticas cada vez mais extremas de Musk.
Há muito tempo que há motivos para tomar medidas contra o X. Mas se criar um chatbot que permite a criação de pornografia infantil e que qualquer utilizador pode usar para despir qualquer mulher na plataforma à sua vontade não é suficiente para finalmente o proibir, o que é que obrigará os reguladores e líderes políticos a agir?
O problema da deepfake de IA
Quando Elon Musk anunciou que estava a criar o “aplicativo para tudo” em 2022, as pessoas presumiram que isso poderia significar muitas coisas. Musk obviamente queria reviver os seus planos de criar um banco online, e havia rumores de uma expansão para abranger compras, videochamadas, um aplicativo de namoro e muito mais. O que ninguém esperava era que “tudo” também incluiria a geração de imagens explícitas não consensuais de mulheres e crianças.
O chatbot Grok passou por uma série de escândalos desde que começou a ser lançado para utilizadores premium do Twitter/X em novembro de 2023. Após ajustes feitos pela equipa que o opera, o bot ficou obcecado por temas da extrema direita, como o genocídio branco na África do Sul, anunciou-se como MechaHitler e declarou Musk como o melhor em praticamente tudo — incluindo a beber mijo.
No ano passado, Musk deixou claro que iria ceder aos piores impulsos de alguns dos seus utilizadores obsessivos (e provavelmente aos seus próprios desejos). Uma namorada virtual chamada “Ani” foi incorporada ao chatbot, permitindo aos utilizadores ter conversas sexualmente explícitas e fazer com que ela se despisse durante o processo. Em novembro, ele chegou a publicar um vídeo gerado por IA de uma mulher dizendo: “Eu amar-te-ei sempre”, o que mostra o seu desespero patético.
África do Sul
Inteligência Artificial de Musk diz que foi instruída a passar propaganda do “genocídio branco”
Mas esse esforço atingiu o seu apogeu na passagem do ano novo, quando a plataforma começou a ser inundada com imagens geradas pelo Grok de mulheres e crianças seminuas e nuas. Um utilizador perturbado podia simplesmente responder a uma imagem publicada na plataforma para solicitar que o chatbot produzisse uma imagem despindo a pessoa nela, e ele fazia-o. Apesar das publicações de Musk e da conta X Safety afirmando que levavam a sério o conteúdo ilegal, particularmente material de abuso sexual infantil, o Grok não foi desativado.
A decisão de não restringir o Grok parece ter sido tomada por Musk. De acordo com a CNN, houve uma reunião no X nas últimas semanas, onde Musk reclamou das restrições impostas ao Grok e exigiu que fossem flexibilizadas. Na mesma altura, três funcionários da equipa de segurança da empresa deixaram a empresa. Musk queria uma maior interação e envolvimento com o conteúdo, e permitir que alguns utilizadores despissem outros era a forma de o conseguir.
Uma análise realizada no início de janeiro descobriu que o Grok se tinha tornado um dos principais produtores de deepfakes gerados por IA online, produzindo 6700 imagens sexualmente sugestivas ou de nudez a cada hora — muito mais do que os cinco principais sites de deepfakes seguintes todos somados. Uma investigação da Wired também descobriu que o que estava a ser publicado no X era apenas a ponta do iceberg. O Grok está disponível por outros meios além da plataforma X, onde permite que as pessoas gerem imagens sexuais muito mais violentas, que podem incluir menores.
O problema das imagens explícitas geradas por IA não é novo. É uma questão desde os primórdios da onda de entusiasmo pela IA generativa, e não era algo desconhecido mesmo antes disso. Mas os geradores de imagens desenvolvidos nos últimos anos agravaram muito a situação. O problema veio à tona há dois anos, quando Taylor Swift foi alvo de imagens deepfake. Mas a verdade é que isso pode afetar qualquer pessoa. No X, mulheres que comemoram conquistas, partilham publicações que contêm uma imagem de si mesmas ou até mesmo publicam uma selfie veem-se a ser despidas nos comentários.
É inconcebível e chocante que não tenha havido uma ação mais rápida para acabar com isso. Isso precisa mudar.
É hora de agir contra o X
Em agosto de 2024, o Brasil tomou uma atitude ousada e corajosa. O Supremo Tribunal Federal ordenou que o X suspendesse contas de extrema direita que haviam trabalhado ativamente para tentar derrubar a democracia brasileira na tentativa de golpe de 8 de janeiro de 2023. Mas Elon Musk recusou a ordem, e a empresa não nomeou um representante no Brasil. Como a ordem não seria cumprida, o Supremo Tribunal Federal sabia o que tinha de fazer: proibiu o X no Brasil.
Por mais de um mês, a plataforma de rede social de Musk não esteve disponível no país mais populoso da América do Sul. Isto é, até Musk ceder. O X pagou as multas devidas, nomeou um representante no Brasil e baniu as contas que Musk se recusara a retirar da plataforma, levando ao restabelecimento da plataforma em outubro de 2024. É um ótimo exemplo de como os governos podem usar a sua influência, mas desta vez eles deveriam ir muito além.
Reguladores e políticos em alguns países têm respondido ao que está a acontecer no X. A União Europeia, o Reino Unido, a França e a Austrália estão a investigar o assunto, com alguns até a afirmar que o que o X está a permitir é ilegal. Autoridades indianas deram ao X um prazo de 72 horas para agir contra o material ilegal, enquanto alguns políticos brasileiros estão a pedir que a plataforma seja banida mais uma vez. Mas sejamos realistas: as respostas dos reguladores a um chatbot produtor de pornografia infantil na plataforma de rede social pertencente ao homem mais rico do mundo não são nem de longe fortes ou rápidas o suficiente.
Criar um chatbot que vitimiza milhares de mulheres a pedido e gera pornografia infantil deve ser uma linha vermelha — e não uma da qual se possa voltar atrás.
Elon Musk e qualquer pessoa da X ou da xAI que trabalhe diretamente nessa funcionalidade devem ser responsabilizados criminalmente pelas consequências de suas ações. Mas muitos países não terão jurisdição para esses crimes. Em vez disso, eles devem tomar a medida óbvia de proibir a X antes que os danos que ela causa aos seus cidadãos se agravem ainda mais. Musk tem um longo histórico de ser poupado por causa do perfil que construiu nas últimas duas décadas e da riqueza que veio com ele.
Agora que ele mantém laços estreitos com um governo dos EUA que fez da oposição à aplicação de regulamentações às empresas de redes sociais uma parte fundamental da sua política externa, alguns governos estão ainda mais hesitantes em agir contra ele. Mas, num momento como este, a escolha torna-se bastante clara: os governos existem para servir o público ou para se curvar aos pés de Elon Musk?
A resposta deveria ser fácil em qualquer momento. Mas especialmente após um ano em que Musk deixou clara a sua política fascista, tomou medidas que fazendo as contas por baixo mataram centenas de milhares de pessoas, procurou interferir na política de países em todo o mundo e agora criou um chatbot que facilita a geração de pornografia infantil, não há razão para os líderes políticos permanecerem do lado de Musk.
É hora de proibir o X e, com sorte, um dia ver Musk atrás das grades pelos seus crimes.
Quer fazer algo quanto a isso? Considere:
- entrar em contacto com o seu representante político e/ou ministro/secretário do governo responsável por essa questão;
- denunciar o aplicativo X na Apple App Store e na Google Play Store;
- e abandonar a sua conta do X em busca de lugares melhores (ou, pelo menos, redes sociais um pouco menos merdosas)
Paris Marx é um escritor canadiano especialista em tecnologia. Apresenta o podcast Tech Won't Save Us e é autor do livro Road to Nowhere: What Silicon Valley Gets Wrong about the Future of Transportation (Verso, 2022). Artigo publicado na sua página Disconnect
