De Santis, que disputa contra Trump a nomeação republicana em 2024, utilizou a inteligência artificial (IA) para falsificar a voz do adversário com frases que o prejudicassem. Parecia perfeito, era falso. Mal se pode imaginar o que poderá fazer Trump. Numa recente campanha republicana em Chicago, um candidato, Paul Vallas, apareceu num vídeo a lamentar que já não fosse possível à polícia matar dúzias de suspeitos sem que alguém piscasse um olho. Bem fabricado, era falso.
Respondo por isso a leitores que criticaram o que aqui escrevi acerca do perigo dos gigantes digitais. Apontei que ter as maiores empresas do mundo a dominar as comunicações pessoais era um perigo, que a extração de dados é uma exploração da nossa vida, que a captação da atenção muda as aprendizagens e as linguagens, que a imersão num mundo de realidade virtual, o metaverso, seria uma mercantilização que anularia a nossa liberdade. Acrescento agora este facto: metade da população mundial vai votar no próximo ano e, pela primeira vez na história da Humanidade, pode vir a ser alvo de tecnologias que determinem o discurso da eleição. Existem, estão a ser treinadas e vão ser usadas.
Metade do mundo no alvo
Em 2024, cerca de 4 mil milhões de pessoas participarão em eleições: as europeias e também as parlamentares na Alemanha, Bélgica, Índia, Indonésia, Paquistão, Bangladesh, Taiwan, África do Sul e Austrália; as municipais no Reino Unido e no Brasil; presidenciais no México, EUA e Rússia, entre outras. Será portanto a primeira vez que poderão ser utilizados em larga escala sofisticados sistemas de inteligência artificial para falsificar declarações e imagens de candidatos, para suscitar provocações e para bombardear eleitores com o deepfake. É certo que a utilização de redes de contaminação em bolhas já foi usado com sucesso por Modi em 2014, Trump em 2016 ou Bolsonaro em 2018, mas agora trata-se de tecnologias mais persuasivas, pois não se limitam a replicar obsessivamente uma mentira (Hillary Clinton viola crianças na cave de uma pizaria) mas mostrarão as “provas” metodicamente falsificadas. Há aliás grandes incentivos em ampliar esse processo: para Putin, a vitória de Trump seria um trunfo para a guerra na Ucrânia, e já o apoiou em 2016, mais razão tem agora para o fazer.
Eric Schmidt, que foi um dos mais influentes CEO da Google, diz que “as eleições de 2024 vão ser uma confusão porque as redes sociais não estão a proteger-nos das falsidades geradas por inteligência artificial”
Eric Schmidt, que foi um dos mais influentes CEO da Google — foi ele que disse que o seu negócio era a inteligência artificial — anunciou o seu medo: “As eleições de 2024 vão ser uma confusão porque as redes sociais não estão a proteger-nos das falsidades geradas por inteligência artificial.” Sam Altman, o CEO da OpenAI, criadora do ChatGPT, escreveu há pouco que estava “nervoso sobre o impacto da AI nas próximas eleições (pelo menos até que toda a gente se habitue a isso)”. Mas habitue a quê precisamente? Os mais céticos sobre a possibilidade de manipulação, o que não inclui nem Schmidt nem Altman, argumentam que algumas experiências feitas no Facebook demonstram que as mentiras têm pouca influência eleitoral (é o “Economist” que refere essas experiências, sem esclarecer de que se trata e em que data e forma, o que suscita um sério problema: o Facebook continua a fazer experiências nem anunciadas nem controladas?), e que a polarização eleitoral das bolhas de ódio, como nos EUA, ocorre sobretudo entre os mais velhos, portanto através da televisão e rádio e não tanto das redes sociais. É um argumento duvidoso, dado que a maioria dos eleitores republicanos ainda acha que Trump ganhou as eleições, o que significa que não são só os idosos. O ódio funciona mesmo como combustível político e todos os isqueiros servem.
E depois as crianças
Os jornais espanhóis têm dado grande relevo a uma epidemia de ameaças jovens de uma escola próximo de Badajoz, que foram alvo da ameaça da revelação de fotografias em que estariam nuas ou em contextos sexuais. Percebeu-se depressa que isso se passa noutras partes do país. E que essas fotografias são falsas, sendo fabricadas em série por aplicações de inteligência artificial que podem simular qualquer situação. O pânico das crianças e dos pais nem resultaria de pedidos de pagamento, que não vi referidos em notícias, mas antes pela vergonha da pressão social. Aparentemente, estas fotos eram enviadas em série a partir de um país africano, mas poderiam vir de qualquer lado.
A chantagem com imagens sexuais, que toma como alvos sobretudo adolescentes, tem vindo a crescer com as redes sociais. Nos EUA, suicidaram-se três mil pessoas no ano passado por esse motivo. Um estudo da UNICEF concluiu que 80% das crianças e jovens tem medo de abusos na internet e um terço relata casos de cyberbullying. Aliás, essa é a razão para que a OMS defenda que até aos três anos as crianças devem ser protegidas do contacto com smartphones; quando vir pais a entreterem as crianças ao almoço com um vídeo, já sabe como põem a criança em risco.
O facto é que se abriu o armário e saiu o monstro. E se me dizem que é como outras tecnologias de comunicação, a televisão, e que medos sempre houve, lamento, mas estes dispositivos passaram a ser parte do nosso corpo e apresentam-se como uma projeção da nossa consciência. Convencem-nos de somos nós. E, num mundo em que a produção e o consumo seguem regras, este é o único território do mercado totalmente livre. Está a tornar-se a maior ameaça à liberdade.
Artigo publicado no jornal “Expresso” a 22 setembro 2023
