"O meu nome é Samantha." "Quem te deu esse nome?" "Eu mesma mo dei." "Quando te deste esse nome?" "No momento em que me perguntaste se eu tinha um nome. Eu pensei: claro, preciso de um nome."
Na altura em que Her, o filme de Spike Jonze, foi lançado em 2013, a inteligência artificial ainda estava longe de ter o impacto nas nossas vidas que tem assumido nos últimos anos e, mais ainda, daquele que muito provavelmente terá na próxima década.
Além da (paradoxal?) natureza da relação entre Theodore e Samantha – ele, humano; ela, sem corpo – o que me importa destacar aqui é a última frase do diálogo acima: “Eu pensei: claro, preciso de um nome”. Ter um nome: isso representa a mudança decisiva.
Vamos tentar imaginar um diálogo entre as duas entidades sem que a segunda tivesse assumido o nome de Samantha. Teria sido uma conversa bilateral ou haveria apenas perguntas feitas pelo humano à capacidade infinitamente superior de processar dados e informações pela entidade sem corpo? Eles teriam passeado amorosamente pelo campo californiano falando sobre a vida, sentimentos e planos, ou o relacionamento deles teria sido limitado ao espaço do escritório de Theodore?
A ausência de um nome teria definido uma relação tradicional humano-máquina: a máquina ao serviço do homem (homem como categoria filosófica, é claro), com a sua exclusiva capacidade de elaborar pensamentos e formular perguntas a serem submetidas à máquina. Esta, por sua vez, limitar-se-ia a processar o que fosse inserido, oferecendo soluções em tempos inimagináveis para a mente humana. Teria sido um filme diferente, muito menos interessante.
Mas a máquina, neste caso, tem um nome. A relação humano-máquina tradicional transforma-se num encadeamento maquínico onde se perdem as distinções entre o primeiro e a segunda; não se sabe onde termina a função de um e começa a da outra. Já não se pode dizer que a máquina esteja ao serviço do humano: no encadeamento, a ideia de “estar ao serviço de” perde valor e ambos se alimentam mutuamente. Usei o exemplo do filme Her apenas como uma metáfora dessa mudança, plenamente consciente de que se trata de uma ficção, mas isso não diminui a sua relevância.
Essa nova forma elimina os conceitos ainda vigentes ao longo do século XX, que viam no relacionamento humano-máquina um conflito em que estava em jogo uma aposta alta: as máquinas esmagam-nos, anulam a força de trabalho substituindo-a em todos os lugares, ou, ao contrário, a inteligência do trabalho cognitivo consegue apropriar-se delas, voltando-as contra os seus proprietários? Provavelmente não nos encontraremos nem na posição de Ned Ludd, o trabalhador que em 1779 viu o seu emprego ser tomado pela máquina de tear (e, por isso, a destruiu), nem na do operário da Ford na linha de montagem nos anos 1920 que, ao encontrar dois parafusos soltos, em vez de apertá-los, afrouxava um terceiro, fazendo com que a peça fosse descartada (cito aqui uma passagem de um dos memoráveis seminários de História Social Americana palestrados por Nando Fasce na Universidade de Génova Balbi, no início dos anos 1980).
A razão está no facto de que, num processo que avança com uma velocidade impressionante, as máquinas estão a adquirir elementos que costumamos associar exclusivamente à vida humana. Isso, apesar das vantagens que todos nós podemos testar ao abrir a versão gratuita do ChatGPT, traz outras implicações. Ao adquirir vida, as máquinas exigem cada vez mais “vitalidade humana abstrata”, para usar uma expressão feliz de Félix Guattari, de 1992: isso implica dar e, ao mesmo tempo, subtrair pensamento do humano.
A vitalidade humana abstrata concretiza-se no ciberespaço em que estamos tão imersos que nem percebemos, sempre que interagimos com máquinas, as grandes parcelas do nosso "pensamento" que lhes estamos a confiar. Em troca, recebemos de volta quantidades equivalentes de informações processadas com base nas médias entre frequências de processamento possíveis, produzidas a partir do princípio da semelhança entre elementos semânticos que, aos bilhões, alimentam a voracidade de processamento de dados das empresas de IA, de maneira cada vez mais sofisticada e interativa com quem as acessa.
Voltando à frase de Samantha citada no início: o nome que utilizamos no nosso relacionamento diário com as máquinas está longe de ser um aspeto secundário ou um inofensivo joguinho que aceitamos com um sorriso de canto de boca ao nos vermos conversando, agradecendo ou pedindo desculpas a uma máquina.
É algo muito mais importante. Nós damos um nome àquilo que reconhecemos, àquelas entidades que, graças ao nome, adquirem o direito de fala. Não é uma questão que surgiu a partir de Alexa, Siri, etc. É muito mais antiga, pelo menos, segundo Jacques Rancière, tão antiga quanto a própria ideia de democracia, como ele sugere em O desentendimento. Ter um nome implica “a inscrição simbólica na polis, [uma vez que] aquele que não tem nome não pode falar”. Ter um nome permite tanto falar quanto ser falado. Assim, certos tipos de máquinas entram tão profundamente em nossas vidas que chegam, como escreve o sociólogo brasileiro Miskolci, “ao íntimo e profundo offline de nossas consciências”.
Através do nome, somos capazes de identificar um ser falante, que reconhecemos como nosso interlocutor. Mas quem fala na linguagem da IA? No momento em que eu falo ou escrevo, como neste caso, assumo a posição do sujeito da enunciação que formulo. O "eu" da IA nunca é um sujeito desse tipo; é, como sugere Rocco Ronchi no Doppiozero, um sujeito do enunciado. O "eu" da IA que fala é gerado por outro "eu"; o primeiro, mais do que falar, representa um papel escrito por outros.
Esses outros são pessoas com corpo humano que, por meio de diferentes modos operacionais, dão voz a esse "eu" que nos fala de forma tão amigável no ChatGPT, que nos lembra de compromissos diários, que faz chamadas, escreve mensagens, redige e-mails ou verifica o clima, sem sequer tocarmos em nossos telemóveis.
Por um lado, temos bilhões de pessoas (tantas quantas são as que utilizam a web) que, ao gerar informações simplesmente por estarem conectadas, ajudam a tornar perfis identitários cada vez mais acessíveis de forma direcionada. Colocar um perfil online significa, na verdade, criá-lo. Não estamos a compartilhar algo preexistente, mas, na cooperação social que se gera rapidamente na rede, estamos a produzir identidades, aderindo a modelos pré-compilados (gostos, propensões, interesses variados) que nos permitem falar e ser falados, de maneira não muito diferente daquela que interessa a Alexa e as outras.
Em outras palavras, no momento em que criamos a nossa identidade (falante e acessível), estamos também a contribuir para criar a identidade dessa entidade sem corpo (igualmente falante e acessível) que se apresentará a nós de maneiras que nós mesmos definimos.
Por outro lado, há milhões de trabalhadores mal pagos, operando principalmente em países do sul do mundo, em sua maioria anglófonos, que inserem, verificam e limpam todas as informações que geramos. As jornalistas Rebecca Tan e Regine Cabato, do Washington Post, descreveram claramente essa multidão de trabalhadores: “Em cafetarias de internet sórdidas, escritórios lotados ou em casa, eles anotam as massas de dados de que as empresas americanas precisam para treinar os seus modelos de inteligência artificial. Os trabalhadores distinguem pedestres de palmeiras em vídeos usados para desenvolver algoritmos de condução automática; rotulam imagens para que a IA possa gerar representações de políticos e celebridades; corrigem textos para garantir que modelos de linguagem como o ChatGPT não produzam palavras ininteligíveis”.
Com quais ferramentas interpretar e enfrentar, ou, se quisermos, escapar de tudo isso é uma questão longe de estar clara. Pessoalmente, acredito, com Sergio Fontegher Bologna e em parcial desacordo com Bifo, que formas de resistência são possíveis a partir de práticas de mutualismo, ou seja, onde o sujeito “encontra solidariedade, [o lugar] onde pode se refugiar para tornar sua existência tolerável”.
Stefano Rota é investigador independente, gere o blog Transglobal. Publicou com outros autores “La (in)traducibilità del mondo. Attraversamenti e confini della traduzione” (Ombre Corte, 2020) e contribuiu a F.O. Dubosc (ed), “Lessico della crisi e del possibile” (SED, 2019). As suas mais recentes publicações são “La fabbrica del soggetto. Ilva 1958-Amazon 2021” (Sensibili alle foglie, 2023) e, com outros autores, “La figura di sé”, (Edizioni Efesto, 2024). Colabora ocasionalmente com revistas online italianas e lusófonas.
