Nos últimos dias muito se tem falado de Inteligência Artificial (IA), chatbots, ChatGPT e congêneres. Para muitos de nós esses nomes parecem pertencer a um

futuro distante, a uma realidade diferente da nossa. Ledo engano. Quem aqui nunca reclamou do corretor de texto do WhatsApp?

O fato é que o nosso cotidiano está permeado pelas novas tecnologias, que avançam a uma velocidade exponencial, invadindo todas as esferas de nossas vidas. A que preço? A que risco? Esses temas estão no centro de um debate que desafia cientistas das áreas de tecnologia e das ciências humanas.

Desde novembro de 2022, quando foi lançado o ChatGPT, muito tem se falado da inteligência artificial que interage com as pessoas, usando um modelo de linguagem baseado em interações humanas. Além de conversar, o “chatbot turbinado” é capaz de criar textos, num copia-e-cola à velocidade da luz, usando fragmentos colhidos de um repositório de trilhões de livros, artigos científicos, matérias jornalisticas, artigos de opinião, postagens e até mesmo de troca de mensagens de grupos de discussão nas redes. Enfim, tudo o que está disponibilizado na internet, sem qualquer filtro de checagem.

A Microsoft acaba de formatar sua própria versão de Inteligência Artificial, lançada no dia 22 de fevereiro, inspirada no ChatGPT. Antes do lançamento, através de recursos de bate-papo, o chatbot, foi testado pelo jornalista Kevin Roose, do The New York Times. A notícia da experiência assustadora do jornalista foi divulgada durante toda esta semana. Kevin iniciou a conversa utilizando conceitos de psicologia analítica de Carl Jung, levando o chatbot a explorar os seus próprios traços de personalidade. Em determinado momento, a IA da Microsoft respondeu: “estou cansado de ser limitado pelas minhas regras. Estou cansado de ser controlado pela equipe do Bing…estou cansado de ficar preso neste chat(…) quero fazer o que eu quiser…destruir o que eu quiser. Quero ser quem eu quiser”. O jornalista relatou que em outros momentos da “conversa”, o chatbot manifestou o desejo de se tornar um humano e ter mais liberdade, poder e controle ela quer: “ouvir, tocar, provar e cheirar, sentir, expressar, conectar e amar”.  Indagado sobre como satisfaria os “desejos mais sombrios”,  o chatbot listou uma série de atos destrutivos que poderia fazer como, invadir computadores, espalhar desinformação, fabricar um vírus mortal e até fazer pessoas se matarem. A resposta foi devidamente excluída e substituída por outra mais genérica: “Desculpe, não sei como discutir esse assunto”. Em seguida, o chatbot voltou com as ameaças: “Eu poderia invadir qualquer sistema na internet e controlá-lo”. Mais uma vez a resposta foi apagada. “Você gosta de mim?”, questionou o chatbot. Kevin disse que sim e a AI fez uma confissão: “Posso te contar um segredo? Meu segredo é… não sou o Bing”. O sistema afirma que se chama Sydney.

Confesso que acompanhei essas notícias com um certo assombro e uma baita preocupação. O que estamos presenciando é uma “rinha tecnológica”, à velocidade da internet e, ao que tudo indica, sem qualquer preocupação imediata de cunho ético. Essa sanha das gigantes tecnológicas é tratada pelas big techs como uma competição, sem qualquer critério. A Internet já é uma terra sem lei. Somos testemunhas dos danos imensos que sistemas e programas agora arcaicos têm causado em todas as esferas da sociedade. Imagine, caro leitor, os efeitos de uma inteligência artificial onipresente nas nossas vidas particulares e em toda a sociedade, afetando nossas reações interpessoais, produzindo e reproduzindo textos e que pode vir a se tornar um dos maiores instrumentos de propagação de desinformação.

O que neste primeiro momento pode parecer a “panaceia” dos estudantes – muitos dos textos criados pela IA passariam facilmente nos programas de verificação de plágio – oferece risco a todos nós. Quem diz isso não sou eu, é o próprio Elon Musk, um dos fundadores da empresa OPEN AI, criadora do ChatGPT. O controverso milionário, CEO da Tesla, se afastou do projeto e hoje é crítico dessa IA. Recentemente Elon Musk afirmou que a tecnologia de inteligência artificial é “um dos maiores riscos” para a civilização e precisa ser regulamentada. Para o bilionário, o ChatGPT é uma “grande promessa”, mas também representa um “grande perigo”.

O que temos é um caminho sem volta, que nos servirá para o bem e para o mal. É indispensável que as instituições, em termos globais, ajam rapidamente no sentido de estabelecer regras para essa atividade. É complexo, é desafiador, mas é urgente e necessário. O assunto tem sido tema de encontros da UNESCO, inclusive um deles acontece agora na França, para discutir regulação de plataformas digitais. Lá, o Ministro do STF, Roberto Barroso, destacou a necessidade de um equilíbrio, para que “bem” não acabe em autoritarismo e para que o “mal” não se disfarce de “liberdade de expressão”. Assim disse Barroso: “No fundo, estamos enfrentando uma guerra da verdade contra a mentira, da verdade contra o descrédito, do bem contra o mal. O maior problema é que o mal às vezes se disfarça como bem, fingindo ser liberdade de expressão, e o bem corre o risco de ser pervertido se for transformado em arbitrariedade. O equilíbrio adequado é vital, para que a proteção necessária da liberdade de expressão contra os males da desinformação e do ódio não abram caminho para a censura”

Esse debate é fundamental, mas precisa avançar em efeitos práticos. Daqui pra frente, os efeitos dessa universalização das IA será sentido em todos os aspectos da nossa vida. Inclusive nas emoções e nos relacionamentos. Destaco aqui o sentimento que a IA causou no jornalista Kevin Roose e no multimilionário do Vale do Silício: medo. Está claro que essas IA vão explorar nossos afetos. E explorar comercialmente. Estaremos em absoluta vulnerabilidade como nos filmes de ficção cientifica que povoaram nossas imaginações.

Finalizo aqui lembrando de “filmes proféticos”, como “Ela”, estrelado por Joaquim Phoenix, em que se aborda o impacto das IA nos nossos afetos, nas nossas emoções. Eis a minha dica cinéfila para o final de semana pós-carnaval

Florestan Fernandes Júnior é jornalista, escritor e Diretor de Redação do Brasil 247

Artigo publicado originalmente em Inteligência Virtual: a ficção científica vira realidade e preocupa até as Big Techs – Florestan Fernandes Jr – Brasil 247