Inteligência Artificial e Ética: como retornar os dinossauros ao Jurassic Park?

No primeiro filme da série Jurassic Park (Steven Spielberg, 1993) três cientistas – dois paleontólogos e um matemático – recebem autorização para visitar a ilha secreta de Nublar onde se desenvolvia um experimento de segurança máxima, sob controle do Governo norte-americano.  Os cientistas, entre fascinados e apavorados, ficam admirados com o espetáculo dos dinossauros “ressuscitados” graças a um fragmento de DNA preservado em âmbar.

O suspense eletrizante do filme, razão do seu enorme sucesso, dispara quando um tiranossauro-rex escapole da área restrita após uma pane elétrica na ilha. E dá início a uma perseguição implacável, com carnificina.

O cientista Gary Marcus, referência na área, tomou o filme como alegoria para se referir ao que está acontecendo agora com o descontrole da IA (Inteligência Artificial) e a difusão precipitada do ChatGPT e similares. Como os dinossauros, a Inteligência Artificial escapou do controle.

Em 2022, ele e mais de 700 acadêmicos e pesquisadores, integrantes das principais empresas de TI, assinaram a famosa moratória, pedindo trégua e mais tempo de maturação para se disponibilizar serviços e  produtos de Inteligência Artificial, já que ainda não inspiram confiança.

Marcus é professor emérito na New York University, nos EUA, autor de um dos sete livros obrigatórios sobre IA segundo a Forbes, e criador da Geometric Intelligence, empresa adquirida pela  Uber.  Sempre foi atento aos rumos da Inteligência Artificial e crítico da banalização de aplicativos como o Chat GPT.

Seu artigo publicado no New York Time, em dezembro de 2022, “AI’s Jurassic moment” (1) traz um subtítulo revelador:  “Novos sistemas como o chatGPT são extremamente divertidos e até incompreensíveis, mas não são confiáveis e são potencialmente perigosos”. Ou seja, é uma tecnologia “bonitinha, mas ordinária”, na expressão de Nelson Rodrigues.

Ele virou uma espécie de profetiza Cassandra da tecnologia, a princesa troiana da mitologia grega possuidora do dom de anunciar vaticínios que ninguém acreditava. Foi desacreditado, chamado de insano e alarmista, ridicularizado por suas advertências sobre a falta de regulamentação, pela promiscuidade no uso de dados privados e as graves distorções éticas.  Finalmente, a situação se reverteu e hoje é uma voz que merece atenção.

Ele não cessa de alertar aos cientistas que, a seu ver, parecem dopados ou ingênuos, e não percebem que algo irracional está se sucedendo com a inteligência artificial neste momento – e não é inteiramente para o bem. A inteligência artificial, defende ele, do modo como tem sido disponibilizada, pode vir a ser muito destrutiva, já que seu sistema não é confiável.

A Inteligência Artificial está presente em nossas vidas por meio de seus bots, humanoides e robôs que superam os humanos em algumas ações ou podem atuar em parceria. Já estamos habituados com a voz do GPS, confiamos na orientação do Waze, consultamos os oráculos digitais como o Google ou outros buscadores, conversamos com assistentes virtuais como Alexia e Siri, é ela que nos induz o filme da NETFLIX que “desejamos” ver, enfim, são diversas as situações de simbiose nossa com esta inteligência matemática.

Na indústria, na prestação de serviços, no atendimento ao público, etc. a AI já está onipresente,  promovendo disrupção, gerando economia e elevando a produtividade.

Mas o desafio do texto é questionar sobre a relação da IA com a Ética. Precisamos levantar questões inconvenientes sobre cenários ameaçadores. Como ficará o mundo do trabalho? A IA vai devorar nossos empregos?  Quem vai coibir a disseminação das fake news? Como poderemos competir com os robôs? Como confiar nas big techs? Ficou claro que elas monetizam e faturam com a disseminação de fake news.

As cinco maiores “mineradoras de dados” cujas iniciais formam a palavra GANAM – Google, Apple, Meta, Amazon e Microsoft – extraem informações sobre nossos perfis com fins comerciais ou eleitoreiros ( vide escândalo da Cambridge Analytica ), sem que fique claro o destino de nossas postagens, fotos, vídeos, likes, documentos, etc. É explícita a ausência de ética nesta assimetria digital. Elas sabem tudo sobre nós e nós não sabemos nada sobre seus bastidores. (2)

O mais deprimente é constatar o entorpecimento do pensamento crítico, a saturação de informações e a vertigem de imagens banais. “A poluição mental bloqueia a capacidade de refletir” afirmou o  papa Francisco em recente evento global coordenado pelo Vaticano, em janeiro de 2023, em parceria com os CEOs da Microsoft e da IBM, o Parlamento Europeu e a FAO. O fórum reuniu especialistas mundiais sobre limites éticos na tecnologia e resultou num documento denominado Apelo de Roma pela Ética na IA (Rome call for AI Ethics). (3)

É curioso ver o contraste entre o novo e o antigo. De um lado, os experts das empresas de alta tecnologia e mentes voltadas para o futuro e dos guardiães da tradição ética cristã e de valores humanos e espirituais, em um cenário como Roma, uma urbe com transbordante apelo histórico.

Além da tradição cristã, representantes das outras duas religiões abraâmicas – do judaísmo e do islamismo – abraçaram a iniciativa e passaram a integrar o Apelo de Roma. (4). Seis são os fundamentos éticos esperados na relação com a IA: transparência, inclusão, responsabilidade, imparcialidade, integridade e segurança e respeito à privacidade dos usuários.

Ao redigir este texto, por feliz coincidência, me deparei com uma síntese lapidar escrita pelo historiador israelense Yuval N. Harari:

“No começo havia a palavra. A linguagem é o sistema operacional da cultura humana. Da linguagem emergem o mito e as leis, os deuses e o dinheiro, a arte e a ciência, as amizades e as nações – até mesmo o código computacional. O novo domínio da linguagem da inteligência artificial significa que ela pode hackear e manipular o sistema operacional da civilização. Ao obter o domínio da linguagem, a inteligência artificial está se apoderando da chave-mestra da civilização, dos cofres dos bancos aos santos sepulcros.” (5)

Como o gênio da lâmpada de Aladim, a Inteligência Artificial foi liberada para atender aos amos e senhores. O desafio é fazê-la retornar à lâmpada maravilhosa.

Referências

1.  https://garymarcus.substack.com/p/ais-jurassic-park-moment
2.  https://www.ihu.unisinos.br/categorias/596692-apelo-de-roma-por-uma-etica-da-inteligencia-artificial
3.  https://www.ibm.com/blogs/ibm-comunica/ibm-assina-rome-call-for-ai-ethicsapresentado-ao-papa-francisco-hoje-em-roma
4. https://www.vaticannews.va/pt/papa/news/2023-01/papa-francisco-inteligencia-artificial-desenvolvimento-humano.html
5. Precisamos aprender a dominar a inteligência artificial antes que ela nos domine. Yuval Harari in O Globo, 16.03.2023.

_______________
O conteúdo e opinião publicados neste artigo são de inteira responsabilidade do autor ou autora.