Inteligência Artificial e Ética: como retornar os dinossauros ao Jurassic Park?

maio/2023

No primeiro filme da série Jurassic Park (Steven Spielberg, 1993) três cientistas – dois paleontólogos e um matemático – recebem autorização para visitar a ilha secreta de Nublar onde se desenvolvia um experimento de segurança máxima, sob controle do Governo norte-americano.  Os cientistas, entre fascinados e apavorados, ficam admirados com o espetáculo dos dinossauros “ressuscitados” graças a um fragmento de DNA preservado em âmbar.

O suspense eletrizante do filme, razão do seu enorme sucesso, dispara quando um tiranossauro-rex escapole da área restrita após uma pane elétrica na ilha. E dá início a uma perseguição implacável, com carnificina.

O cientista Gary Marcus, referência na área, tomou o filme como alegoria para se referir ao que está acontecendo agora com o descontrole da IA (Inteligência Artificial) e a difusão precipitada do ChatGPT e similares. Como os dinossauros, a Inteligência Artificial escapou do controle.

Em 2022, ele e mais de 700 acadêmicos e pesquisadores, integrantes das principais empresas de TI, assinaram a famosa moratória, pedindo trégua e mais tempo de maturação para se disponibilizar serviços e  produtos de Inteligência Artificial, já que ainda não inspiram confiança.

Marcus é professor emérito na New York University, nos EUA, autor de um dos sete livros obrigatórios sobre IA segundo a Forbes, e criador da Geometric Intelligence, empresa adquirida pela  Uber.  Sempre foi atento aos rumos da Inteligência Artificial e crítico da banalização de aplicativos como o Chat GPT.

Seu artigo publicado no New York Time, em dezembro de 2022, “AI’s Jurassic moment” (1) traz um subtítulo revelador:  “Novos sistemas como o chatGPT são extremamente divertidos e até incompreensíveis, mas não são confiáveis e são potencialmente perigosos”. Ou seja, é uma tecnologia “bonitinha, mas ordinária”, na expressão de Nelson Rodrigues.

Ele virou uma espécie de profetiza Cassandra da tecnologia, a princesa troiana da mitologia grega possuidora do dom de anunciar vaticínios que ninguém acreditava. Foi desacreditado, chamado de insano e alarmista, ridicularizado por suas advertências sobre a falta de regulamentação, pela promiscuidade no uso de dados privados e as graves distorções éticas.  Finalmente, a situação se reverteu e hoje é uma voz que merece atenção.

Ele não cessa de alertar aos cientistas que, a seu ver, parecem dopados ou ingênuos, e não percebem que algo irracional está se sucedendo com a inteligência artificial neste momento – e não é inteiramente para o bem. A inteligência artificial, defende ele, do modo como tem sido disponibilizada, pode vir a ser muito destrutiva, já que seu sistema não é confiável.

A Inteligência Artificial está presente em nossas vidas por meio de seus bots, humanoides e robôs que superam os humanos em algumas ações ou podem atuar em parceria. Já estamos habituados com a voz do GPS, confiamos na orientação do Waze, consultamos os oráculos digitais como o Google ou outros buscadores, conversamos com assistentes virtuais como Alexia e Siri, é ela que nos induz o filme da NETFLIX que “desejamos” ver, enfim, são diversas as situações de simbiose nossa com esta inteligência matemática.

Na indústria, na prestação de serviços, no atendimento ao público, etc. a AI já está onipresente,  promovendo disrupção, gerando economia e elevando a produtividade.

Mas o desafio do texto é questionar sobre a relação da IA com a Ética. Precisamos levantar questões inconvenientes sobre cenários ameaçadores. Como ficará o mundo do trabalho? A IA vai devorar nossos empregos?  Quem vai coibir a disseminação das fake news? Como poderemos competir com os robôs? Como confiar nas big techs? Ficou claro que elas monetizam e faturam com a disseminação de fake news.

As cinco maiores “mineradoras de dados” cujas iniciais formam a palavra GANAM – Google, Apple, Meta, Amazon e Microsoft – extraem informações sobre nossos perfis com fins comerciais ou eleitoreiros ( vide escândalo da Cambridge Analytica ), sem que fique claro o destino de nossas postagens, fotos, vídeos, likes, documentos, etc. É explícita a ausência de ética nesta assimetria digital. Elas sabem tudo sobre nós e nós não sabemos nada sobre seus bastidores. (2)

O mais deprimente é constatar o entorpecimento do pensamento crítico, a saturação de informações e a vertigem de imagens banais. “A poluição mental bloqueia a capacidade de refletir” afirmou o  papa Francisco em recente evento global coordenado pelo Vaticano, em janeiro de 2023, em parceria com os CEOs da Microsoft e da IBM, o Parlamento Europeu e a FAO. O fórum reuniu especialistas mundiais sobre limites éticos na tecnologia e resultou num documento denominado Apelo de Roma pela Ética na IA (Rome call for AI Ethics). (3)

É curioso ver o contraste entre o novo e o antigo. De um lado, os experts das empresas de alta tecnologia e mentes voltadas para o futuro e dos guardiães da tradição ética cristã e de valores humanos e espirituais, em um cenário como Roma, uma urbe com transbordante apelo histórico.

Além da tradição cristã, representantes das outras duas religiões abraâmicas – do judaísmo e do islamismo – abraçaram a iniciativa e passaram a integrar o Apelo de Roma. (4). Seis são os fundamentos éticos esperados na relação com a IA: transparência, inclusão, responsabilidade, imparcialidade, integridade e segurança e respeito à privacidade dos usuários.

Ao redigir este texto, por feliz coincidência, me deparei com uma síntese lapidar escrita pelo historiador israelense Yuval N. Harari:

“No começo havia a palavra. A linguagem é o sistema operacional da cultura humana. Da linguagem emergem o mito e as leis, os deuses e o dinheiro, a arte e a ciência, as amizades e as nações – até mesmo o código computacional. O novo domínio da linguagem da inteligência artificial significa que ela pode hackear e manipular o sistema operacional da civilização. Ao obter o domínio da linguagem, a inteligência artificial está se apoderando da chave-mestra da civilização, dos cofres dos bancos aos santos sepulcros.” (5)

Como o gênio da lâmpada de Aladim, a Inteligência Artificial foi liberada para atender aos amos e senhores. O desafio é fazê-la retornar à lâmpada maravilhosa.

 

Referências

  1.  https://garymarcus.substack.com/p/ais-jurassic-park-moment
  2.  https://www.ihu.unisinos.br/categorias/596692-apelo-de-roma-por-uma-etica-da-inteligencia-artificial
  3.  https://www.ibm.com/blogs/ibm-comunica/ibm-assina-rome-call-for-ai-ethicsapresentado-ao-papa-francisco-hoje-em-roma
  4. https://www.vaticannews.va/pt/papa/news/2023-01/papa-francisco-inteligencia-artificial-desenvolvimento-humano.html
  5. Precisamos aprender a dominar a inteligência artificial antes que ela nos domine. Yuval Harari in O Globo, 16.03.2023.

    _______________
    O conteúdo e opinião publicados neste artigo são de inteira responsabilidade do autor ou autora.

    Carlos Linhares

    Carlos Linhares

    Colunista

    Psicólogo e antropólogo, mestre e doutor pela UFBA. Atua na UNEB e UNIFACS. Consultor em Organizações, coach, instrutor e palestrante. Sócio diretor da Strata Consulting.
    Mais artigos

    A potência oculta dos ritos de passagem

    Vocês já repararam quantos ritos celebramos nos meses do verão? A temporada começa antes do Natal. Sagrados ou profanos, eles estão presentes nas tradicionais confraternizações que demarcam o fim do ano laboral, com os lúdicos “amigos-secretos”, típicos ritos “de...

    ler mais

    Priorizar a saúde mental

    Foi há uns tantos anos atrás, eu atuava em um RH do Polo Petroquímico de Camaçari, foi quando escutei um operário chamar um colega de chão de fábrica, de Tarja Preta. Rodrigo era seu nome e ele havia usado antidepressivos ao longo de um período da doença. O bastante...

    ler mais

    Os saveiros e a aceleração social do tempo

    Um dos produtos mais misteriosos que os mestres de saveiros transportavam nos barcos ancorados no Porto da Barra de minha infância era o Tempo. Traziam todo tipo de mercadoria para abastecer a feira livre do bairro, vindos das mais longínquas praias, muito além da...

    ler mais

    Pensamento crítico e inteligência artificial

    Era o Reino das Matemáticas, no curso de Tecnologia da Informação. Foram vários semestres ao longo de quatro anos, diferentes turmas, mas em cada uma  fui recebido com um misto de cordialidade e desconfiança. Temiam que a disciplina de Psicologia fosse perda de tempo...

    ler mais

    junte-se ao mercado