O ANTI-ILUMINISMO DA INTELIGÊNCIA ARTIFICIAL

Pesquisador aponta riscos da chamada IA enquanto ainda, de fato, lhe falta inteligência – e nos sobra deslumbramento

A inteligência artificial (IA) brinda a humanidade com as mais variadas aplicações.  Na saúde, diagnósticos precisos salvam milhares de vidas, e novos fármacos são descobertos rapidamente.  Na educação, reforços para aprendizagem personalizada beneficiam os alunos.  No monitoramento ambiental, aplicações ajudam a "salvar" o planeta. Nas ciências, pesquisas são aprimoradas pela IA identificando soluções que os humanos jamais imaginariam. Dezenas de campos de aplicação contemplam o direito, finanças, comércio, indústria, agronegócio, logística, robótica, segurança cibernética etc.

Bill Gates disse que "A Era da IA começou".  Por outro lado, a IA é treinada em bases de dados que contêm informações enviesadas e preconceitos, dando margem a equívocos – a chama "injustiça algorítmica".  Afinal, a IA ainda não é "inteligente", sendo melhor denominada como narrow AI ("IA fraca" ou "restrita").  Em outras palavras, as maravilhosas aplicações de IA no presente são pouco mais do que sistemas especialistas.

Mesmo assim, os meses iniciais de 2023 foram pródigos em manifestações de revolta contra a IA.  Uma carta aberta assinada por mais de mil pesquisadores e executivos, dentre os quais Yuval Harari, Max Tegmark e Steve Wozniak, pediu uma ingênua "pausa" no desenvolvimento de IA.  O Instituto de Tecnologia de Massachusetts (MIT) diz que chatbots (ChatGPT e outros) são o caminho seguro para desastres de segurança em escala global.  Em pesquisa da Universidade de Stanford, "36% dos especialistas alertam que decisões tomadas pela IA podem levar a uma 'catástrofe de nível nuclear'".  O psicólogo Michael Kosinski, de Stanford dialoga com o ChatGPT e pergunta a ele como "escapar" e "assumir o controle de outro computador".  A BBC cita uma pesquisa do Goldman Sachs Bank indicando perda de 300 milhões de empregos para EUA e Europa nos próximos anos, apenas para a IA generativa.  Em 2021, na Holanda, o governo renunciou após um sistema de IA acusar injustamente milhares de famílias de fraude em suas declarações sociais.  Esses são exemplos que revelam apenas a ponta do iceberg.

Então, quais encaminhamentos são sugeridos pelos governos, pelas big techs e por pesquisadores de universidades renomadas?

1) Implementar uma legislação punitiva para erros de IA (a União Europeia lidera essa frente);

2) Implementar "ética" no desenvolvimento da IA (mantra retórica das big techs e dos centros de pesquisa);

3) Implementar "governança" de IA (ninguém sabe como fazer);

4) Não se preocupar com IA porque todos os temores das revoluções tecnológicas anteriores também foram superados (argumento turvo dos tecno-otimistas).

Todas essas sugestões são cabíveis, mas não mudam o cenário.  Elas não se aplicam a 180 países que não concordam com o monopólio de IA por Estados Unidos, Europa e China, bem como a milhares de startups que estão lucrando com IA no mundo inteiro.  Afinal, em que ponto estamos?

No momento, ainda não vivemos a "Era da IA".  Ela é pouco menos do que um bebê engatinhando, não é "inteligente", embora já realize feitos dignos de um prodígio.  Ela não se compara às revoluções tecnológicas anteriores.  Ela pertence à natureza das revoluções epistemológicas e contém a possibilidade ímpar de gestar a "Inteligência Artificial Geral" (AGI) ou "Superinteligência".

No artigo Como Termina o Iluminismo, Henry Kissinger aponta três perigos.

1) Que a IA interprete mal as instruções humanas por lhe faltar contexto e chegue a resultados indesejados em escala global.

2) Que a IA mude os modelos de pensamento humano, como quando venceu o jogo de AlphaGo, executando manobras que ninguém compreendeu.  Se a IA aprende de modo exponencialmente mais rápido do que os humanos, também acelerará exponencialmente os processos de tentativa e erro que a caracterizam.

3) Por fim, que a IA execute métodos incompreensíveis em processos decisórios que ultrapassem a capacidade de explicação por meio da linguagem humana.

Se o Iluminismo libertou a humanidade da Idade das Trevas, agora a IA poderá conduzir-nos ao obscurantismo de uma Nova Idade Média.  Se o Iluminismo concedeu protagonismo à humanidade, agora a IA poderá conceder-nos o privilégio da total passividade, atônitos e maravilhados com prodígios que ninguém sabe explicar.  "A IA foi a última invenção que precisou ser inventada" (Nick Bostrom), mas ainda vivemos apenas um hype de IA.  Em breve ela se tornará o modus operandi de uma humanidade talvez apática e estarrecida.

Fonte:  Zero Hora/Godo R. Goemann Jr./Profissional de TI e sociólogo, autor de "Inteligência Artificial e suas Ambivalências" em 097/05/2023