O ex-secretário de Estado americano, Henry Kissinger continuou aprendendo até o fim de sua vida. No meio século antes de morrer, em 2023, aos 100 anos, ele se tornou um especialista em IA (inteligência artificial), somando-se aos campos da história, da filosofia, da diplomacia da Guerra Fria e da dissuasão nuclear que o tornaram um mestre da realpolitik do século 20.
Polímatas são raros, como ele e seus coautores, Craig Mundie, ex-Microsoft, e Eric Schmidt, que dirigiu o Google, apontam em “Genesis”. Humanos não vivem o suficiente para dominar mais do que algumas disciplinas. Mas a IA, dizem eles, será “o polímata definitivo”, empurrando os limites da descoberta, da nanotecnologia ao espaço sideral, e sem as restrições dos medos humanos ou limitações biológicas.
O desenvolvimento da IA poderia ser a maior conquista da humanidade. No entanto, poderia acabar substituindo —e subjugando— seus próprios inventores.
Essa sensação do poder prometeico da IA será familiar para aqueles que leram o livro anterior de Kissinger sobre o tema, “A Era da IA”, publicado em 2021 (Schmidt foi coautor). Mas “Genesis” é um pós-escrito póstumo, escrito com mais elegância e um senso mais sombrio de pressentimento do que seu antecessor, e é tanto sobre humanos quanto sobre máquinas.
A IA, sugere, está à beira de uma inteligência sobre-humana, que as pessoas ou controlarão ou serão controladas por ela. A capacidade do homem de coexistir com ela requer um entendimento comum da humanidade que pode ser ainda mais elusivo em um mundo polarizado.
O livro argumenta que a IA ameaça algumas das convicções mais fortes da humanidade. As pessoas acreditam em uma hierarquia: humanos, depois animais e depois máquinas. A IA poderia elevar as máquinas ao topo da hierarquia. As pessoas se identificam por nações, mas, na era da IA, o poder semelhante ao soberano poderia acumular-se nas empresas privadas que possuem e desenvolvem a tecnologia de IA.
O trabalho ajuda a moldar a identidade humana, mas a IA reformulará o papel do trabalho e a distribuição das recompensas. As guerras serão travadas entre inimigos implacáveis que não sentem dor (como consolo, podem preferir atacar os centros de dados uns dos outros em vez de pessoas). As pessoas acreditam no poder da razão, mas ainda não entendem como os grandes modelos de linguagem chegam às suas conclusões. É esse um “esclarecimento sombrio”, trazendo de volta uma era de autoridade inexplicada, quase religiosa?
Para avaliar até que ponto os humanos manterão o controle de seu destino, o livro lida com uma escolha: a humanidade deve se tornar mais parecida com as IAs (frequentemente se refere a elas no plural) ou as IAs devem se tornar mais parecidas com as pessoas? Sua tentativa de responder à primeira pergunta é superficial e pouco convincente. Fala de como os humanos “coevoluirão” com as máquinas por meio de “interfaces cérebro-computador” e outras formas de engenharia neural semelhantes à ficção científica, a fim de criar super-humanos. Mas recua diante dos riscos claros.
Mais interessante é a discussão sobre como as pessoas podem infundir a IA com um senso de dignidade e valores humanos. Embora modelos “longe de serem perfeitos” tenham sido soltos no mundo, as pessoas estão aprendendo a torná-los mais seguros. Além de ingerir regras e regulamentos globais e locais, os modelos de IA aprenderão “doxa”, ou códigos humanos não escritos e sobrepostos que, em geral, mantêm a humanidade estável.
No entanto, fica mais complicado quando se considera quem deve decidir o senso de certo e errado das máquinas, seu mecanismo de segurança final. (Vale lembrar que alguns questionaram a consciência de Kissinger.) “Genesis” afirma que forjar consenso sobre quais são os valores humanos e como invocá-los para prevenir os perigos mais extremos da IA é a “tarefa filosófica, diplomática e legal do século”.
A última viagem ao exterior de Kissinger foi à China, a convite do dirigente Xi Jinping, para discutir os muitos riscos que a humanidade enfrentava com a IA. Do além-túmulo, Kissinger está apontando na direção certa. Mas é difícil pensar em alguém com sua estatura de estadista que liderará as conversas necessárias, abrangendo o mundo e gerações, nos próximos anos.
The Economist – tradução de Helena Schuster. O artigo original, em inglês, pode ser encontrado em www.economist.com