CAMBRIDGE – Especialistas que alertam que a inteligência artificial traz riscos catastróficos comparáveis à aniquilação nuclear ignoram a natureza gradual e difusa do avanço tecnológico. Como argumentei em meu livro de 2008, The Venturesome Economy (“A Economia Audaciosa”, em tradução livre do inglês), as tecnologias transformadoras – dos motores a vapor, aviões, computadores, telefonia móvel e internet aos antibióticos e vacinas de mRNA – têm evoluído por meio de um jogo prolongado, massivo e de múltiplos atores que desafia o comando e o controle que vem de cima.
Os “vendavais de destruição criativa” de Joseph Schumpeter e as teorias mais recentes que anunciam avanços disruptivos enganam. Como vêm mostrando o historiador econômico Nathan Rosenberg e muitos outros, as tecnologias transformadoras não aparecem do nada. Em vez disso, avanços significativos exigem a descoberta e a superação gradual de vários imprevistos.
Novas tecnologias introduzem novos riscos. Invariavelmente, as aplicações militares se desenvolvem ao lado dos usos comerciais e civis. Aviões e veículos terrestres motorizados foram usados em conflitos desde a Primeira Guerra Mundial, e computadores pessoais e comunicação móvel são indispensáveis à guerra moderna. No entanto, a vida continua. Sociedades tecnologicamente avançadas desenvolveram mecanismos legais, políticos e de fiscalização da lei para conter os conflitos e a criminalidade que os avanços tecnológicos tornam possíveis. As decisões judiciais caso a caso são cruciais nos Estados Unidos e noutros países de direito consuetudinário (“common law”, no original em inglês). Esses mecanismos – como as próprias tecnologias – são evolutivos e adaptativos. Produzem soluções pragmáticas, não construções visionárias.
O Projeto Manhattan, que desenvolveu a bomba atômica e ajudou a acabar com a Segunda Guerra Mundial, foi uma exceção. Tinha um mandato militar de alta prioridade. Com os nazistas buscando desenvolver uma bomba própria, velocidade e liderança eficaz eram cruciais. Além disso, à medida que a guerra termonuclear total se tornava uma ameaça real, a diplomacia e a dissuasão estratégica ajudaram a evitar o dia do juízo final.
Contudo, as armas nucleares são uma analogia enganosa para a IA, que seguiu o padrão tipicamente difuso e paralisante de grande parte das outras transformações tecnológicas. A IA abrange técnicas diferentes – como aprendizado de máquina, reconhecimento de padrões e processamento de linguagem natural – e tem usos abrangentes. Sua característica comum é principalmente aspiracional – ir além do mero cálculo para inferências e interpretações mais especulativas, mas ainda úteis.
Ao contrário do Projeto Manhattan, que avançou a uma velocidade vertiginosa, os desenvolvedores de IA trabalham há mais de sete décadas, inserindo silenciosamente IA em tudo, de câmeras digitais e scanners até smartphones, sistemas de frenagem automática e injeção de combustível em carros, efeitos especiais em filmes, pesquisas no Google, comunicações digitais e plataformas de mídia social. E, como em outros avanços tecnológicos, há tempos a IA tem sido usada para fins militares e criminosos.
No entanto, os avanços da IA têm sido graduais e incertos. O Deep Blue da IBM derrotou o campeão mundial de xadrez Garry Kasparov em 1997 – 40 anos depois que um pesquisador da IBM escreveu o primeiro programa de xadrez. E embora o sucessor do Deep Blue, Watson, tenha ganhado US$ 1 milhão ao derrotar os campeões do Jeopardy!(programa de tv americano de perguntas e respostas) em 2011, comercialmente ele foi um fracasso. Em 2022, a IBM vendeu a Watson Health por uma fração dos bilhões que investiu. O assistente inteligente da Microsoft, Clippy, virou motivo de piada. E, após anos de desenvolvimento, os textos preenchidos automaticamente continuam a produzir resultados embaraçosos.
O aprendizado de máquina – essencialmente um procedimento estatístico turbinado do qual muitos programas de IA dependem – precisa de feedback confiável. Mas um bom feedback exige resultados inequívocos produzidos por um processo estável. Intenções humanas ambíguas, impulsividade e criatividade prejudicam o aprendizado estatístico e, portanto, limitam o escopo útil da IA. Embora o software de IA reconheça perfeitamente meu rosto nos aeroportos, ele não consegue entender direito as nuances de minhas palavras ditas cuidadosa e lentamente. A imprecisão de 16 gerações de software de ditado profissional (comprei o primeiro em 1997) me frustrou repetidas vezes.
Os grandes modelos de linguagem (Large Language Models – LLMs, na sigla em inglês), que estão se tornando o rosto público da IA, não são descontinuidades tecnológicas que transcendem magicamente as limitações do aprendizado de máquina. As declarações de que a IA está avançando em velocidade de dobra espacial confundem moda com progresso útil. Eu me tornei um usuário entusiasmado da pesquisa habilitada para IA na década de 1990. Eu, portanto, tinha grandes esperanças quando me inscrevi no beta público do ChatGPT em dezembro de 2022. Mas minhas esperanças de que ele, ou algum outro LLM, ajudasse com um livro que eu estava escrevendo foram frustradas. Embora os LLMs respondessem em frases compreensíveis a perguntas feitas em linguagem natural, suas respostas convincentes eram muitas vezes falsas.
Assim, embora eu achasse que minhas pesquisas no Google nos anos 90 fossem uma economia de tempo inestimável, verificar a precisão das respostas de LLM as tornava assassinas de produtividade. Confiar nelas para ajudar a editar e ilustrar meu manuscrito também foi perda de tempo. Essas experiências me fazem estremecer ao pensar no software cheio de falhas gerado por LLM que vem sendo lançado ao mundo.
Dito isso, as fantasias sobre LLM podem ser adjuntos valiosos para contar histórias e outros produtos de entretenimento. Talvez os chatbots LLM possam aumentar os lucros fornecendo atendimento barato, ainda que enloquecedor, ao cliente. Algum dia, um avanço pode aumentar drasticamente o escopo útil da tecnologia. Por enquanto, porém, esses cavalos falantes muitas vezes mentirosos não merecem nem euforia nem pânico sobre “riscos existenciais à humanidade”. Melhor manter a calma e deixar a tradicional evolução descentralizada de tecnologia, leis e regulamentos continuar.
Tradução por Fabrício Calado Moreira
CAMBRIDGE – Especialistas que alertam que a inteligência artificial traz riscos catastróficos comparáveis à aniquilação nuclear ignoram a natureza gradual e difusa do avanço tecnológico. Como argumentei em meu livro de 2008, The Venturesome Economy (“A Economia Audaciosa”, em tradução livre do inglês), as tecnologias transformadoras – dos motores a vapor, aviões, computadores, telefonia móvel e internet aos antibióticos e vacinas de mRNA – têm evoluído por meio de um jogo prolongado, massivo e de múltiplos atores que desafia o comando e o controle que vem de cima.
Os “vendavais de destruição criativa” de Joseph Schumpeter e as teorias mais recentes que anunciam avanços disruptivos enganam. Como vêm mostrando o historiador econômico Nathan Rosenberg e muitos outros, as tecnologias transformadoras não aparecem do nada. Em vez disso, avanços significativos exigem a descoberta e a superação gradual de vários imprevistos.
Novas tecnologias introduzem novos riscos. Invariavelmente, as aplicações militares se desenvolvem ao lado dos usos comerciais e civis. Aviões e veículos terrestres motorizados foram usados em conflitos desde a Primeira Guerra Mundial, e computadores pessoais e comunicação móvel são indispensáveis à guerra moderna. No entanto, a vida continua. Sociedades tecnologicamente avançadas desenvolveram mecanismos legais, políticos e de fiscalização da lei para conter os conflitos e a criminalidade que os avanços tecnológicos tornam possíveis. As decisões judiciais caso a caso são cruciais nos Estados Unidos e noutros países de direito consuetudinário (“common law”, no original em inglês). Esses mecanismos – como as próprias tecnologias – são evolutivos e adaptativos. Produzem soluções pragmáticas, não construções visionárias.
O Projeto Manhattan, que desenvolveu a bomba atômica e ajudou a acabar com a Segunda Guerra Mundial, foi uma exceção. Tinha um mandato militar de alta prioridade. Com os nazistas buscando desenvolver uma bomba própria, velocidade e liderança eficaz eram cruciais. Além disso, à medida que a guerra termonuclear total se tornava uma ameaça real, a diplomacia e a dissuasão estratégica ajudaram a evitar o dia do juízo final.
Contudo, as armas nucleares são uma analogia enganosa para a IA, que seguiu o padrão tipicamente difuso e paralisante de grande parte das outras transformações tecnológicas. A IA abrange técnicas diferentes – como aprendizado de máquina, reconhecimento de padrões e processamento de linguagem natural – e tem usos abrangentes. Sua característica comum é principalmente aspiracional – ir além do mero cálculo para inferências e interpretações mais especulativas, mas ainda úteis.
Ao contrário do Projeto Manhattan, que avançou a uma velocidade vertiginosa, os desenvolvedores de IA trabalham há mais de sete décadas, inserindo silenciosamente IA em tudo, de câmeras digitais e scanners até smartphones, sistemas de frenagem automática e injeção de combustível em carros, efeitos especiais em filmes, pesquisas no Google, comunicações digitais e plataformas de mídia social. E, como em outros avanços tecnológicos, há tempos a IA tem sido usada para fins militares e criminosos.
SPRING SALE: Save 40% on all new Digital or Digital Plus subscriptions
Subscribe now to gain greater access to Project Syndicate – including every commentary and our entire On Point suite of subscriber-exclusive content – starting at just $49.99.
Subscribe Now
No entanto, os avanços da IA têm sido graduais e incertos. O Deep Blue da IBM derrotou o campeão mundial de xadrez Garry Kasparov em 1997 – 40 anos depois que um pesquisador da IBM escreveu o primeiro programa de xadrez. E embora o sucessor do Deep Blue, Watson, tenha ganhado US$ 1 milhão ao derrotar os campeões do Jeopardy!(programa de tv americano de perguntas e respostas) em 2011, comercialmente ele foi um fracasso. Em 2022, a IBM vendeu a Watson Health por uma fração dos bilhões que investiu. O assistente inteligente da Microsoft, Clippy, virou motivo de piada. E, após anos de desenvolvimento, os textos preenchidos automaticamente continuam a produzir resultados embaraçosos.
O aprendizado de máquina – essencialmente um procedimento estatístico turbinado do qual muitos programas de IA dependem – precisa de feedback confiável. Mas um bom feedback exige resultados inequívocos produzidos por um processo estável. Intenções humanas ambíguas, impulsividade e criatividade prejudicam o aprendizado estatístico e, portanto, limitam o escopo útil da IA. Embora o software de IA reconheça perfeitamente meu rosto nos aeroportos, ele não consegue entender direito as nuances de minhas palavras ditas cuidadosa e lentamente. A imprecisão de 16 gerações de software de ditado profissional (comprei o primeiro em 1997) me frustrou repetidas vezes.
Os grandes modelos de linguagem (Large Language Models – LLMs, na sigla em inglês), que estão se tornando o rosto público da IA, não são descontinuidades tecnológicas que transcendem magicamente as limitações do aprendizado de máquina. As declarações de que a IA está avançando em velocidade de dobra espacial confundem moda com progresso útil. Eu me tornei um usuário entusiasmado da pesquisa habilitada para IA na década de 1990. Eu, portanto, tinha grandes esperanças quando me inscrevi no beta público do ChatGPT em dezembro de 2022. Mas minhas esperanças de que ele, ou algum outro LLM, ajudasse com um livro que eu estava escrevendo foram frustradas. Embora os LLMs respondessem em frases compreensíveis a perguntas feitas em linguagem natural, suas respostas convincentes eram muitas vezes falsas.
Assim, embora eu achasse que minhas pesquisas no Google nos anos 90 fossem uma economia de tempo inestimável, verificar a precisão das respostas de LLM as tornava assassinas de produtividade. Confiar nelas para ajudar a editar e ilustrar meu manuscrito também foi perda de tempo. Essas experiências me fazem estremecer ao pensar no software cheio de falhas gerado por LLM que vem sendo lançado ao mundo.
Dito isso, as fantasias sobre LLM podem ser adjuntos valiosos para contar histórias e outros produtos de entretenimento. Talvez os chatbots LLM possam aumentar os lucros fornecendo atendimento barato, ainda que enloquecedor, ao cliente. Algum dia, um avanço pode aumentar drasticamente o escopo útil da tecnologia. Por enquanto, porém, esses cavalos falantes muitas vezes mentirosos não merecem nem euforia nem pânico sobre “riscos existenciais à humanidade”. Melhor manter a calma e deixar a tradicional evolução descentralizada de tecnologia, leis e regulamentos continuar.
Tradução por Fabrício Calado Moreira