ESTOCOLMO – Os líderes de Silicon Valley dizem-nos que a Quarta Revolução Industrial trará incontáveis benefícios. Dizem que já está em curso e a acelerar, impelida pela inteligência artificial e por outras tecnologias, e alertam que ficaremos para trás se não acompanharmos o programa.
Esta convulsão – que também reflecte o impacto da robótica, da bio e nanotecnologia, do 5G e da Internet das Coisas (IdC) – é uma revolução polivalente. Os seus líderes e os seus reforçadores prometem que ajudará as sociedades a lidarem com as alterações climáticas, a resolver a pobreza e a desigualdade, e a estancar a perda dramática de biodiversidade.
A revolução poderá desenrolar-se dessa forma. Ou não.
Veja-se a mais recente revolução digital, que nos trouxe o Google, o Facebook e o Twitter, e que alterou a forma como a informação flui pelo mundo. À primeira vista, a capacidade de nos ligarmos on-line a outras pessoas, e de criar e partilhar facilmente conteúdos digitais em redes sociais virtuais em constante crescimento parecia ser claramente benéfica.
Mas hoje, a inundação global de desinformação permitida por estas plataformas está a dificultar a gestão da pandemia de COVID-19 e o combate às alterações climáticas. Poucas pessoas perceberam o que estava a acontecer até ser tarde demais, e agora temos de lidar com as consequências.
Então, como podem as sociedades minimizar o risco de utilização inadvertida, ignorante ou propositadamente mal-intencionada da próxima geração tecnológica?
Subscribe now to gain greater access to Project Syndicate – including every commentary and our entire On Point suite of subscriber-exclusive content – starting at less than $5 per month.
Subscribe Now
O meu trabalho tem vindo a concentrar-se na colisão de dois mundos. A tecnosfera inclui as coisas criadas pelos humanos, e ascende a cerca de 30 biliões de toneladas, ou 50 quilogramas por metro quadrado da superfície da Terra. A biosfera é a estreita camada agarrada à superfície da Terra onde a vida prospera, e onde os humanos têm desfrutado de um período de 10 000 anos de clima relativamente estável.
Comecei a interessar-me pela relação entre estes mundos ao explorar o crescimento de sistemas semiautomáticos de alerta precoce para o controlo de doenças. Isto fez-me valorizar a profundidade com que a tecnologia altera o comportamento humano, organizacional e das máquinas. Por vezes, essa influência é linear, simples e directa. Mas os efeitos da mudança tecnológica são frequentemente indirectos: propagam-se através de redes de causalidade complexas, e só se tornam visíveis depois de muito tempo. As redes sociais são um bom exemplo disto.
A tecnosfera rodeia-nos. Está prestes a tornar-se uma denominada “infra-estrutura cognitiva”, com a capacidade de processar informações, de raciocinar, de recordar, de aprender, de resolver problemas e até de tomar decisões com o mínimo de intervenção humana através do aumento da automação e da aprendizagem automática.
Em termos evolutivos, isto poderá constituir um salto gigantesco. Mas as decisões relativas à concepção e ao rumo da tecnosfera têm de reflectir objectivos sociais e o estado do planeta. A construção de um futuro mais sustentável requer, por conseguinte, que repensemos alguns pressupostos profundamente enraizados sobre o papel da tecnologia, e em especial da inteligência artificial.
O maior imperativo poderá ser o alargamento da narrativa dominante da “IA aplicada às alterações climáticas”. Na sua forma mais simples, esta narrativa concentra-se na utilização da IA para prever o clima, ou para optimizar sistemas energéticos ou fluxos de tráfego. Mas o sistema climático encontra-se fundamentalmente ligado à biosfera, com a sua biodiversidade, florestas, oceanos e ecossistemas agrícolas. O desenvolvimento e a implementação responsáveis de IA para resolução de desafios de sustentabilidade urgentes requerem a aceitação desta ligação com o planeta vivo e do nosso papel na mesma.
Além disso, enquadrar a contribuição da IA em termos de optimização e eficiência é a maneira errada de pensarmos no reforço da resiliência das pessoas e do planeta no longo prazo. A resiliência – a capacidade de recuperação de choques e de adaptação a condições em mutação – requer diversidade e redundância. Uma cidade com um grande viaduto a percorrer o seu centro será vulnerável à paralisação se for atingida por uma inundação repentina ou por um ataque terrorista. Uma cidade que tenha muitos caminhos para ir de um sítio a outro será mais resiliente.
Os sistemas optimizados para maximizar a produção (por exemplo, de uma colheita específica) são propensos a choques e a circunstâncias mutáveis. A optimização dos terrenos agrícolas para a maximização da produção através de análises previsionais e da automação é uma estratégia tentadora, mas poderia acelerar a perda do conhecimento ecológico local, amplificar as desigualdades existentes, e aumentar a dependência das monoculturas em resposta a pressões comerciais.
O potencial da IA para ajudar a combater as alterações climáticas não reside na optimização de sistemas, mas na ampliação das capacidades das pessoas para que se tornem administradores da biosfera. Esta visão mais ampla é hoje urgentemente necessária. Mas existem dois grandes riscos no esforço de orientação de máquinas inteligentes de forma a melhorarem a administração da biosfera.
O primeiro é o exagero. À medida que aumentam as pressões sobre o nosso planeta e sobre o sistema climático, também aumenta a esperança que as soluções de IA ajudem a “resolver” desafios sociais, económicos e ambientais profundamente complexos. O nosso conhecimento sobre se a IA fornece realmente benefícios climáticos importantes (e a quem) é limitado, e as avaliações existentes são muitas vezes extremamente optimistas, dado o que conhecemos da evolução tecnológica. Todas as pretensões têm de ser testadas de forma rigorosa e independente, à medida que as tecnologias de IA evoluem e se difundem com o tempo.
O segundo risco é a aceleração. A implementação de sistemas de IA e das tecnologias conexas como a IdC, o 5G e a robótica poderá levar a uma perda ainda mais rápida de resiliência da biosfera e a um aumento da extracção dos combustíveis fósseis e das matérias-primas que sustentam estas tecnologias. Por exemplo, as empresas de petróleo e de gás procuram cada vez mais cortar custos através da digitalização. Segundo uma estimativa, o mercado para os serviços digitais no sector dos combustíveis fósseis poderia crescer 500% nos próximos cinco anos, poupando anualmente cerca de 150 mil milhões de dólares aos produtores de petróleo.
A digitalização, a automação e a IA têm um potencial inexplorado para reforçar a sustentabilidade e para optimizar a exploração. Para conduzirmos a Quarta Revolução Industrial à sustentabilidade, precisamos de começar já a aplicar uma orientação melhor e mais forte às suas tecnologias.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
If COP28 is to be judged a success, the UAE, as the summit’s host, and other hydrocarbon producers should promise to dedicate some of the windfall oil and gas profits they earned last year to accelerating the green transition in the Global South. Doing so could encourage historic and current emitters to pay their fair share.
urges oil-exporting countries to kickstart a program of green investment in the Global South at COP28.
The OpenAI saga – in which founder and CEO Sam Altman was suddenly fired and then reinstated, together with a new governing board – may have been enthralling, but it was neither novel nor surprising. Historically, capital usually wins out when there are competing visions for the future of an innovative product or business model.
shows why OpenAI’s efforts to preserve its founding non-profit mission never stood any chance.
Antara Haldar
advocates a radical rethink of development, explains what went right at the recent AI Safety Summit, highlights the economics discipline’s shortcomings, and more.
Log in/Register
Please log in or register to continue. Registration is free and requires only your email address.
ESTOCOLMO – Os líderes de Silicon Valley dizem-nos que a Quarta Revolução Industrial trará incontáveis benefícios. Dizem que já está em curso e a acelerar, impelida pela inteligência artificial e por outras tecnologias, e alertam que ficaremos para trás se não acompanharmos o programa.
Esta convulsão – que também reflecte o impacto da robótica, da bio e nanotecnologia, do 5G e da Internet das Coisas (IdC) – é uma revolução polivalente. Os seus líderes e os seus reforçadores prometem que ajudará as sociedades a lidarem com as alterações climáticas, a resolver a pobreza e a desigualdade, e a estancar a perda dramática de biodiversidade.
A revolução poderá desenrolar-se dessa forma. Ou não.
Veja-se a mais recente revolução digital, que nos trouxe o Google, o Facebook e o Twitter, e que alterou a forma como a informação flui pelo mundo. À primeira vista, a capacidade de nos ligarmos on-line a outras pessoas, e de criar e partilhar facilmente conteúdos digitais em redes sociais virtuais em constante crescimento parecia ser claramente benéfica.
Mas hoje, a inundação global de desinformação permitida por estas plataformas está a dificultar a gestão da pandemia de COVID-19 e o combate às alterações climáticas. Poucas pessoas perceberam o que estava a acontecer até ser tarde demais, e agora temos de lidar com as consequências.
Então, como podem as sociedades minimizar o risco de utilização inadvertida, ignorante ou propositadamente mal-intencionada da próxima geração tecnológica?
Introductory Offer: Save 30% on PS Digital
Subscribe now to gain greater access to Project Syndicate – including every commentary and our entire On Point suite of subscriber-exclusive content – starting at less than $5 per month.
Subscribe Now
O meu trabalho tem vindo a concentrar-se na colisão de dois mundos. A tecnosfera inclui as coisas criadas pelos humanos, e ascende a cerca de 30 biliões de toneladas, ou 50 quilogramas por metro quadrado da superfície da Terra. A biosfera é a estreita camada agarrada à superfície da Terra onde a vida prospera, e onde os humanos têm desfrutado de um período de 10 000 anos de clima relativamente estável.
Comecei a interessar-me pela relação entre estes mundos ao explorar o crescimento de sistemas semiautomáticos de alerta precoce para o controlo de doenças. Isto fez-me valorizar a profundidade com que a tecnologia altera o comportamento humano, organizacional e das máquinas. Por vezes, essa influência é linear, simples e directa. Mas os efeitos da mudança tecnológica são frequentemente indirectos: propagam-se através de redes de causalidade complexas, e só se tornam visíveis depois de muito tempo. As redes sociais são um bom exemplo disto.
A tecnosfera rodeia-nos. Está prestes a tornar-se uma denominada “infra-estrutura cognitiva”, com a capacidade de processar informações, de raciocinar, de recordar, de aprender, de resolver problemas e até de tomar decisões com o mínimo de intervenção humana através do aumento da automação e da aprendizagem automática.
Em termos evolutivos, isto poderá constituir um salto gigantesco. Mas as decisões relativas à concepção e ao rumo da tecnosfera têm de reflectir objectivos sociais e o estado do planeta. A construção de um futuro mais sustentável requer, por conseguinte, que repensemos alguns pressupostos profundamente enraizados sobre o papel da tecnologia, e em especial da inteligência artificial.
O maior imperativo poderá ser o alargamento da narrativa dominante da “IA aplicada às alterações climáticas”. Na sua forma mais simples, esta narrativa concentra-se na utilização da IA para prever o clima, ou para optimizar sistemas energéticos ou fluxos de tráfego. Mas o sistema climático encontra-se fundamentalmente ligado à biosfera, com a sua biodiversidade, florestas, oceanos e ecossistemas agrícolas. O desenvolvimento e a implementação responsáveis de IA para resolução de desafios de sustentabilidade urgentes requerem a aceitação desta ligação com o planeta vivo e do nosso papel na mesma.
Além disso, enquadrar a contribuição da IA em termos de optimização e eficiência é a maneira errada de pensarmos no reforço da resiliência das pessoas e do planeta no longo prazo. A resiliência – a capacidade de recuperação de choques e de adaptação a condições em mutação – requer diversidade e redundância. Uma cidade com um grande viaduto a percorrer o seu centro será vulnerável à paralisação se for atingida por uma inundação repentina ou por um ataque terrorista. Uma cidade que tenha muitos caminhos para ir de um sítio a outro será mais resiliente.
Os sistemas optimizados para maximizar a produção (por exemplo, de uma colheita específica) são propensos a choques e a circunstâncias mutáveis. A optimização dos terrenos agrícolas para a maximização da produção através de análises previsionais e da automação é uma estratégia tentadora, mas poderia acelerar a perda do conhecimento ecológico local, amplificar as desigualdades existentes, e aumentar a dependência das monoculturas em resposta a pressões comerciais.
O potencial da IA para ajudar a combater as alterações climáticas não reside na optimização de sistemas, mas na ampliação das capacidades das pessoas para que se tornem administradores da biosfera. Esta visão mais ampla é hoje urgentemente necessária. Mas existem dois grandes riscos no esforço de orientação de máquinas inteligentes de forma a melhorarem a administração da biosfera.
O primeiro é o exagero. À medida que aumentam as pressões sobre o nosso planeta e sobre o sistema climático, também aumenta a esperança que as soluções de IA ajudem a “resolver” desafios sociais, económicos e ambientais profundamente complexos. O nosso conhecimento sobre se a IA fornece realmente benefícios climáticos importantes (e a quem) é limitado, e as avaliações existentes são muitas vezes extremamente optimistas, dado o que conhecemos da evolução tecnológica. Todas as pretensões têm de ser testadas de forma rigorosa e independente, à medida que as tecnologias de IA evoluem e se difundem com o tempo.
O segundo risco é a aceleração. A implementação de sistemas de IA e das tecnologias conexas como a IdC, o 5G e a robótica poderá levar a uma perda ainda mais rápida de resiliência da biosfera e a um aumento da extracção dos combustíveis fósseis e das matérias-primas que sustentam estas tecnologias. Por exemplo, as empresas de petróleo e de gás procuram cada vez mais cortar custos através da digitalização. Segundo uma estimativa, o mercado para os serviços digitais no sector dos combustíveis fósseis poderia crescer 500% nos próximos cinco anos, poupando anualmente cerca de 150 mil milhões de dólares aos produtores de petróleo.
A digitalização, a automação e a IA têm um potencial inexplorado para reforçar a sustentabilidade e para optimizar a exploração. Para conduzirmos a Quarta Revolução Industrial à sustentabilidade, precisamos de começar já a aplicar uma orientação melhor e mais forte às suas tecnologias.