A ameaça da IA às sociedades abertas

DAVOS – Quero alertar o mundo sobre um perigo sem precedentes que está a ameaçar a própria sobrevivência das sociedades abertas.

O rápido aperfeiçoamento dos instrumentos de controlo que a aprendizagem automática e a inteligência artificial podem produzir estão a dar uma vantagem inerente aos regimes repressivos. Para eles, o aperfeiçoamento dos instrumentos de controlo são uma ajuda; para as sociedades abertas, ele constitui um perigo mortal.

Irei focar-me na China, onde o presidente Xi Jinping quer que um estado de partido único tenha um reinado supremo. Xi está a tentar consolidar todas as informações disponíveis sobre uma pessoa num banco de dados centralizado, para criar um “sistema de crédito social”. Com base nesses dados, as pessoas serão avaliadas através de algoritmos, que determinarão se representam uma ameaça ao estado de partido único. As pessoas serão, então, tratadas em conformidade.