RIO DE JANEIRO – Die vergangenen Monate könnten als der Moment in die Geschichte eingehen, an dem prädiktive künstliche Intelligenz Einzug in den Mainstream hielt. Obwohl Vorhersage-Algorithmen schon seit Jahrzehnten im Einsatz sind, hat die Freigabe von Anwendungen wie ChatGPT3 von OpenAI - und ihre rasche Integration in Microsofts Suchmaschine Bing - möglicherweise die Schleusen für benutzerfreundliche KI geöffnet. Innerhalb weniger Wochen nach der Inbetriebnahme von ChatGPT3 zählte die Anwendung monatlich bereits100 Millionen User, von denen zweifellos schon viele Bekanntschaft mit den Schattenseiten des Programms gemacht haben – von Beleidigungen undDrohungen bis hin zu Desinformation und einer nachgewiesenen Fähigkeit zur Programmierung vonSchadcode.
Chatbots, die Schlagzeilen generieren, sind nur die Spitze des Eisbergs. KI zur Erstellung von Text, Sprache, Kunst und Videos macht rasante Fortschritte und hat weitreichende Auswirkungen auf Governance, Handel und das öffentliche Leben. So überrascht es nicht, dass riesige Mengen an Kapital in den Sektorfließen. Sowohl Staaten als auch Unternehmen investieren in Start-ups, um die neuesten Tools maschinellen Lernens zu entwickeln und einzusetzen. Diese neuen Anwendungen werden historische Daten mit maschinellem Lernen, natürlicher Sprachverarbeitung und Deep Learning kombinieren, um die Eintrittswahrscheinlichkeit zukünftiger Ereignisse zu eruieren.
Von zentraler Bedeutung ist, dass die Nutzung der neuen natürlichen Sprachverarbeitung und generativer KI nicht auf wohlhabende Länder und Unternehmen wie Google, Meta und Microsoft beschränkt bleiben wird, die an vorderster Front der Entwicklung dieser Technologien stehen. Vielmehr breitet sich diese Zukunftstechnik bereits in Ländern niedriger und mittlerer Einkommen aus. Dort versprechen sich klamme Regierungen, Unternehmen und NGOs, denen es um Effizienzverbesserungen und die Erschließung sozialer und wirtschaftlicher Vorteile geht, enormes Potenzial von prädiktiver Analytik – nämlich von der Reduzierung urbaner Ungleichheit bis hin zu verbesserter Ernährungssicherheit.
Das Problem besteht jedoch darin, dass potentiellen negativen Externalitäten und unbeabsichtigten Auswirkungen dieser Technologien nicht genügend Aufmerksamkeit geschenkt wird. Das offenkundigste Risiko ist, dass diese beispiellos leistungsfähigen Vorhersagetools die Überwachungskapazitäten autoritärer Regime stärken.
Ein vielzitiertes Beispiel ist Chinas „Sozialkredit-System,” im Rahmen dessen jeder Person im Land anhand von Kreditverläufen, strafrechtlichen Verurteilungen, Online-Verhalten und anderen Daten Punkte zugewiesen werden. Diese Punktzahl kann dann ausschlaggebend dafür sein, ob eine Person einen Kredit aufnehmen, eine gute Schule besuchen, mit der Bahn oder dem Flugzeug reisen darf und so weiter. Obwohl das chinesische System als Instrument zur Verbesserung der Transparenz angepriesen wird, ist es auch ein Instrument sozialer Kontrolle.
Doch selbst bei Nutzung durch vordergründig wohlmeinende demokratische Regierungen oder auf soziales Wohl ausgerichtete Unternehmen sowie fortschrittliche gemeinnützige Organisationen können prädiktive Tools suboptimale Ergebnisse zur Folge haben. Konstruktionsfehler in den zugrunde liegenden Algorithmen und tendenziöse Datensätze können zu Datenschutz-Verletzungen und identitätsbasierter Diskriminierung führen. Zu einem eklatanten Problem ist das bereits in der Strafjustiz geworden, wo prädiktive Analytik ethnische und sozioökonomische Ungleichheiten regelmäßig weiter fortschreibt. So hat beispielsweise ein KI-System, das der US-Richterschaft bei der Einschätzung der Rückfallwahrscheinlichkeit helfen soll,fälschlicherweise festgestellt, dass schwarze Angeklagte ein weitaus höheres Risiko haben, erneut straffällig zu werden als weiße.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Ebenso wächst die Sorge darüber, in welcher Weise KI Ungleichheiten am Arbeitsplatz vertiefen könnte. Bislang haben prädiktive Algorithmen Effizienz und Gewinne in einer Weise gesteigert, von der Manager und Aktionäreauf Kosten der gewöhnlichen Beschäftigten profitierten (vor allem in der Gig-Economy).
In all diesen Beispielen halten KI-Systeme der Gesellschaft einen Zerrspiegel vor, in dem sich unsere Vorurteile und Ungerechtigkeiten reflektieren und verstärken. Wie Technologieforscherin Nanjira Sambulifeststellt, führt die Digitalisierung eher zu einer Verschärfung als zu einer Abschwächung bereits bestehender politischer, sozialer und wirtschaftlicher Probleme.
Es gilt, dem Enthusiasmus über die Einführung von Prognoseinstrumenten sachkundige und ethische Abwägungen hinsichtlich der beabsichtigten und unbeabsichtigten Auswirkungen gegenüberzustellen. In Fällen, in denen die Auswirkungen leistungsstarker Algorithmen umstritten oder unbekannt sind, würde das Vorsichtsprinzip von deren Einsatz abraten.
Wir dürfen nicht zulassen, dass KI zu einem weiteren Bereich wird, in dem Entscheidungstragende um Vergebung statt um Erlaubnis bitten. Aus diesem Grund haben der Hohe Kommissar der Vereinten Nationen für Menschenrechte und andereMoratorien für die Einführung von KI-Systemen gefordert, bis ethische und menschenrechtliche Rahmenbedingungen auf den neuesten Stand gebracht wurden, um so den möglicherweise schädlichen Auswirkungen dieser Systeme Rechnung zu tragen.
Die Ausarbeitung eines geeigneten Rahmenwerks erfordert einen Konsens über die grundlegenden Prinzipien, die der Entwicklung und dem Einsatz von prädiktiven KI-Tools zugrunde liegen sollten. Glücklicherweise hat der Wettlauf im Bereich KI parallel zu einer Fülle an Forschungsarbeiten, Initiativen, Instituten und Netzwerken zu ethischen Fragen geführt. Und obwohl die Zivilgesellschaft die Führungsrolle übernommen hat, sind inzwischen auch zwischenstaatliche Organisationen wie die OECD und die UNESCO involviert.
Die Vereinten Nationen arbeiten zumindest seit 2021 am Aufbau universeller Standards für ethische KI. Darüber hinaus hat die Europäische Union einen Gesetzesvorschlag zu KI vorgelegt – der erste derartige Versuch eines großen Regulierers – im Rahmen dessen bestimmte Anwendungen (die etwa dem chinesischen Sozialkredit-System ähneln) blockiert werden sollen und andere risikoreiche Anwendungen spezifischen Anforderungen und Kontrollen unterworfen wären.
Bis dato konzentriert sich diese Debatte vor allem auf Nordamerika und Westeuropa. Doch Länder mit niedrigem und mittlerem Einkommen haben ihre eigenen Grundbedürfnisse, Bedenken und sozialen Ungerechtigkeiten zu berücksichtigen. Es gibt zahlreiche wissenschaftliche Untersuchungen, die belegen, dass Technologien, die von und für Märkte in fortgeschrittenen Volkswirtschaften entwickelt wurden, für weniger entwickelte Volkswirtschaftenoft ungeeignet sind.
Werden die neuen KI-Tools einfach importiert und auf breiter Basis eingesetzt, bevor die erforderlichen Governance-Strukturen vorhanden sind, könnten sie leicht mehr schaden als nützen. All diese Fragen gilt es zu berücksichtigen, wenn wir wirklich universelle Prinzipien für die KI-Governance entwickeln wollen.
In Anerkennung dieser Lücken haben das Igarapé Institute und New America vor kurzem eine neue Globale Taskforce zu prädiktiver Analytik in den Bereichen Sicherheit und Entwicklung eingerichtet. In dieser Arbeitsgruppe werden Aktivisten im Bereich digitaler Rechte, Partner aus dem öffentlichen Sektor, Tech-Unternehmer und Sozialwissenschaftler aus Nord- und Südamerika, Afrika, Asien und Europa gemeinsam erste Grundsätze für den Einsatz von Vorhersagetechnologien in den Bereichen öffentliche Sicherheit und nachhaltige Entwicklung im globalen Süden definieren.
Die Formulierung dieser Grundsätze und Standards ist nur ein erster Schritt. Die größere Herausforderung wird darin bestehen, die für deren Umsetzung in Recht und Praxis erforderliche Zusammenarbeit und Koordination auf internationaler, nationaler und subnationaler Ebene zu organisieren. In der weltweiten Euphorie über die Entwicklung und den Einsatz neuer prädiktiver KI-Tools ist ein Rahmenwerk zur Schadensprävention unerlässlich, um eine sichere, florierende, nachhaltige und auf den Menschen ausgerichtete Zukunft zu gewährleisten.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
The escalating war in the Middle East must be understood in a broader context. The fact that the Iranian regime felt emboldened to risk a direct strike on Israel attests to a changing world order in which Western power is increasingly open to challenge.
considers the implications of Iran’s unprecedented decision to launch a direct strike on Israeli territory.
RIO DE JANEIRO – Die vergangenen Monate könnten als der Moment in die Geschichte eingehen, an dem prädiktive künstliche Intelligenz Einzug in den Mainstream hielt. Obwohl Vorhersage-Algorithmen schon seit Jahrzehnten im Einsatz sind, hat die Freigabe von Anwendungen wie ChatGPT3 von OpenAI - und ihre rasche Integration in Microsofts Suchmaschine Bing - möglicherweise die Schleusen für benutzerfreundliche KI geöffnet. Innerhalb weniger Wochen nach der Inbetriebnahme von ChatGPT3 zählte die Anwendung monatlich bereits 100 Millionen User, von denen zweifellos schon viele Bekanntschaft mit den Schattenseiten des Programms gemacht haben – von Beleidigungen und Drohungen bis hin zu Desinformation und einer nachgewiesenen Fähigkeit zur Programmierung von Schadcode.
Chatbots, die Schlagzeilen generieren, sind nur die Spitze des Eisbergs. KI zur Erstellung von Text, Sprache, Kunst und Videos macht rasante Fortschritte und hat weitreichende Auswirkungen auf Governance, Handel und das öffentliche Leben. So überrascht es nicht, dass riesige Mengen an Kapital in den Sektor fließen. Sowohl Staaten als auch Unternehmen investieren in Start-ups, um die neuesten Tools maschinellen Lernens zu entwickeln und einzusetzen. Diese neuen Anwendungen werden historische Daten mit maschinellem Lernen, natürlicher Sprachverarbeitung und Deep Learning kombinieren, um die Eintrittswahrscheinlichkeit zukünftiger Ereignisse zu eruieren.
Von zentraler Bedeutung ist, dass die Nutzung der neuen natürlichen Sprachverarbeitung und generativer KI nicht auf wohlhabende Länder und Unternehmen wie Google, Meta und Microsoft beschränkt bleiben wird, die an vorderster Front der Entwicklung dieser Technologien stehen. Vielmehr breitet sich diese Zukunftstechnik bereits in Ländern niedriger und mittlerer Einkommen aus. Dort versprechen sich klamme Regierungen, Unternehmen und NGOs, denen es um Effizienzverbesserungen und die Erschließung sozialer und wirtschaftlicher Vorteile geht, enormes Potenzial von prädiktiver Analytik – nämlich von der Reduzierung urbaner Ungleichheit bis hin zu verbesserter Ernährungssicherheit.
Das Problem besteht jedoch darin, dass potentiellen negativen Externalitäten und unbeabsichtigten Auswirkungen dieser Technologien nicht genügend Aufmerksamkeit geschenkt wird. Das offenkundigste Risiko ist, dass diese beispiellos leistungsfähigen Vorhersagetools die Überwachungskapazitäten autoritärer Regime stärken.
Ein vielzitiertes Beispiel ist Chinas „Sozialkredit-System,” im Rahmen dessen jeder Person im Land anhand von Kreditverläufen, strafrechtlichen Verurteilungen, Online-Verhalten und anderen Daten Punkte zugewiesen werden. Diese Punktzahl kann dann ausschlaggebend dafür sein, ob eine Person einen Kredit aufnehmen, eine gute Schule besuchen, mit der Bahn oder dem Flugzeug reisen darf und so weiter. Obwohl das chinesische System als Instrument zur Verbesserung der Transparenz angepriesen wird, ist es auch ein Instrument sozialer Kontrolle.
Doch selbst bei Nutzung durch vordergründig wohlmeinende demokratische Regierungen oder auf soziales Wohl ausgerichtete Unternehmen sowie fortschrittliche gemeinnützige Organisationen können prädiktive Tools suboptimale Ergebnisse zur Folge haben. Konstruktionsfehler in den zugrunde liegenden Algorithmen und tendenziöse Datensätze können zu Datenschutz-Verletzungen und identitätsbasierter Diskriminierung führen. Zu einem eklatanten Problem ist das bereits in der Strafjustiz geworden, wo prädiktive Analytik ethnische und sozioökonomische Ungleichheiten regelmäßig weiter fortschreibt. So hat beispielsweise ein KI-System, das der US-Richterschaft bei der Einschätzung der Rückfallwahrscheinlichkeit helfen soll, fälschlicherweise festgestellt, dass schwarze Angeklagte ein weitaus höheres Risiko haben, erneut straffällig zu werden als weiße.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Ebenso wächst die Sorge darüber, in welcher Weise KI Ungleichheiten am Arbeitsplatz vertiefen könnte. Bislang haben prädiktive Algorithmen Effizienz und Gewinne in einer Weise gesteigert, von der Manager und Aktionäre auf Kosten der gewöhnlichen Beschäftigten profitierten (vor allem in der Gig-Economy).
In all diesen Beispielen halten KI-Systeme der Gesellschaft einen Zerrspiegel vor, in dem sich unsere Vorurteile und Ungerechtigkeiten reflektieren und verstärken. Wie Technologieforscherin Nanjira Sambuli feststellt, führt die Digitalisierung eher zu einer Verschärfung als zu einer Abschwächung bereits bestehender politischer, sozialer und wirtschaftlicher Probleme.
Es gilt, dem Enthusiasmus über die Einführung von Prognoseinstrumenten sachkundige und ethische Abwägungen hinsichtlich der beabsichtigten und unbeabsichtigten Auswirkungen gegenüberzustellen. In Fällen, in denen die Auswirkungen leistungsstarker Algorithmen umstritten oder unbekannt sind, würde das Vorsichtsprinzip von deren Einsatz abraten.
Wir dürfen nicht zulassen, dass KI zu einem weiteren Bereich wird, in dem Entscheidungstragende um Vergebung statt um Erlaubnis bitten. Aus diesem Grund haben der Hohe Kommissar der Vereinten Nationen für Menschenrechte und andere Moratorien für die Einführung von KI-Systemen gefordert, bis ethische und menschenrechtliche Rahmenbedingungen auf den neuesten Stand gebracht wurden, um so den möglicherweise schädlichen Auswirkungen dieser Systeme Rechnung zu tragen.
Die Ausarbeitung eines geeigneten Rahmenwerks erfordert einen Konsens über die grundlegenden Prinzipien, die der Entwicklung und dem Einsatz von prädiktiven KI-Tools zugrunde liegen sollten. Glücklicherweise hat der Wettlauf im Bereich KI parallel zu einer Fülle an Forschungsarbeiten, Initiativen, Instituten und Netzwerken zu ethischen Fragen geführt. Und obwohl die Zivilgesellschaft die Führungsrolle übernommen hat, sind inzwischen auch zwischenstaatliche Organisationen wie die OECD und die UNESCO involviert.
Die Vereinten Nationen arbeiten zumindest seit 2021 am Aufbau universeller Standards für ethische KI. Darüber hinaus hat die Europäische Union einen Gesetzesvorschlag zu KI vorgelegt – der erste derartige Versuch eines großen Regulierers – im Rahmen dessen bestimmte Anwendungen (die etwa dem chinesischen Sozialkredit-System ähneln) blockiert werden sollen und andere risikoreiche Anwendungen spezifischen Anforderungen und Kontrollen unterworfen wären.
Bis dato konzentriert sich diese Debatte vor allem auf Nordamerika und Westeuropa. Doch Länder mit niedrigem und mittlerem Einkommen haben ihre eigenen Grundbedürfnisse, Bedenken und sozialen Ungerechtigkeiten zu berücksichtigen. Es gibt zahlreiche wissenschaftliche Untersuchungen, die belegen, dass Technologien, die von und für Märkte in fortgeschrittenen Volkswirtschaften entwickelt wurden, für weniger entwickelte Volkswirtschaften oft ungeeignet sind.
Werden die neuen KI-Tools einfach importiert und auf breiter Basis eingesetzt, bevor die erforderlichen Governance-Strukturen vorhanden sind, könnten sie leicht mehr schaden als nützen. All diese Fragen gilt es zu berücksichtigen, wenn wir wirklich universelle Prinzipien für die KI-Governance entwickeln wollen.
In Anerkennung dieser Lücken haben das Igarapé Institute und New America vor kurzem eine neue Globale Taskforce zu prädiktiver Analytik in den Bereichen Sicherheit und Entwicklung eingerichtet. In dieser Arbeitsgruppe werden Aktivisten im Bereich digitaler Rechte, Partner aus dem öffentlichen Sektor, Tech-Unternehmer und Sozialwissenschaftler aus Nord- und Südamerika, Afrika, Asien und Europa gemeinsam erste Grundsätze für den Einsatz von Vorhersagetechnologien in den Bereichen öffentliche Sicherheit und nachhaltige Entwicklung im globalen Süden definieren.
Die Formulierung dieser Grundsätze und Standards ist nur ein erster Schritt. Die größere Herausforderung wird darin bestehen, die für deren Umsetzung in Recht und Praxis erforderliche Zusammenarbeit und Koordination auf internationaler, nationaler und subnationaler Ebene zu organisieren. In der weltweiten Euphorie über die Entwicklung und den Einsatz neuer prädiktiver KI-Tools ist ein Rahmenwerk zur Schadensprävention unerlässlich, um eine sichere, florierende, nachhaltige und auf den Menschen ausgerichtete Zukunft zu gewährleisten.
Aus dem Englischen von Helga Klinger-Groier