LJUBLJANA – Er is niets nieuws aan ‘chatbots’ die in staat zijn een gesprek in natuurlijke taal te voeren, de basisintentie van een gebruiker te begrijpen en antwoorden te geven op grond van vooraf ingestelde regels en gegevens. Maar de capaciteit van dergelijke chatbots is de afgelopen maanden drastisch uitgebreid, wat in veel kringen tot handenwringen en paniek heeft geleid.
Er is veel gezegd over chatbots die het einde betekenen van het traditionele studentenessay. Maar een kwestie die meer aandacht verdient is hoe chatbots moeten reageren als menselijke gesprekspartners agressieve, seksistische of racistische opmerkingen maken die de bot ertoe aanzetten zijn eigen schunnige fantasieën tentoon te spreiden. Moeten AI’s worden geprogrammeerd om te antwoorden op hetzelfde niveau als de vragen die worden gesteld?
Als we besluiten dat enige vorm van regulering op zijn plaats is, moeten we vervolgens bepalen hoe ver die censuur mag gaan. Zullen politieke standpunten die sommige cohorten als ‘beledigend’ beschouwen verboden worden? Hoe zit het met uitingen van solidariteit met de Palestijnen op de Westelijke Jordaanoever, of de bewering dat Israël een apartheidsstaat is (wat de voormalige Amerikaanse president Jimmy Carter ooit in de titel van een boek heeft gezet)? Zullen deze worden geblokkeerd als ‘antisemitisch’?
LJUBLJANA – Er is niets nieuws aan ‘chatbots’ die in staat zijn een gesprek in natuurlijke taal te voeren, de basisintentie van een gebruiker te begrijpen en antwoorden te geven op grond van vooraf ingestelde regels en gegevens. Maar de capaciteit van dergelijke chatbots is de afgelopen maanden drastisch uitgebreid, wat in veel kringen tot handenwringen en paniek heeft geleid.
Er is veel gezegd over chatbots die het einde betekenen van het traditionele studentenessay. Maar een kwestie die meer aandacht verdient is hoe chatbots moeten reageren als menselijke gesprekspartners agressieve, seksistische of racistische opmerkingen maken die de bot ertoe aanzetten zijn eigen schunnige fantasieën tentoon te spreiden. Moeten AI’s worden geprogrammeerd om te antwoorden op hetzelfde niveau als de vragen die worden gesteld?
Als we besluiten dat enige vorm van regulering op zijn plaats is, moeten we vervolgens bepalen hoe ver die censuur mag gaan. Zullen politieke standpunten die sommige cohorten als ‘beledigend’ beschouwen verboden worden? Hoe zit het met uitingen van solidariteit met de Palestijnen op de Westelijke Jordaanoever, of de bewering dat Israël een apartheidsstaat is (wat de voormalige Amerikaanse president Jimmy Carter ooit in de titel van een boek heeft gezet)? Zullen deze worden geblokkeerd als ‘antisemitisch’?