LJUBLJANA – Det er ikke noe nytt at «chatbots» kan holde en samtale på menneskelig språk, forstå hva en bruker grunnleggende vil ha og gi svar basert på forhåndsbestemte regler og data. Men kapasiteten til slike chatteroboter har økt kraftig de siste månedene, noe som har skapt uro og panikk i mange miljøer.
Mye har blitt sagt om hvordan chatboter vil bety slutten på de tradisjonelle oppgavene og innleveringene på skole og universitet. Men et problem som man bør se nærmere på, er hvordan chatboter bør svare når menneskelige samtalepartnere kommer med aggressive, kjønnsdiskriminerende eller rasistiske kommentarer for å få boten til å svare med sine egne slibrige fantasier. Bør kunstig intelligens programmeres til å svare på samme måte som spørsmålet som blir stilt?
Hvis vi først bestemmer oss for at en form for regulering er på sin plass, må vi bestemme oss for hvor langt vi bør gå med sensuren. Vil politiske synspunkter som enkelte grupper anser som «støtende» forbys? Hva om man uttrykker solidaritet med palestinere på Vestbredden? Eller hva om man hevder at Israel er en apartheidstat? (Dette var et begrep som USAs tidligere president Jimmy Carter brukte i tittelen på en bok.) Vil disse ytringene bli blokkert fordi de anses som «antisemittiske»?
LJUBLJANA – Det er ikke noe nytt at «chatbots» kan holde en samtale på menneskelig språk, forstå hva en bruker grunnleggende vil ha og gi svar basert på forhåndsbestemte regler og data. Men kapasiteten til slike chatteroboter har økt kraftig de siste månedene, noe som har skapt uro og panikk i mange miljøer.
Mye har blitt sagt om hvordan chatboter vil bety slutten på de tradisjonelle oppgavene og innleveringene på skole og universitet. Men et problem som man bør se nærmere på, er hvordan chatboter bør svare når menneskelige samtalepartnere kommer med aggressive, kjønnsdiskriminerende eller rasistiske kommentarer for å få boten til å svare med sine egne slibrige fantasier. Bør kunstig intelligens programmeres til å svare på samme måte som spørsmålet som blir stilt?
Hvis vi først bestemmer oss for at en form for regulering er på sin plass, må vi bestemme oss for hvor langt vi bør gå med sensuren. Vil politiske synspunkter som enkelte grupper anser som «støtende» forbys? Hva om man uttrykker solidaritet med palestinere på Vestbredden? Eller hva om man hevder at Israel er en apartheidstat? (Dette var et begrep som USAs tidligere president Jimmy Carter brukte i tittelen på en bok.) Vil disse ytringene bli blokkert fordi de anses som «antisemittiske»?