Idiotez artificial

LIUBLIANA – No hay nada nuevo sobre los “chatbots” que son capaces de mantener una conversación en lenguaje natural, que entienden la intención básica de un usuario y que ofrecen respuestas en base a reglas y datos preestablecidos. Pero la capacidad de esos chatbots ha aumentado marcadamente en los últimos meses, y eso generó nerviosismo y pánico en muchos círculos.

Mucho se ha hablado de que los chatbots auguran el fin de los ensayos estudiantiles tradicionales. Pero hay un tema que merece mayor atención y es cómo deberían responder los chatbots cuando los interlocutores humanos usan comentarios agresivos, sexistas o racistas para invitar al bot a responder con sus propias fantasías malhabladas. ¿Se debería programar a las IA para que respondan en el mismo tono que las preguntas que se formulan?

Si decidimos que se implemente algún tipo de regulación, luego debemos determinar hasta dónde debería llegar la censura. ¿Se prohibirán las posiciones políticas que algunos grupos consideren “ofensivas”? ¿Qué pasará con las expresiones de solidaridad con los palestinos de Cisjordania o el argumento de que Israel es un estado apartheid (algo que el expresidente norteamericano Jimmy Carter alguna vez incluyó en el título de un libro)? ¿Se los bloqueará por considerárselos “antisemitas”?