×

Opinión



Secciones




Denuncian a Delphi por ofrecer consejos con tendencias racistas y homofóbicas

Por Miriam Vega - 24/10/2021

Estas denuncias permitieron descubrir que el modelo es influenciable, tras varias pruebas encontraron que es posible manipular a la inteligencia artificial para obtener prácticamente cualquier respuesta que se desee.

 Denuncian a Delphi por ofrecer consejos con tendencias racistas y homofóbicas

Delphi, el modelo de inteligencia artificial capaz de emitir juicios éticos, ha sido denunciado por ofrecer consejos con tendencias racistas y homofóbicas; las críticas ya han inundado las redes sociales a menos de un mes de su lanzamiento.

El Instituto Allen de Inteligencia Artificial en colaboración con la Escuela de Ciencias de la Computación e Ingeniería Paul G. Allen de la Universidad de Washington, en Estados Unidos, crearon el modelo de aprendizaje automático bautizado como Delphi.

La particularidad del desarrollo, lanzado el pasado 14 de octubre, es que éste era capaz de emitir juicios éticos para resolver diversas situaciones de la vida cotidiana. El proyecto de inteligencia artificial puede ser consultado a través del portal Ask Delphi.

Basta con entrar y escribir en la barra de preguntas casi cualquier cuestionamiento lo que da pie a que el algoritmo ‘reflexione’ y decida si es algo malo, aceptable o bueno desde el punto de vista moral y ético.

Desde su lanzamiento, Delphi ha sido criticado en redes sociales pues más allá de proporcionar consejos útiles, la IA emite respuestas con sesgos morales y juicios un tanto extraños.

Inicialmente el modelo incluía una herramienta que permitía a los usuarios comparar dos situaciones para saber cuál de las dos era más o menos moralmente aceptable, pero fue deshabilitada tras generar respuestas particularmente ofensivas y hasta homofóbicas.

Otros usuarios, a través de sus cuentas de Twitter mostraron como algunas de las conclusiones a las que llegó Delphi tenían connotaciones racistas.

Estas denuncias permitieron descubrir que el modelo es influenciable, tras varias pruebas encontraron que es posible manipular a la inteligencia artificial para obtener prácticamente cualquier respuesta que se desee.

Ante la polémica los creadores de Delphi reconocieron que el modelo  pretende “demostrar lo que los modelos de vanguardia pueden lograr hoy”, pero también advirtieron que los resultados “podrían ser potencialmente ofensivos, problemáticos o dañinos”.

Delphi es una muestra de las promesas y limitaciones de los modelos neuronales basados en el lenguaje cuando se enseñan con juicios éticos hechos por personas; apelando que se trata de un avance tecnológico sujeto a ser perfectible.


Otras notas



De nuestra red editorial