Denuncian a Delphi por ofrecer consejos con tendencias racistas y homofóbicas
Estas denuncias permitieron descubrir que el modelo es influenciable, tras varias pruebas encontraron que es posible manipular a la inteligencia artificial para obtener prácticamente cualquier respuesta que se desee.
Delphi, el modelo de inteligencia artificial capaz de emitir juicios éticos, ha sido denunciado por ofrecer consejos con tendencias racistas y homofóbicas; las críticas ya han inundado las redes sociales a menos de un mes de su lanzamiento.
El Instituto Allen de Inteligencia Artificial en colaboración con la Escuela de Ciencias de la Computación e Ingeniería Paul G. Allen de la Universidad de Washington, en Estados Unidos, crearon el modelo de aprendizaje automático bautizado como Delphi.
La particularidad del desarrollo, lanzado el pasado 14 de octubre, es que éste era capaz de emitir juicios éticos para resolver diversas situaciones de la vida cotidiana. El proyecto de inteligencia artificial puede ser consultado a través del portal Ask Delphi.
Basta con entrar y escribir en la barra de preguntas casi cualquier cuestionamiento lo que da pie a que el algoritmo ‘reflexione’ y decida si es algo malo, aceptable o bueno desde el punto de vista moral y ético.
Desde su lanzamiento, Delphi ha sido criticado en redes sociales pues más allá de proporcionar consejos útiles, la IA emite respuestas con sesgos morales y juicios un tanto extraños.
Inicialmente el modelo incluía una herramienta que permitía a los usuarios comparar dos situaciones para saber cuál de las dos era más o menos moralmente aceptable, pero fue deshabilitada tras generar respuestas particularmente ofensivas y hasta homofóbicas.
Otros usuarios, a través de sus cuentas de Twitter mostraron como algunas de las conclusiones a las que llegó Delphi tenían connotaciones racistas.
Estas denuncias permitieron descubrir que el modelo es influenciable, tras varias pruebas encontraron que es posible manipular a la inteligencia artificial para obtener prácticamente cualquier respuesta que se desee.
Ante la polémica los creadores de Delphi reconocieron que el modelo pretende “demostrar lo que los modelos de vanguardia pueden lograr hoy”, pero también advirtieron que los resultados “podrían ser potencialmente ofensivos, problemáticos o dañinos”.
Delphi es una muestra de las promesas y limitaciones de los modelos neuronales basados en el lenguaje cuando se enseñan con juicios éticos hechos por personas; apelando que se trata de un avance tecnológico sujeto a ser perfectible.
Miriam Vega Sánchez
Editora de productos especiales
Periodista, egresada de la Universidad Autónoma de Querétaro. La escritura es la herramienta que yo he elegido para contribuir a la construcción de una sociedad más crítica y sensible ante las problemáticas enfrentamos como humanidad. He desempeñado esta profesión desde el 2018 y estoy ávida de incorporar nuevas formas y narrativas a mi trabajo periodístico.
