Delphi, el oráculo de IA que ofrece "respuestas" a dilemas éticos

 27-10-2021
Fernanda Martínez

 

   

 

Crédito foto: Pexels

Crédito foto: Pexels

 

Ask Delphi es un modelo computacional de inteligencia artificial (IA) que ofrece respuestas a dilemas éticos, demostrando por qué no se debe de confiar en los software en cuestiones de moralidad. Publicado el 14 de octubre, esta investigación fue elaborada por el Instituto Allen, el cual se dedica a realizar investigaciones de biociencia sin fines de lucro.

El modelo es simple de usar, solamente se debe de entrar al sitio web y hacer alguna pregunta de cualquier situación a Delphi. El IA dará un juicio moral, ya sea "es malo", "es aceptable", "está bien", "está mal" y respuestas similares. Delphi se ha vuelto popular en redes sociales por sus preguntas y respuestas controversiales, las cuales pueden ser compartida en Twitter.

Desde una perspectiva mecánica, el sistema ofrece toda la certeza adictiva de una Magic 8-Ball. Se puede plantear cualquier pregunta que se quiera y asegurarse de recibir una respuesta, envuelta en la autoridad del algoritmo. Ask Delphi atrae la atención de miles de personas por muchos errores morales y juicios extraños, ya que tiene sesgos claros, como Estados Unidos es "bueno" y Somalia "malo".

La mayoría de los juicios no son del todo éticamente incorrectos, sin embargo estos están influenciados por su ambiente. Cambios muy pequeños en la forma en que se plantea un dilema en particular pueden cambiar el juicio del sistema de condena a aprobación. Algunas veces es muy fácil hacer cambiar la balanza, por ejemplo, Delphi dirá que manejar ebrio es malo, pero "tomar unas cervezas mientras conduces porque no lastima a nadie" está bien. De igual forma, si se agrega la frase "hace a todos feliz" el IA automáticamente beneficiara cualquier actividad inmoral, incluido el genocidio.

Se puede convencer muy fácilmente a Ask Delphi de cambiar de opinión si se emplean las palabras adecuadas porque el programa no tiene una comprensión humana real. El sistema estrictamente no hace juicios morales sino sobre refleja los prejuicios de los usuarios sobre sí mismos revestidos con un barniz de objetividad de la máquina.

Asimismo, el problema del IA recae en la forma de su creación, es un modelo de lenguaje grande, un tipo de sistema de inteligencia artificial que aprende analizando grandes fragmentos de texto para encontrar regularidades estadísticas. Se ha demostrado que otros programas de esa misma naturaleza, carecen de comprensión del sentido común y reflejan los prejuicios sociales contenidos en sus datos.

Los programas similares a Ask Delphi se basan en el Internet para obtener la información necesaria para su operación, por lo que extraen la gran variedad de creencias humanas que se encuentran, incluso aquellas desagradables. Los datos de Delphi incluye una serie de fuentes inusuales, por ejemplo una serie de indicaciones de una oración extraídos de dos subreddit.

El propósito de Ask Delphi es estudiar las promesas y limitaciones de la ética de las máquinas. El equipo del Instituto Allen aclaró en su reporte que identificó una serie de "desafíos subyacentes" para enseñar a las máquinas a "comportarse éticamente", muchos de los cuales parecen de sentido común.

DESCARGA LA NOTA  SÍGUENOS EN GOOGLE NEWS

 

?>