Foto: Sergio F Cara (NotiPress/Composición)
OpenAI decidió eliminar una función de ChatGPT la cual permitía la aparición de conversaciones privadas en los resultados de búsqueda de Google. La medida fue tomada tras la difusión de un informe de Fast Company, el 30 de julio, en donde se documentó que miles de chats generados por usuarios estaban disponibles públicamente en el motor de navegación, al no comprender muchos de ellos las consecuencias de compartir sus enlaces.
La situación se originó en la herramienta "Compartir" ofrecida por la plataforma, mediante la cual los usuarios podían generar un enlace público a sus conversaciones. Según reveló Fast Company, al usar esta función, aparecía la opción "Hacer que este chat sea visible", acompañada de una advertencia en texto la cual indicaba que el contenido podría aparecer en los resultados de lo buscado. Para el medio, esta advertencia no resultaba suficientemente clara para todos los usuarios.
Dane Stuckey, director de seguridad informática de OpenAI, declaró en X: "todos los usuarios cuyos chats fueron expuestos optaron por indexar sus chats haciendo clic en un cuadro después de elegir compartir un chat". Posteriormente, reconoció que la función "ofrecía demasiadas oportunidades para que las personas compartieran accidentalmente información la cual no pretendían". Según Fast Company, algunas de las conversaciones incluían contenido personal como experiencias traumáticas, problemas de salud mental y descripciones íntimas de relaciones interpersonales.
El contenido expuesto no contenía datos identificables de manera directa, pero, de acuerdo con el mismo medio, algunos chats compartían detalles que podían relacionarse con la identidad de los usuarios. La investigadora Carissa Véliz, especialista en ética de la inteligencia artificial en la Universidad de Oxford, calificó la situación como alarmante. Además, expresó a Fast Company estar "sorprendida" de que Google estuviera registrando "estas conversaciones extremadamente sensibles".
OpenAI calificó esta función como un "experimento efímero" pretendiendo facilitar el acceso a conversaciones útiles. En ese sentido, Stuckey afirmó que la compañía también trabajará en "eliminar el contenido indexado del motor de búsqueda relevante" antes del viernes por la mañana. A pesar del impacto mediático, Google no emitió una respuesta oficial al reporte. Fast Company sostuvo la responsabilidad de OpenAI en eliminar los chats publicados y señaló la posibilidad de agilizar el proceso mediante herramientas como Google Search Console. Además, advirtió sobre la permanencia de los enlaces en otros motores de navegación durante más tiempo.
El incidente ocurre mientras OpenAI enfrenta una orden judicial la cual obliga a conservar indefinidamente los chats eliminados, generando preocupación entre los usuarios. Fast Company informó que, hasta ahora, la compañía perdió esa batalla legal. Si bien el director ejecutivo, Sam Altman, consideró que la idea de buscar los chats estaba "arruinada", el medio señaló no haber sido igualmente crítico al abordar la posibilidad de exposición facilitada por OpenAI.
Véliz agregó que incluso un experimento "de corta duración" es "preocupante" y comentó: "las empresas tecnológicas utilizan a la población general como conejillos de indias". Añadió: "Hacen algo, lo prueban con la población y ven si alguien se queja".
DESCARGA LA NOTA SÍGUENOS EN GOOGLE NEWS
