Google asume la responsabilidad por controversia de imágenes de su IA generativa

Google enfrenta una ola de críticas tras la revelación de que su inteligencia artificial, Gemini, generó imágenes y textos históricamente inexactos, lo que resultó en ofensas y acusaciones de sesgo por parte de sus usuarios. Sundar Pichai, CEO de Google, expresó su compromiso con la resolución de estos problemas a través de un memorando interno, reconociendo el descontento generalizado y la necesidad de acciones correctivas inmediatas.

Una semana antes de las declaraciones de Pichai, Google suspendió la capacidad de Gemini de generar imágenes después de que se descubriera que el modelo había creado representaciones inapropiadas, incluyendo soldados alemanes de la era nazi racialmente diversos y padres fundadores de Estados Unidos de diferentes etnias. Además, se produjeron representaciones inexactas de las razas de los propios cofundadores de Google. Aunque Google ya pidió disculpas por no alcanzar las expectativas y anunció su intención de reactivar la generación de imágenes en las próximas semanas, esta es la primera vez que Pichai aborda ampliamente la controversia.

Pichai subraya el trabajo continuo del equipo para rectificar las "problemáticas respuestas de texto e imagen en la aplicación Gemini", sin afirmar que el problema haya sido completamente solucionado. Reconoce que ninguna IA es perfecta, especialmente en esta fase emergente del desarrollo de la industria, pero asegura que Google mantendrá sus esfuerzos el tiempo que sea necesario para cumplir con los altos estándares esperados.

Este incidente llevó a Google a reevaluar y ajustar sus procesos, incluyendo cambios estructurales, actualizaciones en las directrices de productos, mejoras en los procesos de lanzamiento, evaluaciones robustas y recomendaciones técnicas. Pichai reafirma la misión de Google de organizar la información mundial para hacerla universalmente accesible y útil. Asimismo, el CEO destaca el compromiso de la empresa con la entrega de información útil, precisa y sin sesgos en todos sus productos, incluyendo aquellos basados en IA.