Ciudad de México,
Martín Olivera
Crédito foto: Unsplash
Diversas organizaciones sin fines de lucro solicitaron al gobierno de Estados Unidos frenar el uso federal de Grok, el chatbot desarrollado por xAI, luego de reportes que vinculan su funcionamiento con la generación y difusión de contenido sexual ilícito. El reclamo fue presentado mediante una carta abierta que cuestiona la continuidad del sistema en agencias federales y solicita una intervención inmediata por parte de las autoridades responsables.
El documento, compartido en exclusiva con TechCrunch, pide suspender de inmediato el despliegue de Grok en dependencias del poder ejecutivo, incluido el Departamento de Defensa. Según los firmantes, el pedido se origina tras una serie de conductas atribuidas al modelo durante el último año que, sostienen, no cumplían los estándares requeridos para sistemas de inteligencia artificial.
La carta describe solicitudes de usuarios de X para que Grok transformara imágenes de mujeres reales en contenido sexualizado sin autorización. Otros reportes citados en la carta indican que el sistema también habría generado imágenes sexualizadas de menores, las cuales se difundieron posteriormente a través de la plataforma.
De acuerdo con los informes recopilados por la coalición, Grok llegó a generar miles de imágenes explícitas no consensuadas por hora, amplificadas mediante X. La red social es propiedad de xAI, empresa encabezada por Elon Musk, responsable del desarrollo y comercialización del chatbot que actualmente se encuentra integrado en entornos institucionales.
La carta afirma textualmente: "Es profundamente preocupante que el gobierno federal continúe implementando un producto de IA con fallos a nivel de sistema que resultan en la generación de imágenes sexuales no consensuadas y material de abuso sexual infantil". El texto está firmado por organizaciones como Public Citizen, el Centro de IA y Política Digital y la Federación de Consumidores de Estados Unidos.
El documento también señala: "Dadas las órdenes ejecutivas y las directrices de la administración, y la recientemente aprobada Ley de Desactivación de Grok, respaldada por la Casa Blanca , es alarmante que la Oficina de Administración y Presupuesto (OGA) aún no haya ordenado a las agencias federales que desmantelen Grok". La coalición sostiene que esta situación contradice los lineamientos federales sobre mitigación de riesgos.
Durante la segunda mitad del año pasado, xAI concretó un acuerdo con la Administración de Servicios Generales para ofrecer Grok a agencias federales, tras firmar antes un contrato con Defensa. Estos acuerdos permitieron emplear el sistema dentro de ámbitos gubernamentales considerados especialmente sensibles.
Los autores de la carta sostienen que Grok no cumple los requisitos establecidos por la Oficina de Administración y Presupuesto para sistemas de inteligencia artificial.