Foto: Anthropic
Anthropic busca reabrir el acceso a Fable 5 y Mythos 5 después de que el Gobierno de Estados Unidos ordenara bloquear el acceso de gobiernos, empresas e individuos a los modelos de IA. El caso surge en medio de una relación tensa entre la Administración de Donald Trump y la empresa tecnológica.
En Washington, ejecutivos y personal técnico de Anthropic iniciaron conversaciones con funcionarios del Departamento de Comercio este lunes 15 de junio. Logan Graham (encargado de realizar pruebas de resistencia y ataques simulados), Dave Orr (máximo responsable de los sistemas de mitigación de riesgos y seguridad operativa) y Nicholas Carlini (investigador en seguridad informática y aprendizaje automático) revisaron el caso con autoridades estadounidenses. También quedaron previstas reuniones con la CIA y con Michael Kratsios, asesor científico de la Casa Blanca.
La orden que le puso freno a los nuevos modelos de Anthropic llegó el 12 de junio y exigió suspender el acceso de extranjeros a Fable 5 y Mythos 5, incluidos empleados no estadounidenses de la propia empresa. Anthropic informó que la medida obligó a retirar ambos modelos para todos sus clientes dentro y fuera de Estados Unidos.
La empresa sostuvo que el gobierno no entregó detalles específicos por escrito sobre la preocupación de seguridad nacional. En su comunicado, Anthropic afirmó haber revisado una demostración relacionada con vulnerabilidades menores y ya conocidas, las cuales también podrían ser identificadas por otros modelos disponibles públicamente.
De acuerdo con el Gobierno, esos modelos podían representar un riesgo si eran "jailbreakeados", es decir, si usuarios lograban eludir sus medidas de seguridad. Reportes citan preocupaciones sobre la posibilidad de usar Fable 5 para generar "proof of concept" de vulnerabilidades de software, una capacidad sensible en ciberseguridad porque puede ayudar tanto a investigadores defensivos como a actores maliciosos que podrían utilizar esta IA para realizar ciberataques.
"Sospechamos que ningún proveedor de modelos puede lograr una resistencia perfecta a las vulnerabilidades de jailbreak", admitió la compañía en la publicación de su blog.
La búsqueda de una salida combina tres frentes: demostrar la solidez de las salvaguardas, atender las preocupaciones del gobierno y restablecer el acceso comercial sin violar controles de exportación. Anthropic defendió que el proceso para bloquear modelos inseguros debe ser transparente, claro y basado en hechos técnicos.
Este episodio se suma a una larga historia en la relación entre la compañía y el Gobierno de Estados Unidos. Con el regreso de Donald Trump a la Casa Blanca, Anthropic fue el principal proveedor de sistemas de IA para las Fuerzas Armadas. Sin embargo, esa relación se cortó abruptamente luego de que la empresa se negara a prestar a Claude en el desarrollo de armas autónomas, como drones sin pilotos humanos, o actividades de vigilancia a ciudadanos estadounidenses.
Automáticamente, la administración Trump ordenó el cese inmediato de toda la tecnología vinculada con Anthropic dentro de la administración pública. Además, fue calificada como un "riesgo para la cadena de suministro" y para la "seguridad nacional".
A pesar de esta experiencia, Anthropic alcanzó un valor récord tras varias rondas de financiamiento. En mayo, la empresa logró una valuación de 965 mil millones de dólares tras recaudar 65 mil millones. Con esa cifra, la creadora de Claude superó por primera vez a OpenAI y se colocó como la startup de inteligencia artificial más valiosa del mundo.
DESCARGA LA NOTA SÍGUENOS EN GOOGLE NEWS
