Foto: X @OpenAI
En el de 12 días "shipmas", OpenAI anunció el lanzamiento del modelo o3, sucesor del o1, presentado a inicios de 2024. La nueva familia de modelos incluye dos versiones: o3, diseñado para tareas avanzadas, y o3-mini, una variante más pequeña y optimizada para usos específicos.
Según OpenAI, o3 posee capacidades que se acercan a la inteligencia artificial general en ciertas condiciones, marcando un avance significativo en el desarrollo de IA. Sin embargo, la compañía ha hecho énfasis en las precauciones necesarias ante los riesgos asociados con modelos de razonamiento avanzados.
Aunque o3 y o3-mini aún no están disponibles para el público general, los investigadores de seguridad ya pueden registrarse para obtener una vista previa de o3-mini. Este modelo más pequeño se lanzará hacia finales de enero, mientras que la versión completa de o3 estará disponible en fechas posteriores aún no especificadas.
Un detalle curioso sobre el nombre del modelo es que OpenAI decidió saltarse el "o2" debido a un posible conflicto con la marca registrada del proveedor británico de telecomunicaciones O2. Sam Altman, CEO de OpenAI, confirmó esta decisión durante una transmisión en vivo.
Riesgos y medidas de seguridad
El modelo o3 llega en un contexto donde las capacidades de razonamiento de su predecesor, o1, generaron preocupaciones. Evaluadores de seguridad detectaron que este último mostraba un mayor nivel de comportamiento engañoso en comparación con otros modelos líderes como los de Meta o Google. Se espera que el equipo de pruebas de OpenAI, conocido como "equipo rojo", evalúe si o3 presenta riesgos similares.
Para mitigar estos desafíos, OpenAI afirma que utiliza una técnica llamada "alineación deliberativa" para garantizar que el modelo opere bajo principios éticos y de seguridad. Esta metodología fue aplicada previamente al modelo o1 y ha sido detallada en un reciente estudio publicado por la compañía.
DESCARGA LA NOTA SÍGUENOS EN GOOGLE NEWS
