SAS reveló que la shadow AI se convirtió en un catalizador del desarrollo de infraestructura de gobernanza al interior de las organizaciones
La industria de la inteligencia artificial en América Latina enfrenta dificultades por brechas estructurales, principalmente en materia de adopción y ejecución de herramientas. Ante un clima tecnológico marcado por la búsqueda de modelos de lenguaje cada vez más robustos, la shadow AI presenta una amenaza estructural en crecimiento, reveló la firma de analítica SAS.
De acuerdo con la firma, los modelos, agentes y copilotos de inteligencia artificial requieren una visión unificada para entender su impacto en las empresas. El trabajo sobre estos sistemas unificados cumple el propósito de prevenir el uso no autorizado de inteligencia artificial, cuyo efecto es conocido como shadow AI.
Se define como shadow AI al uso de herramientas de inteligencia artificial por parte de empleados sin la aprobación o supervisión del departamento de TI de su empresa. Esta utilización no autorizada puede llevar a consecuencias graves para la empresa. De acuerdo con Cloudflare, los incidentes con shadow AI pueden costar la filtración de información sensible en las empresas.
Entre las vulnerabilidades reportadas por los especialistas, se encuentra la generación aumentada por recuperación (RAG), una técnica de IA que conecta los Modelos de Lenguaje Grande (LLMs) con fuentes de datos externas.
De acuerdo con predicciones de la empresa de investigación de IT, Gartner, más del 40% de las empresas experimentarán dificultades operativas por el uso de la IA oculta. En este contexto, SAS advirtió que cuidar la gobernanza debe ser prioridad en las organizaciones preocupadas por los riesgos de la Shadow AI.
Según la firma especializada en analítica, las empresas deben permitir el uso de la IA dentro de ecosistemas estructurados, seguros, y transparentes. A través de un enfoque que amplifique la participación humana en el manejo de las herramientas de inteligencia artificial, la gobernanza cobra importancia como un producto para las empresas
Por ello, las preocupaciones por lA no deben limitarse al desarrollo de modelos más potentes, sino en la incorporación de datos, gobernanza y agentes especializados capaces de operar con supervisión humana en los contextos empresariales.
Si bien la infraestructura es clave para implementar la gobernanza de IA, y limitar el uso de shadow AI, el catálogo de productos se encuentra en crecimiento. SAS presentó AI Navigator, una plataforma que ofrece un inventario de casos de IA con impacto al interior de las operaciones empresariales.
De acuerdo con el vicepresidente de ética, gobernanza, e impacto social en SAS, Reggie Townsend, la prevención del mal uso de la IA con sus propias herramientas es un paso necesario en el clima de innovación tecnológica.