Cómo garantizar la gobernanza de inteligencia artificial, según los expertos

De acuerdo con Luca De Biase, director de Media Ecology Research en Reimagine Europa, la gobernanza de inteligencia artificial se ha vuelto una necesidad para regular y aprovechar las oportunidades de la tecnología. Bajo esta línea, durante la feria de tecnología SAS Explore 2023, el CTO de SAS, Bryan Harris, habló de la importancia de la gobernanza en este campo, sobre todo con respecto al uso de datos para la toma de decisiones.

La inteligencia artificial (IA), en sus aplicaciones de generación de texto y automatización, ha experimentado una adopción importante en las actividades profesionales y cotidianas. Al depender de una gran cantidad de información, que puede provenir de distintos sectores, la gobernanza ha cobrado importancia para las empresas y organizaciones, indistintamente de su procedencia.

Mediante la red Forum Network de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), De Biase comentó sobre las pautas para la gobernanza de IA. En primer lugar, cualquier producto que ofrezca alguna implementación de inteligencia artificial, deberá contar con una marca sobre su origen y pasos para su producción.

Asimismo, será necesario someter la tecnología a un proceso de pruebas con agencias públicas independientes. Con este proceso, los expertos determinarán la seguridad de los programas y posibles brechas a nivel de software y hardware.

El vocero para la OCDE comentó que este tipo de pruebas han sido indispensables para la tecnología aplicada a la salud, especialmente en el ámbito de las farmacéuticas. Por ello, con la ayuda de modelos de datos verificables, la gobernanza de IA podrá elegir la mejor ruta para realizar las pruebas con base en el tipo de productos.

Otra pauta consiste en mantener los supervisores humanos involucrados en las aplicaciones de inteligencia artificial, sin importar el grado de automatización. Este punto resulta importante no solo en materia de ciberseguridad, sino también de transparencia, ética, y responsabilidad social.

Finalmente, la participación del sector público y agencias independientes debe estar orientada dos tareas en materia de datos. La primera consiste en asegurar que la información de pruebas a las tecnologías sea consultada por científicos independientes; mientras que la segunda será invertir en programas de educación sobre la IA.

Ante la complejidad de generar un sistema de gobernanza para la inteligencia artificial, el director destacó la importancia de involucrar tanto al sector público y gobierno, como a las empresas privadas. Por su parte, Bryan Harris agregó que la gobernanza de datos es un paso necesario para tomar decisiones a partir de las aplicaciones de inteligencia artificial. En este contexto se necesita contar con las medidas de control de la información para garantizar un producto seguro, y bajo una normativa de datos clara.