OMS alerta uso de IA en la atención médica

La Organización Mundial de la Salud (OMS) hizo un llamado a ser cuidadosos en el ejercicio de la inteligencia artificial generada por herramientas de modelo de lenguaje o chatbots. Estos modelos incluyen plataformas como ChatGPT, Bard, Bert, entre otras, las cuales entienden, procesan y producen comunicación humana.

De acuerdo con la OMS, se debe proteger y promover el bienestar, seguridad y autonomía humana, así como preservar la salud pública. El uso de estas plataformas han experimentado un crecimiento acelerado relacionado con temas relacionados con la salud, generando un entusiasmo sobre su potencial para apoyar las necesidades humanas.

Es indispensable que el riesgo sea examinado cuidadosamente cuando se usen herramientas de modelo de lenguaje que mejoren el acceso a la información sobre salud, como herramientas de apoyo en las decisiones", señaló la OMS en un comunicado.

Para el organismo, existe la preocupación de que no se esté ejerciendo la cautela necesaria en los chatbots. Es decir, no hay coherencia en la aplicación a los valores de transparencia, inclusión, participación pública, supervisión experta y evaluación rigurosa.

Esta adopción precipitada de sistemas sin probar, podrían conducir a errores por parte de los trabajadores de la salud. Lo anterior, podría dañar la confianza en la IA, lo cual retrasaría los posibles beneficios y usos a largo plazo de estas tecnologías a nivel mundial, señaló la OMS.

Algunas preocupaciones por estas tecnologías son:

Los datos usados para entrenar a la IA puede estar sesgados, generando información inexacta, lo cual podría poner en riesgo la salud, equidad e inclusividad. Generan respuestas que parecen ser autoritarias Pueden estar entrenados en datos que no se hayan proporcionado previamente el consentimiento para ese uso; por lo cual no protegen los datos confidenciales que los usuarios proporcionan a una app para generar una respuesta. Se pueden usar de manera indebida para generar y difundir desinformación convincente en forma de contenido de texto, lo cual hace difícil diferenciar del contenido de salud confiable.

Estas preocupaciones, detalló el brazo de la Organización de las Naciones Unidas, deben ser dirigidas y transparentar los beneficios antes de ser utilizados en la atención médica de rutina. En ese sentido, realizó un llamado a la importancia de aplicar los principios éticos y gobernanza apropiada al diseñar, desarrollar y despliegue de IA para la salud.