El ganador del Nobel de Física 2024 advierte sobre los peligros de la IA

 09-10-2024
Axel Olivares
   
Portada | Internacional
Foto: Sergio F Cara (NotiPress/Composición)

Foto: Sergio F Cara (NotiPress/Composición)

Los ganadores del Premio Nobel de Física 2024 fueron el profesor de la Universidad de Princeton, John Hopfield, y el informático de la Universidad de Toronto, Geoffrey Hinton. Ambos académicos fueron premiados por sus descubrimientos e inventos en el aprendizaje automático, los cuales allanaron el camino para el uso actual de la inteligencia artificial.

Hopfield y Hinton sentaron las bases del aprendizaje automático de los productos y aplicaciones actuales basados en IA. Hinton, a quien se le ha apodado el "padrino" de la inteligencia artificial, aseguró estar "atónito" al recibir el prestigioso galardón, considerado el pináculo del logro científico.

Al ser consultado por el impacto de la inteligencia artificial en la sociedad, Hinton afirmó que la IA "será comparable con la revolución industrial, pero en lugar de superar a la gente en fuerza física, la superará en capacidad intelectual. No tenemos experiencia de lo que es tener cosas más inteligentes que nosotros".

Si bien vaticinó una "enorme mejora en la productividad", también alertó sobre "una serie de posibles consecuencias negativas, en particular la amenaza de que estas cosas se salgan de control". Además, aseguró que una de sus mayores preocupaciones es que sistemas más inteligentes que nosotros acaben tomando el control.

Aun así, el desarrollo de métodos para el aprendizaje automático actual fue bastante elogiado por toda la academia. Ellen Moons, presidenta del Comité Nobel de Física, afirmó: "Los descubrimientos e invenciones de los galardonados forman los pilares del aprendizaje automático que puede ayudar a tomar decisiones más rápidas y fiables, por ejemplo, a la hora de diagnosticar enfermedades".

La inteligencia artificial consta de redes neuronales artificiales inspiradas en el cerebro humano, solo que, en vez de neuronas, la IA tiene nodos y en lugar de comunicarse por sinapsis, los nodos artificiales se influyen entre sí a través de conexiones. Pero al igual que el cerebro, las redes neuronales artificiales pueden buscar en los patrones que han guardado en su memoria gracias a la invención de la red de Hopfield en 1982.

"Hopfield tenía curiosidad por saber si era posible tener un sistema físico inspirado en el cerebro, una red de pequeñas neuronas computacionales conectadas entre sí. Tenía curiosidad por saber si era posible establecer el aprendizaje con un sistema tan simple. Y, de hecho, era posible", comentó a CNN Mark Pearce, miembro del comité Nobel de Física.

Por su parte, Hinton amplió el trabajo de Hopfield. Utilizando ideas de la física estadística, desarrolló la primera forma de aprendizaje automático llamada "máquina de Boltzmann". Con el paso del tiempo, los nodos fueron aumentando pasando de 500 parámetros que Hopfield utilizaba en la década del 80, a un billón de los softwares actuales como ChatGPT.

Sin embargo, Hinton expresa su creciente preocupación por el desarrollo de esta tecnología, advirtiendo sobre los riesgos de que los sistemas de IA se vuelvan más inteligentes que los humanos y puedan manipular o eludir las restricciones impuestas. Tras dejar su puesto en Google en mayo de 2023, Hinton destacó la necesidad de cautela para evitar que la IA nos controle. Aunque reconoce los posibles beneficios de su trabajo, siente un tipo de arrepentimiento al considerar que, aunque repetiría sus decisiones bajo las mismas circunstancias, teme que las consecuencias puedan ser perjudiciales.




DESCARGA LA NOTA  SÍGUENOS EN GOOGLE NEWS