Primer arresto por ChatGPT, hombre inventó accidente fatal

Autoridades chinas arrestaron a un hombre por crear y difundir un artículo falso sobre un accidente de tren por medio de ChatGPT. De esa manera, se convierte en el primer crimen relacionado con el chatbot de inteligencia artificial de OpenAI en China y alrededor del mundo.

El sospechoso, identificado como Hong, usó ChatGPT para generar una fake news sobre el choque de un tren, que supuestamente había dejado un saldo de nueve muertos. La historia fue publicada en 25 cuentas de Baijiahao, una plataforma de creación de contenidos, con direcciones IP de diferentes locaciones.

La noticia rápidamente se hizo viral en redes sociales, registrando más de 15 mil visitas, por lo cual, las autoridades iniciaron una investigación. Actualmente, Hong se encuentra detenido y enfrentará cargos por esparcir información falsa online.

De acuerdo con la policía de Gansu, el sospechoso fue el primer aprehendido tras la publicación de la ley que rige las tecnologías de síntesis profunda. De acuerdo con la ley introducida en 2023, no se puede hacer uso de tecnologías de síntesis profunda para difundir noticias falsas.

Ante el crecimiento acelerado de las herramientas de IA y su uso para la creación de fake news, el gobierno chino decidió tomar medidas en su contra. Lo anterior, va de la mano con su política para evitar las noticias falsas e información errónea, que comenzó desde hace varios años.

Con el arresto, se busca dar un mensaje por parte de las autoridades de que no tolerarán la difusión de fake news. Asimismo, el caso de Hong busca alertar a quienes utilicen ChatGPT u otras tecnologías para crear y esparcir información falsa para que dejen de hacerlo.

OpenAI lanzó el programa de inteligencia artificial, ChatGPT, a finales de 2022. Esta herramienta puede generar texto similar al humano, lo cual dificulta a los lectores distinguir entre noticias reales y falsas.

Solamente se puede acceder a ChatGPT en China por medio de una red privada virtual, pues fue bloqueada por las restricciones de Internet en el país. Sin embargo, los gigantes tecnológicos chinos se encuentran desarrollando sus propios chatbots.