Reino Unido analiza si la IA puede ayudar a proteger a menores

La agencia reguladora del Reino Unido, Ofcom, anunció que lanzará una consulta pública para explorar el uso de la inteligencia artificial (IA) y otras herramientas automatizadas en la detección y eliminación de contenido ilegal en internet, enfocándose especialmente en la protección de menores contra contenidos nocivos. Esta iniciativa se inscribe dentro de los esfuerzos para fortalecer las medidas de seguridad en línea bajo la nueva ley de seguridad en línea.

El enfoque de Ofcom se centra inicialmente en evaluar la efectividad de las herramientas de IA que actualmente se utilizan para filtrar contenido perjudicial para los menores. "Algunos servicios ya utilizan estas herramientas para identificar y proteger a los niños de este contenido", explicó Mark Bunting, director del grupo de seguridad en línea de Ofcom, en una entrevista con TechCrunch. La autoridad reguladora busca garantizar que las plataformas evalúen adecuadamente la efectividad de estas herramientas, al tiempo que gestionan los riesgos para la libre expresión y la privacidad.

Además de la consulta sobre la IA, Ofcom publicó recientemente un estudio que revela que una cantidad significativa de niños, incluso tan jóvenes como de 3 y 4 años, ya están activos en línea. Este estudio destaca la creciente conectividad de los niños en el Reino Unido, donde el 84% de los niños en estas edades accede a internet y aproximadamente un cuarto de los niños de 5 a 7 años poseen sus propios smartphones.

Por su parte, la encuesta también reveló un aumento en el uso de dispositivos móviles y medios digitales entre los niños. Por ejemplo, el 76% de los niños de 5 a 7 años usa tabletas, y el 65% ha realizado llamadas de voz y video, un incremento respecto al año anterior. Además, el 38% de los menores de este grupo de edad está usando redes sociales, con WhatsApp y TikTok siendo las aplicaciones más populares.

Así, el documento subraya la necesidad de que las plataformas implementen medidas más rigurosas para evitar que los contenidos nocivos lleguen a los menores y mejoren las maneras de impedir que los usuarios más jóvenes accedan a ellos. La falta de cumplimiento podría llevar a sanciones para las plataformas que no mejoren sus métodos de bloqueo de contenido.

Los hallazgos y propuestas de Ofcom no están exentos de críticas, especialmente de aquellos que cuestionan la efectividad de la detección de IA, destacando la persistencia de desafíos significativos como los deepfakes y la verificación de usuarios en línea. Sin embargo, estos esfuerzos señalan un paso importante hacia un entorno digital más seguro para los niños, reflejando una creciente preocupación regulatoria sobre el impacto de la tecnología en la juventud.