Foto: Sergio F Cara (NotiPress/Composición)
A través de un informe publicado el 20 de mayo, la red social X se comprometió a combatir la explotación sexual infantil. La plataforma busca adaptarse a las leyes promulgadas por la Comisión Europea para prevenir la proliferación de contenido sexual. Esto, al integrar un algoritmo de aprendizaje automático, con supervisión humana, el objetivo es identificar y evaluar de manera eficiente el contenido que pueda contener pornografía infantil.
De esta forma, mientras el sistema marca el contenido, un equipo de moderadores humanos se encargan de revisar el material. Luego de identificar los medios que proveen contenido sexual infantil, que puede incluir imágenes, videos o cualquier contenido que promueva la explotación infantil, se elimina tal material de la plataforma sin previo aviso y se informa automáticamente al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). La organización tiene un papel fundamental en la coordinación con los organismos encargados de hacer cumplir la ley en todo el mundo para llevar a cabo las investigaciones y las acciones legales correspondientes.
Así, se calcula, en 2023, X suspendió 12,4 millones de cuentas por infracciones relacionadas con la política de contenido sexual infantil a nivel mundial. Esto significa que se registra un aumento sustancial con respecto a los 2,3 millones de cuentas en 2022. Por otra parte, X presentó 870.000 informes al NCMEC, lo que supone un volumen ocho veces mayor al número reportado en 2022.
Por otra parte, X garantiza una instancia de apelación, la cual se debe en parte a que el sistema carece de la capacidad de distinguir categóricamente entre el material de abuso sexual en línea y el contexto específico de cada material, como la solicitación de niños. Según lo reportado, en 2023 X recibió 224.000 apelaciones en la Unión Europea por acciones relacionadas con explotación sexual infantil. En efecto, durante ese año se revocaron 1,721 suscripciones.
Cabe destacar, con base en el procesamiento humano y automático para verificar que las cuentas cumplan con la normativa, se llegó a la conclusión de que la precisión del trabajo durante el año anterior fue de 99%. Así, X afirma brindar una capacitación continua a todos los agentes para garantizar el cumplimiento de las políticas. A su vez, se calcula una taza de error con base en una muestra de posibles acciones y etiquetas para mejorar el sistema automatizado. Como consecuencia, se calcula, según el volumen de suspensiones y apelaciones, se logró una tasa de error inferior al 0,1% para la aplicación de políticas contra la explotación infantil en la plataforma.
DESCARGA LA NOTA SÍGUENOS EN GOOGLE NEWS
