Foto: Sergio F Cara (NotiPress)
Herramientas de inteligencia artificial generativa, como ChatGPT, transformaron la manera en que se crean reseñas en línea, pero también facilitó la proliferación de comentarios fraudulentos, un problema que afecta tanto a consumidores como a empresas. Según grupos de vigilancia e investigadores, estas herramientas permiten a los estafadores generar reseñas falsas con rapidez y en grandes cantidades, colocando a las plataformas digitales en un terreno inexplorado.
Desde hace tiempo, sitios como Amazon, Yelp y otras plataformas populares han lidiado con reseñas falsas, a menudo intercambiadas en grupos privados o incentivadas por cupones y recompensas. Sin embargo, la inteligencia artificial hizo que estas prácticas sean más difíciles de detectar debido al alto nivel de detalle y credibilidad de los textos generados. De acuerdo con The Transparency Company, empresa especializada en la detección de reseñas fraudulentas, el uso de IA para este propósito aumentó significativamente desde mediados de 2023.
En un análisis reciente de 73 millones de reseñas en sectores como servicios médicos, legales y para el hogar, la empresa encontró que el 14% eran probablemente falsas. Además, identificaron 2,3 millones de reseñas generadas parcial o completamente por IA, lo que representa un gran desafío para la integridad de las plataformas.
Impacto en los consumidores y medidas regulatorias
La situación es especialmente preocupante durante temporadas de alta demanda, como la Navidad, cuando muchas personas confían en reseñas para elegir productos o servicios. La Comisión Federal de Comercio (FTC, por sus siglas en inglés) intensificó los esfuerzos para combatir estas prácticas. En octubre, implementó nuevas reglas que prohíben la compra y venta de reseñas falsas, permitiendo multar a las empresas involucradas. Además, en septiembre, demandó a Rytr, una plataforma de generación de texto, por permitir que usuarios produjeran reseñas fraudulentas en masa.
A pesar de estos esfuerzos, identificar reseñas falsas sigue siendo un desafío. Según Max Spero, CEO de Pangram Labs, las reseñas generadas por IA suelen aparecer en los primeros resultados de búsqueda en plataformas como Amazon debido a su redacción detallada y convincente. Sin embargo, Spero señala que las empresas enfrentan limitaciones para detectar patrones de abuso sin acceso a ciertos datos internos.
Qué hacen las plataformas y cómo identificar reseñas falsas
Empresas como Amazon, Yelp y Trustpilot adoptaron diferentes estrategias para abordar este problema. Mientras Amazon permite reseñas asistidas por IA si reflejan experiencias genuinas, Yelp prohíbe cualquier contenido generado con estas herramientas. Además, plataformas como Yelp invirtieron en sistemas avanzados para identificar y mitigar el impacto de reseñas falsas. Por su parte, la Coalición para Reseñas Confiables, que incluye a empresas como Tripadvisor y Expedia, trabaja en el desarrollo de estándares para mejorar la detección de fraudes y proteger a los usuarios.
Para los consumidores, los expertos recomiendan identificar posibles señales de advertencia. Reseñas excesivamente entusiastas, frases genéricas o el uso repetido de términos, principalmente nombres completos de productos, pueden ser indicios de contenido generado por IA. Además, investigaciones como la del profesor Balázs Kovács, de Yale, revelan que incluso los detectores automatizados pueden ser engañados, especialmente con textos más cortos.
Es por eso que el desafío no solo radica en identificar reseñas falsas, sino también en equilibrar el uso legítimo de herramientas de IA por parte de usuarios que buscan mejorar la calidad de sus comentarios. Según Sherry He, profesora de marketing en la Universidad Estatal de Michigan, la IA puede ayudar a generar reseñas más informativas cuando se usa con buenas intenciones.
DESCARGA LA NOTA SÍGUENOS EN GOOGLE NEWS
