Inteligencia Artificial Generativa y Reseñas Falsas: El Nuevo Rostro del Fraude Digital

La amenaza potencial de las reseñas generadas con IA

Con la llegada de herramientas avanzadas de inteligencia artificial generativa como ChatGPT y el uso creciente de estas tecnologías para la producción eficiente de contenido, el comercio electrónico y los servicios basados en reseñas enfrentan un cambio significativo en su panorama.

Históricamente, las reseñas falsas ya eran una plaga recurrente en plataformas como Amazon, Yelp o Trustpilot. Sin embargo, las herramientas de IA han elevado este problema a un nivel mayor, permitiendo a los estafadores crear reseñas bien estructuradas y en grandes volúmenes en cuestión de minutos.

Según compañías como The Transparency Company, se ha observado una proliferación acelerada de este tipo de reseñas desde mediados de 2023. En un análisis reciente, el 14% de las reseñas examinadas en sectores clave como los servicios médicos y legales fueron consideradas falsas, y alrededor de 2.3 millones de esas reseñas fueron identificadas como generadas parcial o totalmente por IA.

¿Dónde están apareciendo estas reseñas?

Las reseñas generadas por inteligencia artificial están presentes en diversas industrias: comercio electrónico, restaurantes, hoteles, servicios del hogar e incluso médicos. Muchas veces, estas reseñas son utilizadas para distorsionar la percepción de productos defectuosos o servicios mediocres, transformándolos en opciones aparentemente confiables.

En el caso de Amazon, las evaluaciones generadas por IA son tan detalladas y convincentes que han logrado posicionarse entre los primeros resultados de búsqueda de reseñas. Por otro lado, plataformas como Yelp también reportan problemas similares, donde los usuarios, en busca de obtener beneficios como la insignia de ‘Usuario Élite’, emplean herramientas de IA para generar decenas de reseñas en poco tiempo.

Reseñas con IA no siempre son fraudulentas

Vale la pena destacar que no todas las reseñas generadas con herramientas de IA tienen la intención de engañar. Algunos usuarios recurren a estas aplicaciones con fines legítimos, como mejorar el lenguaje de una reseña escrita en un idioma extranjero o estructurar mejor sus pensamientos.

De hecho, lo importante para las plataformas no es prohibir el uso de IA per se, sino centrarse en las conductas y patrones de uso que marcarían a ciertos usuarios como posibles generadores de contenido fraudulento.

¿Qué están haciendo las plataformas?

Gigantes tecnológicos como Amazon, Yelp y Trustpilot han tomado medidas importantes mediante algoritmos y equipos de investigadores dedicados a detectar contenido ficticio. Además, plataformas como Yelp han invertido en tecnología avanzada para prevenir los abusos relacionados con la creación de reseñas falsas utilizando IA.

El grupo Coalition for Trusted Reviews también aborda el problema desarrollando sistemas para identificar y combatir las prácticas deshonestas. Incluso, algunos de estos avances tecnológicos implican el uso de IA para controlar la proliferación de reseñas fraudulentas.

En octubre de 2023, una nueva normativa de la Comisión Federal de Comercio (FTC) de Estados Unidos prohibió explícitamente la compraventa de reseñas falsas, imponiendo multas a quienes violen esta legislación. Sin embargo, plataformas como Amazon y Yelp están protegidas de estas sanciones por no ser consideradas responsables del contenido de terceros.

Cómo identificar reseñas falsas como consumidor

Los consumidores tienen herramientas limitadas pero útiles para detectar reseñas generadas por IA. Por ejemplo:

• Desconfía de reseñas exageradamente entusiastas o críticas.
• Presta atención a descripciones genéricas y clichés frecuentes como “cambió mi vida” o “lo mejor que he comprado”.
• Las reseñas muy largas, altamente estructuradas y con detalles excesivos podrían ser resultado de herramientas de IA.

Aunque también hay estudios que revelan que a menudo los humanos no logran distinguir entre reseñas generadas por IA y aquellas creadas por personas reales, las señales mencionadas pueden marcar diferencias.

Implicaciones más amplias: cuando la IA redefine el comercio electrónico

El uso de tecnologías emergentes como la generación automática de contenido plantea un dilema ético y operativo tanto para las empresas como para los consumidores. Si bien la IA puede usarse de manera positiva, también es una herramienta potente en las manos de quienes buscan engañar o manipular.

A medida que las herramientas y estrategias para controlar esta práctica evolucionan, consumidores y empresas deben trabajar conjuntamente para construir ecosistemas digitales más transparentes y confiables. Hasta entonces, la clave reside en la educación y la cautela, para no caer en las nuevas trampas que lo digital puede ofrecer.