Un grupo de investigadores de la Binghamton University y la State University of New York ha propuesto una solución innovadora para combatir la desinformación en redes sociales mediante el uso de un sistema de Inteligencia Artificial (IA). Este estudio, publicado el 17 de julio de 2025 por el boletín BingUNews, sugiere que la IA puede mapear las interacciones entre el contenido y los algoritmos en plataformas digitales, ayudando a reducir la propagación de información dañina o engañosa.
La proliferación de clickbaits ha creado un efecto de “cámara de resonancia”, donde los usuarios se ven atrapados en un ciclo de información que refuerza sus creencias, sin importar la veracidad de los datos. Esto es especialmente evidente en los feeds de quienes se informan principalmente a través de redes sociales, donde artículos similares parecen multiplicarse.
Desarrollo del sistema de IA
El estudio destaca que los algoritmos actuales tienden a amplificar contenido basado en interacciones, lo que facilita la difusión de teorías conspirativas, particularmente aquellas que generan respuestas emocionales. El marco de IA propuesto permite tanto a usuarios como a operadores de plataformas como Meta o X identificar y eliminar fuentes de desinformación cuando sea necesario, promoviendo así una mayor diversidad informativa.
“El entorno en línea está diseñado para activar ese efecto de cámara de eco debido a la velocidad con la que compartimos información”, afirma Thi Tran, coautor del estudio y profesor adjunto en la Facultad de Administración de la BU. “Las personas crean la IA, y así como pueden ser buenas o malas, lo mismo aplica a la IA”. Tran enfatiza la importancia de cuestionar la información, ya sea generada por humanos o por IA.
Resultados de la investigación
Los investigadores también observaron cómo las plataformas digitales optimizan la entrega de contenido según las métricas de interacción, lo que a menudo resulta en que los usuarios se rodeen de perspectivas similares. Para probar esta teoría, realizaron una encuesta a 50 estudiantes universitarios sobre afirmaciones falsas relacionadas con la vacuna contra la COVID-19, incluyendo la idea de que las vacunas son utilizadas para implantar códigos de barras en la población.
Los resultados mostraron que el 90% de los encuestados seguiría vacunándose, a pesar de escuchar afirmaciones erróneas. Además, el 70% indicó que compartiría esta información en redes sociales, y el 60% logró identificar las afirmaciones como falsas, revelando una curiosa dinámica donde muchos reconocen la desinformación pero sienten la necesidad de buscar más pruebas antes de descartarla por completo.
“Todos queremos transparencia informativa, pero cuanto más expuesto estés a cierta información, más creerás que es cierta, incluso si es inexacta”, añade Tran. Este estudio propone que, en lugar de depender únicamente de verificadores de datos, se puede utilizar la misma IA generativa que los desinformadores emplean para amplificar contenido engañoso, pero en un sentido positivo.
El artículo de investigación titulado “Ecos Amplificados: Un Estudio de Contenido Generado por IA y Cámaras de Eco Digitales” fue presentado en una conferencia organizada por la Sociedad de Ingenieros de Instrumentación Fotoóptica (SPIE). Este esfuerzo conjunto involucra a otros académicos, como Seden Akcinaroglu, profesor de ciencias políticas, y Ashley Kearney, de la Universidad Estatal de Virginia.
