Investigadores de la Binghamton University y la State University of New York han desarrollado un sistema de Inteligencia Artificial (IA) para mapear las interacciones entre el contenido y los algoritmos en redes sociales, con el objetivo de reducir la propagación de contenido potencialmente dañino o engañoso, según un estudio publicado el 17 de julio de 2025.
En un entorno donde los clickbaits son comunes, los usuarios a menudo se encuentran atrapados en una “cámara de resonancia” digital, donde la información se amplifica sin considerar su veracidad. Esto puede reforzar las creencias existentes, independientemente de si la información es precisa. La investigación destaca cómo los algoritmos optimizan la entrega de contenido basado en interacciones, favoreciendo la difusión de teorías conspirativas, especialmente aquellas que generan una respuesta emocional.
Desarrollo de un marco de IA
El marco de IA que proponen los investigadores busca contrarrestar este fenómeno, permitiendo a los usuarios y a las plataformas de redes sociales, como Meta o X, identificar y eliminar fuentes de desinformación. Este sistema no solo actuaría en la detección de contenido engañoso, sino que también facilitaría la promoción de diversas fuentes de información, enriqueciendo el panorama informativo del usuario.
Thi Tran, coautor del estudio y profesor adjunto de sistemas de información de gestión en la Facultad de Administración de la BU, afirma: “El entorno en línea ofrece las condiciones ideales para que se active ese efecto de cámara de eco debido a la rapidez con la que compartimos información”. Tran advierte que, así como la IA puede ser utilizada para el bien, también puede ser manipulada para difundir desinformación.
Resultados de la encuesta
Los investigadores llevaron a cabo una encuesta aleatoria entre 50 estudiantes universitarios, quienes reaccionaron ante cinco afirmaciones erróneas sobre la vacuna contra la COVID-19. Entre los resultados, el 90% de los participantes afirmó que continuaría vacunándose, mientras que el 70% indicó que compartiría la información en redes sociales, principalmente con amigos y familiares.
A pesar de que el 60% de los encuestados identificó las afirmaciones como falsas, el 70% expresó la necesidad de más investigación antes de descartar completamente la información. Estos hallazgos subrayan la complejidad de la dinámica de desinformación, donde el reconocimiento de falsedades no necesariamente lleva a su rechazo inmediato.
Tran concluye: “Todos queremos transparencia informativa, pero cuanto más expuesto estés a cierta información, más creerás que es cierta, incluso si es inexacta”. La investigación sugiere que, en lugar de depender únicamente de verificadores de datos, se podría utilizar la misma IA generativa empleada por quienes propagan desinformación para promover contenido confiable.
El artículo de investigación, titulado “Ecos Amplificados: Un Estudio de Contenido Generado por IA y Cámaras de Eco Digitales”, fue presentado en una conferencia organizada por la Sociedad de Ingenieros de Instrumentación Fotoóptica (SPIE). Los autores incluyen a Seden Akcinaroglu, profesor de ciencias políticas de Binghamton; Nihal Poredi, estudiante de doctorado en la Facultad de Ingeniería y Ciencias Aplicadas Thomas J. Watson; y Ashley Kearney, de la Universidad Estatal de Virginia.
