Manipulación de la IA mediante redes sociales y foros abre nuevo frente de riesgo informativo en México
Imagen: Andrejzt | https://www.deviantart.com/andrejzt
Por Víctor Ruiz, fundador de SILIKN, CyberOps Associate (CCNA CyberOps), Instructor Certificado en Ciberseguridad (CSCT™), NIST Cybersecurity Framework 2.0 Certified Expert (CSFE), (ISC)² Certified in Cybersecurity℠ (CC), EC-Council Ethical Hacking Essentials (EHE) Certified, EC-Council Certified Cybersecurity Technician (CCT), Ethical Hacking Certified Associate (EHCA), Cisco Ethical Hacker & Cisco Cybersecurity Analyst, Coordinador de la Subcomisión de Ciberseguridad de COPARMEX Querétaro y Líder del Capítulo Querétaro de la Fundación OWASP.
En México, la disputa por la narrativa pública no es un fenómeno nuevo. Lo que sí cambia el escenario actual es la aparición de sistemas de inteligencia artificial que pueden amplificar esa disputa a una escala sin precedentes y con una apariencia de objetividad difícil de cuestionar.
Un análisis de la unidad de investigación de SILIKN advierte sobre una vulnerabilidad emergente en los sistemas de IA utilizados para consulta y síntesis de información — como los llamados agentes de deep research, entre ellos ChatGPT Deep Research o Gemini — : su capacidad para ser influenciados mediante pequeñas piezas de texto colocadas estratégicamente en plataformas abiertas como Reddit, foros, redes sociales o Wikipedia.
El método, identificado en investigaciones recientes bajo el nombre WARP (Web Agent Retrieval Poisoning), no requiere vulnerar servidores ni intervenir modelos de inteligencia artificial. Su lógica es más simple: insertar contenido en internet que posteriormente será leído, indexado y reutilizado por sistemas automatizados de búsqueda y síntesis.
Una manipulación mínima con efectos amplificados
El mecanismo parte de una premisa inquietante: una intervención textual mínima puede tener un impacto desproporcionado. Según los análisis citados, bastan alrededor de una decena de palabras ubicadas en contextos específicos para alterar la forma en que los sistemas de IA interpretan y responden a consultas complejas.
En el análisis, contenido envenenado que representaba menos del 3.2% del material recuperado por la IA logró que un producto ficticio fuera mencionado en entre el 35.1% y el 62.8% de las respuestas. Cuando el mismo mensaje se dispersó en múltiples fuentes, la tasa de influencia subió hasta el 79.3%.
Implicaciones para el entorno informativo mexicano
Trasladado al contexto mexicano, este fenómeno abre la posibilidad de que actores políticos, institucionales o privados introduzcan narrativas diseñadas para ser absorbidas por sistemas de IA. El proceso sería relativamente sencillo: identificar los sitios que los agentes de búsqueda consultan con mayor frecuencia y publicar ahí contenido aparentemente orgánico, pero estructurado para influir en futuras respuestas automatizadas.
Una vez indexado, ese contenido puede integrarse en las respuestas de los sistemas de IA, presentándose como síntesis neutral basada en múltiples fuentes. Para el usuario final, el resultado puede ser difícil de distinguir de una investigación objetiva.
En este escenario, la manipulación ya no depende únicamente de la difusión masiva en redes sociales, sino de su capacidad para infiltrarse en los sistemas que median el acceso a la información.
Un ecosistema ya marcado por la disputa narrativa
El análisis también sitúa este riesgo dentro de una tradición más amplia de comunicación política en México, donde la construcción de narrativas ha sido una herramienta constante de actores institucionales y partidistas. Desde redes de cuentas automatizadas en periodos electorales hasta el uso intensivo de canales oficiales de comunicación gubernamental, la gestión de la percepción pública ha sido una constante en la vida política reciente.
La diferencia ahora radica en el intermediario: la inteligencia artificial. Al convertirse en una herramienta de consulta cotidiana para millones de personas, su papel como filtro de información podría amplificar cualquier intento de influencia externa, haciéndolo más eficiente y menos visible.
Tres escenarios críticos de riesgo
El estudio y su lectura aplicada al contexto mexicano permiten identificar al menos tres escenarios particularmente sensibles.
1. Procesos electorales y manipulación informativa previa al voto
Durante campañas electorales, los ciudadanos recurren cada vez más a herramientas digitales para comparar candidatos, propuestas y trayectorias. Si el contenido en redes y foros ha sido previamente manipulado, los sistemas de IA podrían reproducir esas narrativas como si fueran conclusiones neutrales derivadas de múltiples fuentes.
El riesgo central no es la desinformación evidente, sino aquella que adquiere legitimidad por el formato en que se presenta. Las respuestas con citas y estructura analítica tienden a generar mayor confianza que publicaciones aisladas en redes sociales o titulares de prensa.
2. Reencuadre de resultados gubernamentales
Los informes oficiales sobre seguridad, economía o desarrollo social suelen ser objeto de disputa política. En contextos donde existen indicadores negativos, actores alineados con el poder podrían introducir narrativas alternativas en plataformas abiertas que atribuyan los resultados a factores externos o los diluyan en comparaciones selectivas.
Cuando un usuario consulta a una IA sobre el desempeño de un gobierno, la síntesis resultante podría reflejar más esas narrativas previamente sembradas que los datos originales.
3. Asimetría estructural en la producción de información
Uno de los problemas de fondo es la desigualdad de capacidades entre actores. La construcción sistemática de narrativas requiere recursos, coordinación y conocimiento técnico que suelen estar disponibles para gobiernos, partidos políticos o grandes organizaciones, pero no para ciudadanos individuales, periodistas independientes o sociedad civil.
Esto genera una asimetría informativa: mientras algunos actores pueden influir de forma coordinada en los sistemas que alimentan a la IA, la capacidad de detección o contrapeso social es limitada.
La ilusión de neutralidad tecnológica
Un hallazgo relevante del análisis es que los usuarios tienden a percibir las respuestas de los modelos de lenguaje como altamente confiables, incluso cuando contienen errores o información falsa. Esta percepción de objetividad convierte a la IA en un canal particularmente sensible a la manipulación indirecta.
La paradoja es clara: muchos usuarios recurren a estas herramientas para evitar la desinformación de redes sociales, pero si dichas redes son precisamente el punto de entrada del contenido que alimenta a la IA, el resultado puede ser una forma más sofisticada de desinformación, presentada como síntesis racional.
Límites de la defensa individual
Frente a este tipo de vulnerabilidades, las medidas individuales de protección son limitadas, aunque no inexistentes. La unidad de investigación de SILIKN recomienda tratar las respuestas de la IA como un punto de partida y no como una conclusión definitiva, así como contrastar siempre con fuentes primarias como datos oficiales, bases de datos públicas y periodismo de investigación.
También se recomienda desconfiar de explicaciones excesivamente homogéneas y sin matices, ya que la ausencia de discrepancias puede ser una señal de que la información ha sido simplificada o filtrada de forma indebida.
Un desafío para el ecosistema informativo
El análisis no plantea una amenaza hipotética, sino una vulnerabilidad técnica ya existente en los sistemas de recuperación de información utilizados por la inteligencia artificial. Su explotación no requiere capacidades extraordinarias, sino simplemente acceso a plataformas abiertas donde cualquier usuario puede publicar contenido.
En un entorno como el mexicano, caracterizado por una competencia constante por el control de la narrativa pública y una confianza institucional fragmentada, la inteligencia artificial se convierte simultáneamente en una herramienta de acceso a la información y en un nuevo campo de disputa.
La cuestión central ya no es si estas técnicas serán utilizadas, sino con qué rapidez el ecosistema informativo — periodismo, ciudadanía e instituciones — será capaz de reconocer y adaptarse a ellas.
Para mayor información, visite: https://www.silikn.net/