Según los expertos, se trata de flotas controladas por IA capaces de adaptarse en tiempo real, infiltrarse en diferentes grupos y crear una apariencia de consenso general. Un coro de voces aparentemente independientes crea la ilusión de un amplio consenso público, cuando en realidad difunde desinformación.
El análisis del grupo de investigación muestra que el principal peligro no radica solo en la información falsa, sino sobre todo en el consenso artificial: la falsa impresión de que la mayoría está de acuerdo con algo. Esta ilusión puede influir en las creencias y las normas, incluso si se cuestionan algunas afirmaciones concretas. Según los investigadores, este efecto duradero puede provocar profundos cambios culturales que van más allá de simples cambios en las normas, alterando imperceptiblemente el lenguaje, los símbolos y la identidad de la comunidad.
«El peligro ya no radica solo en las noticias falsas, sino en que la base del discurso democrático —las voces independientes— se derrumbará si un solo sujeto puede controlar miles de perfiles únicos generados por la inteligencia artificial», afirmó Jonas R. Kunst, de la Escuela de Negocios BI de Noruega, uno de los principales autores del artículo publicado en la revista Science.
Cabe señalar que los enjambres de inteligencia artificial también pueden contaminar los datos de entrenamiento de la inteligencia artificial convencional, inundando Internet con afirmaciones falsas. De este modo, pueden extender su influencia a las plataformas de IA ya existentes.
Los investigadores advierten que esta amenaza no es puramente teórica: los análisis muestran que esta táctica ya se está utilizando.
Los investigadores definen una enjambre de IA maliciosa como un grupo de entidades controladas por IA que conservan identificadores estables y tienen memoria, coordinan sus acciones en torno a objetivos comunes y cambian el tono y el contenido de sus mensajes. Se adaptan a las interacciones y respuestas de las personas en tiempo real, requieren un control mínimo por parte del ser humano y pueden desplegarse en diferentes plataformas. En comparación con las redes de bots anteriores, estos enjambres pueden ser más difíciles de detectar, ya que generan contenido heterogéneo y dependiente del contexto, al tiempo que actúan de forma coordinada.
«Más allá del engaño o la seguridad de los chatbots individuales, necesitamos estudiar los nuevos peligros que surgen de la interacción de múltiples entidades de inteligencia artificial», afirmó el profesor de la Universidad de Constanza David García, que también participó en el estudio.
En lugar de moderar mensajes individuales, los investigadores abogan por medidas de protección que rastreen el comportamiento coordinado y el origen del contenido: identificación de patrones de coordinación estadísticamente improbables, provisión de opciones de verificación que respeten la confidencialidad de los datos e intercambio de información sobre la influencia de la IA a través de centros de monitoreo distribuidos.
Al mismo tiempo, los investigadores recomiendan reducir los incentivos, limitando la monetización de las interacciones ficticias y aumentando la responsabilidad.
