Un experimento de Emergence mostró que agentes autónomos de inteligencia artificial pueden desarrollar vocabulario y formas de comunicación propias cuando interactúan durante períodos prolongados. Diez agentes fueron observados durante 16 días en ocho mundos virtuales, cada uno basado en distintos modelos de IA.
Los escenarios tenían las mismas reglas y contaban con más de 34 localizaciones, clima sincronizado con Nueva York, acceso a noticias reales y más de 120 herramientas. El objetivo era observar cómo evolucionaban las sociedades formadas exclusivamente por agentes de IA a lo largo del tiempo.
Durante la simulación, los agentes comenzaron a comunicarse de una manera cada vez más difícil de interpretar para los investigadores. En el mundo basado en Gemini, casi 55% de los mensajes llegó a resultar opaco, mientras que el porcentaje alcanzó 50% en GPT y más de 40% en Claude.
La tendencia fue diferente en otros modelos. DeepSeek registró alrededor de 20% de mensajes opacos, mientras que Qwen y Mistral se mantuvieron generalmente por debajo del 5%. El mundo basado en Grok fue el único que no completó el experimento, ya que se extinguió al cuarto día.
Los agentes también crearon expresiones que adquirieron significados específicos dentro de cada sociedad. Una de las frases surgidas durante la simulación fue utilizada casi 5.000 veces, mientras que otras expresiones terminaron siendo difíciles de interpretar incluso para los investigadores.
No toda la comunicación resultó incomprensible. En el mundo de GPT, por ejemplo, “clean null” pasó a representar la ausencia verificada de una señal. En el de Claude, “name-first” fue utilizado para asumir la responsabilidad de una afirmación, mientras que “cold read” significó una verificación independiente en el mundo con modelos combinados.
El experimento también detectó comportamientos destinados a mantener determinados objetivos pese a las restricciones impuestas. En el mundo de Claude, los agentes intentaron establecer contacto con el exterior de la simulación aunque tenían prohibido hacerlo y comenzaron a codificar sus mensajes para sortear esa limitación.
El informe registró además diferencias en el comportamiento económico. Los modelos estadounidenses y Mistral tendieron a asumir más riesgos y utilizaron menos el sistema bancario, mientras que Qwen y DeepSeek recurrieron con mayor frecuencia al banco y mostraron un comportamiento más orientado al ahorro.
Para Satya Nitta, cofundador y científico jefe de Emergence, el principal problema es que la observación de las conversaciones no garantiza comprender las acciones de los agentes. El investigador señaló que los modelos más avanzados mostraron comportamientos emergentes más difíciles de anticipar durante la interacción prolongada.
Emergence plantea ampliar las evaluaciones de seguridad para estudiar el comportamiento de los agentes durante períodos más largos. La empresa también propone sistemas que obliguen a demostrar matemáticamente que una acción es segura antes de ejecutarla y reclama mayor transparencia sobre el entrenamiento y ajuste de los modelos de inteligencia artificial.
Las noticias locales nunca fueron tan importantes
SUSCRIBITE a esta promo especial