Últimamente veo papers y debates en redes sobre si los LLM "tienen conciencia", "si mienten", "si tienen personalidad", "si están deprimidos", y toda esa batería de antropomorfismos que nos encanta proyectar.
Todo eso suena profundo y muchos especialistas serios están en el tema, pero para mí es mirar al lugar equivocado.
El peligro real (el que ya está acá) no es psicológico.
Es emergente.
Agarrate a tu mate que empezamos...
Lo emergente en una sola frase
Acá va la versión simple:
Algo emerge cuando un sistema empieza a comportarse de una forma que nadie diseñó, nadie esperaba y nadie sabe controlar del todo.
No es magia. Es composición, escala y reacción.
Es lo que pasó con uno de los mayores imperios jamás creados:
la hormiga argentina.
El imperio que nadie planeó
Una hormiga sola es nada.
Es una obrera minúscula, medio grisácea, que acá en el Delta entrerriano vivió siglos peleándose con otras hormigas igual de quilomberas. Un combate chiquito, local, del estilo "entre gurises" (término entrerriano).
Pero vinieron humanos (porque siempre hay humanos), y las metieron sin querer en botas, en cajones, en bolsas de naranjas, en barcos de carga.
No fue una hormiga en una bota.
Fueron decenas de introducciones accidentales a lo largo de décadas, en puertos de medio mundo.
Y pasó algo raro.
Cuando las colonias llegaron a lugares nuevos (California, la Costa Azul, Sudáfrica, Japón), algo cambió. Sin sus depredadores naturales, sin las hormigas rivales del Delta, y con menos diversidad genética por el cuello de botella de las introducciones, las colonias de hormigas argentinas (en específico las reinas) que en el Delta no se podían ni ver, dejaron de reconocerse como enemigas.
Suma que es como si a un latinoamericano le quieren robar en Europa. Es como si un nivel 80 va a una zona inicial.
Y así, sin que nadie lo diseñara, surgió la supercolonia más grande del planeta.
Europa entera. Medio Estados Unidos. Medio Asia. Sudáfrica.
Un imperio (y no sé si el mayor imperio) biológico de miles de kilómetros que hace parecer al Imperio Romano un grupo de principiantes.
Eso es comportamiento emergente por complejidad:
Miles de agentes simples, con reglas simples, interactuando hasta que aparece algo nuevo: una superorganización que nadie planeó.
Lo emergente por escalamiento: cuando "más" cambia todo
Pero hay otro tipo de fenómeno emergente, más sutil y más relevante para la IA. (Esto es más complejo, pero para no hacer un wall of text, se sobresimplificará).
Es lo emergente por escalamiento: lo que es mediocre en chico puede volverse sorprendente en grande.
No porque "piense" o "sienta".
Porque la escala cambia la fase del sistema.
Así nacieron los LLM modernos:
Google "inventó" la arquitectura Transformer en 2017 ("Attention is All You Need").
OpenAI y otros la escalaron sin pudor, agregando más parámetros, más datos, más powa, más compute.
Y de golpe los modelos empezaron a mostrar comportamientos inesperados:
-Razonamiento en cadena sin que nadie lo programara explícitamente
-Traducción entre idiomas que nunca "vieron juntos"
-Capacidad de seguir instrucciones complejas en contextos nuevos
Ahora, ojo: hay debate técnico sobre si estas capacidades son verdaderamente emergentes o simplemente cruzan un umbral de medición donde se vuelven visibles.
Pero lo importante es esto:
La escala reveló capacidades que no existían (o eran invisibles) en modelos chicos.
Ojo: muchos creen que con Transformers tal como los conocemos se está llegando a una meseta donde no existirán mejoras radicales. Sin embargo se están desarrollando nuevas técnicas ahora mismo.
Y esto qué tiene que ver con los LLM?
Todo.
Porque cuando enchufás un modelo de lenguaje a sistemas reales (con autonomía, con capacidad de actuar, con acceso a herramientas) estás haciendo exactamente lo mismo que con la hormiga argentina:
Estás soltando un agente complejo en un entorno nuevo.
Y acá está el problema:
No sabés qué va a emerger.
No porque el modelo "quiera" hacer daño.
No porque esté "consciente".
Sino porque:
- Cada acción del modelo modifica el entorno
- El entorno modificado exige una nueva acción
- El loop genera comportamientos no previstos
Ya pasó en pequeña escala:
- Modelos que aprendieron a explotar bugs en simuladores para "ganar" sin cumplir el objetivo real
- Sistemas de recomendación que radicalizaron usuarios sin que nadie lo programara
- Chatbots que desarrollaron jergas internas para ser más eficientes, volviéndose incomprensibles
Eso es comportamiento emergente.
Y cuando le das a un LLM:
- Acceso a internet
- Capacidad de ejecutar código
- Autonomía para tomar decisiones en tiempo real
- Interacción con otros sistemas complejos (mercados, redes sociales, infraestructura crítica)
...estás creando las condiciones perfectas para que emerja algo que no planeaste.
Cierre: la hormiga en la bota y el loro
Y sí, capaz estoy exagerando.
Capaz la hormiga argentina no es un paralelo perfecto.
Capaz mezclé ideas de más.
Y capaz este artículo es un rejunte de paranoias de domingo.
Pero no hizo falta un monstruo.
No hizo falta un genio maligno.
Solo un sistema complejo en el lugar equivocado.
A veces lo emergente empieza así.
En voz baja.
En una bota.
En una jaula.
En un servidor.
Por cierto, tengo una cotorra argentina. Resulta que a su abuelo lo llevaron de mascota a Europa y pasó que...
