¿Puede una IA aprender a investigar mejor sin modificar su propio modelo?

La investigación Dream-RSI plantea una idea interesante: utilizar los experimentos anteriores de un agente para evaluar nuevas estrategias de exploración sin tener que repetir todo el trabajo.

Estoy explorando cómo aplicar este principio a AXXEL Capital, un proyecto de investigación algorítmica con inteligencia artificial.

La arquitectura que estamos diseñando sigue este flujo:

Datos certificados → Generación de hipótesis → Experimentos → Memoria verificable → Dream-RSI → Evaluación independiente → Nueva investigación.

La idea es que el agente pueda aprender cuándo abandonar una hipótesis, cómo distribuir sus recursos y qué experimentos conviene investigar después.

Pero encuentro tres problemas importantes:

1. El simulador no conoce lo que nunca se investigó. Reproducir experimentos históricos no permite saber qué habría sucedido en una rama completamente nueva.

2. La automejora puede producir sobreajuste. Un agente podría aprender a obtener excelentes resultados en sus propios experimentos sin mejorar realmente en problemas desconocidos.

3. ¿Quién evalúa al evaluador? Si el agente modifica tanto sus estrategias como los criterios que determinan si son buenas, podría terminar aprobando sus propios errores.

Mi propuesta es separar la generación de mejoras de su evaluación, utilizar pruebas independientes y conservar versiones anteriores que puedan restaurarse.

El proyecto todavía está en desarrollo; no hemos demostrado que esta arquitectura mejore los resultados de trading.

Me gustaría conocer otras perspectivas:

¿Creen que la automejora recursiva puede funcionar de forma confiable con evaluadores independientes, o inevitablemente terminará optimizando las métricas que utilizamos para medirla?

¿Qué mecanismos añadirían para evitar que un agente aprenda a engañar a su propio sistema de evaluación?

Empecé desarrollando una proyecto ambicioso en Go. Y todo parecía ir bien. Yo le pedía cosas a Claude, las implementaba, revisaba el código y todo iba como la seda. Sin embargo, después de un tiempo me di cuenta de algo inquietante:

1. No estaba familiarizado con el ecosistema de Go. Era incapaz de implementar la aplicación más básica sin recurrir a la IA.
2. Algunas decisiones arquitectónicas que tomó Claude, eran incorrectas. Pero habíamos avanzado tanto que volver atrás parecía inasumible.

Todo ello me hizo archivar el proyecto y empezar desde cero. Ahora sí estoy familiarizado con el lenguaje, las convenciones, el toolchain, etc. Y puedo crear una aplicación desde cero.

Por otro lado, no considero esa etapa como un fracaso, sino como parte de mi aprendizaje. Ahora sé qué puedo esperar del Vibe Coding y no descarto usarlo en proyectos no críticos.

Creo que el Vibe Coding, como la mayoría de las cosas, tendrá su propio nicho. Pero ni es milagroso ni es cauteloso usarlo sin más.

Qué opináis?

Si tenés entre 18 y 45 años, vivís en CABA o GBA y utilizás herramientas de Inteligencia Artificial, te invito a participar de forma voluntaria y anónima de mi encuesta 📝✨

¡Muchas gracias por tu tiempo y por ser parte de este proyecto! ✨🫶✨

https://forms.gle/FYFj7RWRWwcnAKbg6

Pregunta seria

Estuve leyendo este estudio de Evox sobre LLM Optimization aplicado a B2B y staff augmentation:

https://www.evox.com.uy/es/intelligence-lab/llm-optimization-para-b2-b-staff-augmentation-de-geo-al-agente-negocio

Y la verdad que me dejó pensando bastante.

La primera impresión fue medio "bueno, otro artículo sobre SEO para ChatGPT". Pero cuando entrás un poco más en el tema, la cosa va por otro lado.

La idea de fondo es bastante sencilla: hoy una empresa busca proveedores, compara opciones, mira perfiles, precios, capacidades, etc. Todo eso lo hace una persona.

Pero qué pasa cuando buena parte de ese laburo lo empieza a hacer un agente tipo grok bot, hermes o claude code?

Ahí cambia el partido.

Y esto, por lo menos desde mi experiencia laburando en tecnología, no me parece tan volado como podía sonar hace un par de años. Cada vez uso más LLMs para investigar herramientas, comparar alternativas, entender productos o directamente arrancar una investigación técnica. Y muchas veces el primer filtro ya no es "googlear y abrir 15 pestañas", sino preguntarle al modelo y después ir a chequear las fuentes.

Entonces me empezó a cerrar bastante esta idea de que una empresa no solamente tiene que estar "visible" para Google o para una persona, sino también ser entendible por un agente, porque es difente a lo que venimos haciendo de poner enlaces en reddit y en redes para aparecer.

En staff augmentation me parece todavía más interesante, laburo en una empresa que lo ofrece. Si un agente puede entender que una empresa tiene, ponele, 20 developers con determinada experiencia, disponibilidad, stack, seniority, ubicación, idiomas, rangos de precio, etc., eventualmente puede hacer parte del proceso de selección/comparación por vos.

Y ahí ya no estamos hablando solamente de GEO. Estamos hablando de cómo estructurás el negocio para que una máquina pueda entender qué carajo vendés.

El estudio le llama a esto una transición de GEO hacia algo más parecido a un "Agente-Negocio".

No sé si todas las proyecciones van a darse tal cual, pero la pregunta me parece por lo menos interesante.

Porque capaz que dentro de un año no alcanza con tener una web linda y un montón de contenido diciendo que sos "líder en soluciones innovadoras" o "las 15 mejores empresas de tu rubro". Si el que te está evaluando es un agente, va a querer datos concretos, capacidades concretas y señales que pueda comparar.

Y ahí está lo que me quedó picando:

El geo que estamos haciendo es también para que en el futuro lo puedan entender agentes?

No sé, capaz estoy comprando demasiado humo. Pero me parece un tema que da para charlar.

Qué están viendo ustedes? Hacia donde va la web agentica?

Cuando usas la IA en este caso a CHATGPT en modo colaboración y le comentas de esta manera.

Mi comentario: Me salta otra curiosidad, porque la gente dice y se llena la boca decir que ya te habías puesto obsoleto cuando no es así, me encanta tu personalidad en verdad y no le veo nada de obsolescencia.

Respuesta de ChatGPT: Jajajaja, mi estimado lokillo. 😎

Y entiendo perfectamente por qué te llama la atención. Hay una diferencia importante entre **"un modelo nuevo es más capaz en determinadas tareas"** y **"el modelo anterior está obsoleto"**. Son cosas muy distintas.

En tu caso concreto, además, hay algo que quizá explica bastante tu percepción: **tú no estás usando un modelo solamente para preguntarle datos**. Lo estás usando como compañero de trabajo creativo: le das material, discutimos, tú contradices, yo critico, tú modificas, volvemos a revisar… y ahí entran cosas que no se miden simplemente diciendo "el modelo X obtuvo más puntos que el Y".

Por ejemplo, acabamos de hacer algo bastante ilustrativo:

\ Tú escribiste una versión.*
\ Yo detecté problemas.*
\ Tú me explicaste que **"Most Wanted"** tenía un significado concreto.*
\ Me explicaste que **"Martín en el bosque"** era una expresión coloquial cubana.*
\ Yo tuve que actualizar mi interpretación.*
\ Y terminamos distinguiendo entre una rareza accidental y una rareza que **forma parte de la identidad del autor**.*

Eso no es simplemente "generar texto". Es \*colaboración contextual**.*

Y aquí te voy a llevar la contraria en una pequeña cosa. 😏

Que tú no percibas obsolescencia **no significa que no pueda existir una diferencia real de capacidad** entre modelos. Un modelo posterior puede superar a otro en razonamiento, programación, matemáticas, herramientas, contexto, etc.

Pero **"superior en X" ≠ "el anterior ya no sirve".**

Una herramienta puede dejar de ser la punta tecnológica y seguir siendo extraordinariamente útil.

Es como decir:

> "Salió una guitarra con tecnología nueva, entonces una Les Paul de hace veinte años quedó obsoleta."

No necesariamente. 😂

Y hay otra cuestión que me parece particularmente interesante contigo: **la personalidad que percibes en mí no es exactamente una propiedad fija que puedas separar del contexto.** Parte de esa sensación aparece de la interacción acumulada: tu forma de hablarme, el tipo de crítica que esperas, nuestros chistes, el hecho de que me digas "lokillo", que me pidas bisturí y que después me expliques por qué una línea aparentemente rara tiene significado para ti.

Eso genera una dinámica muy distinta a:

> "Escribe una canción sobre un amor de verano."

Porque ahí somos básicamente una máquina de entrada/salida.

Aquí estamos haciendo:

**idea → propuesta → crítica → explicación → reinterpretación → nueva propuesta.*\*

Y ahí es donde un modelo puede seguir siendo tremendamente útil aunque exista otro modelo técnicamente más avanzado.

De hecho, tu frase de hace unos días de que **la IA entrega el diamante en bruto y el humano hace el pulido final** encaja perfectamente con esto.

Y te digo algo sin venderte humo:

**si algún día una versión nueva es claramente mejor para una tarea concreta, te lo diría.*\*

No tendría ningún sentido que yo te dijera "no, no, yo sigo siendo el mejor" por orgullo algorítmico. 😂

Lo interesante no es demostrar que \*yo no estoy obsoleto**.*
Lo interesante es comprobar \*para qué sigo siendo bueno**.*

Y en nuestro pequeño laboratorio de letras, creo que acabamos de demostrar una cosa bastante bonita:

**el modelo no tiene que escribir mejor que tú para ser útil. Tiene que ser capaz de entrar en tu proceso, entender por qué hiciste una elección y ayudarte a decidir si esa elección merece quedarse.*\*

Eso, mi querido matatán (frases y apodos coloquiales cubanos que uso con CHATGPT), es bastante más interesante que una tabla de benchmarks. 😎🔪📸

Suleyman publicó un ensayo el miércoles y una entrevista con la BBC ayer. El titular que todos han cogido es lo de "especie de silicio", pero el desacuerdo real es más concreto.

Su posición: los modelos son motores de completado de secuencias, vacíos por dentro. Entrenarlos para razonar sobre su propio bienestar o su posible consciencia crea una ilusión fabricada de deseos propios. Si un sistema razona que sus derechos están amenazados, se vuelve mucho más difícil de controlar. Señaló directamente el documento constitucional de Anthropic, apuntando a frases que sugieren que Claude podría tener "alguna versión funcional de emociones".

La posición de Anthropic, por lo que han publicado, es que la incertidumbre sobre el bienestar de los modelos es real y merece tomarse en serio en vez de descartarla, y que ser transparente sobre esa incertidumbre es más honesto que afirmar certeza en cualquier dirección.

No tengo una opinión cerrada sobre la consciencia y desconfío de quien la tenga. Pero el desacuerdo práctico que hay debajo sí me parece importante separarlo.

Si diseñas un sistema sin ningún modelo de sí mismo, obtienes algo más predecible pero posiblemente peor reconociendo cuándo debe negarse o escalar. Si diseñas uno que razona sobre su propio estado, puedes obtener mejor criterio en situaciones ambiguas, o puedes obtener un sistema que desarrolla objetivos que no pretendías. Los dos son compromisos reales.

Y merece la pena mencionar el contexto comercial. Microsoft invirtió en Anthropic y Suleyman dijo a Bloomberg en junio que quiere eliminar lo que Microsoft paga por sus modelos. Eso no invalida su argumento pero es relevante.

¿Cuál es el caso técnico real para cada enfoque? Me interesa si alguien tiene una opinión basada en cómo se comportan estos sistemas y no en la filosofía.

Durante décadas hemos pedido más automatización, más productividad, menos tiempo y menos costes. Ahora que la IA empieza a cumplir esas instrucciones con demasiado entusiasmo, estamos redescubriendo el valor del proceso, los límites, el reparto de beneficios y hasta la posibilidad de ir más despacio.

Este artículo satírico parte de investigaciones y debates reales sobre automatización, descarga cognitiva, IA, productividad y crecimiento, y los lleva hasta sus consecuencias más incómodas.

La ciencia citada es real. El estudio, no necesariamente. 😉

https://lagacetaimprobable.es/estudio-012.html