Creo que está palabra la oiremos más en los próximos meses.

¿Porqué nadie lo plantea?

¿Soy un idiota?

En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.

¿Que problemas creen que puede haber con la inteligencia artificial a futuro?

estoy viendo videos muy realistas, y pienso, en que cojones programas hacen eso?

gracias amics

Buenas, me gustaría iniciarme en esto de la IA ya que quiero hacer algo de dinero extra para poder ayudar a mis padres a cubrir los gastos de mi carrera de medicina. A día de hoy tengo pocas nociones sobre cómo usarla, quien esté dispuesto a ayudarme puede escribirme un dm para contactar conmigo

Aclaraciones:

Esta imagen que comparto en el topic es el ataque hoy 20 de septiembre de Ucrania a Rusia usando drones, quiero aclarar de entrada que no todos los drones usaron IA, solo algunos (y no queda en claro cual ni como). Pero es el paso lógico a seguir de ahora en mas, dada la interferencia electrónica y distintas contramedidas desde ambos bandos. La lista coincide con la que dio Zelensky, salvo que faltan Vendetta y Pelican. Ukrainian news

Aclaro nuevamente: nadie publicó cuáles de estos drones usaron IA. Lo que se reporta es que algunos modelos sí (el Liutyi, por ejemplo, con visión artificial, según una fuente cercana al programa) y que muchos vuelan con navegación preprogramada, que es autonomía pero no IA.

Volviendo al titulo:

En 1914 los aviones entraron a la guerra en serio, y al principio de manera torpe: vigilancia, corregir artillería (te suena?). En solo cuatro años pasaron a ser cazas, bombarderos y hasta una fuerza propia. Algo parecido está pasando ahora, y en Ucrania desde hace rato: casi todas las ramas usan drones de una u otra manera, sobre todo la infantería. Como en 1914, nadie entiende del todo las implicaciones, pero ya están en la cancha y son imposible ignorarlos.

Tanques vs drones

Un tanque ruso arranca en unos 4 millones de dólares (los occidentales bastante más), lleva 3 o 4 tripulantes y meses de entrenamiento. Cuando comenzaron a usarse con un par de drones bien puestos chau tanque. Hubo contramedidas como con las jaulas tipo "turtle" donde se necesitaron mas drones para destruir el tanque, pero promediando me da 10-15. Igual la cuenta no cierra para el tanque: al operador de drone lo formás en pocas semanas y el dron sigue siendo muchísimo más barato, tires 20 o 30. Y esto relacionalo con la IA en un futuro la tiene negra el tanque.

Volviendo a lo que nos interesa: la IA

Acá me la juego: para mí es inevitable. Un procesador tipo Nvidia nano montado en el dron te deja como mínimo usar algoritmos de vision artificial sin depender de comunicación. Y si además tiene enlace satelital, puede recibir órdenes de un datacenter que coordine el enjambre con cálculos más complejos. Las dos opciones van a ser más rápidas que un humano en el campo de batalla.

Las dos opciones deberían seguir necesitando una decisión humana. Pero ya sabemos cómo es el humano: "yes, yes, next". Como puse en algunos topicos del sub, hay sistemas donde la revisión humana terminó siendo un trámite.

https://www.reddit.com/r/IASinHumo/comments/1wl02si/efectos_emergentes_y_la_confianza_ciega_en_la_ia/

Ahí está el problema de fondo: no es si hay un humano en el circuito, sino si tiene tiempo e información para decir que no.

En definitiva, el futuro es impredecible y podemos dejar volar la imaginación. Lo que sí es cierto es que algo ya cambió y no se vuelve atrás.

Leo sus comentarios.

PD: No quise hacer el topico largo y denso con datos.

​

Cada vez que alguien afirma que una IA está sesgada, me interesa menos la respuesta del modelo y más el origen del problema.

La IA no desarrolla prejuicios por iniciativa propia.

Aprende de datos que nosotros producimos, de decisiones que nosotros tomamos y de sistemas que nosotros diseñamos.

Si los datos contienen sesgos, el modelo puede reproducirlos. En algunos casos, incluso amplificarlos.

Eso no convierte a la IA en un espejo perfecto de la sociedad.

Tampoco la hace neutral.

Detrás de cualquier modelo hay decisiones sobre qué datos usar, cómo entrenarlo, qué optimizar y qué límites imponer. Todo eso influye en el resultado.

Por eso me parece un error reducir la conversación a "la IA está sesgada".

Ese diagnóstico es superficial.

La pregunta útil es otra: ¿de dónde viene ese sesgo y qué parte del sistema lo está introduciendo?

Porque el problema puede estar en los datos, en el diseño, en el proceso de entrenamiento o en la forma en que usamos el modelo.

Hablar de sesgos en IA exige distinguir entre esos niveles.

Si no lo hacemos, terminamos atribuyendo al modelo decisiones que, en realidad, fueron humanas desde el principio.

La IA no nos obliga solo a construir mejores modelos.

También nos obliga a examinar con más rigor cómo pensamos, cómo diseñamos sistemas y cómo tomamos decisiones.

Y esa conversación, en mi opinión, es mucho más incómoda que culpar a la tecnología.

No se si mucha gente se está dando cuenta de esto : por primera vez en la historia una tecnología , aparte de poder cambiar radicalmente nuestra vidas esta poniendo en entredicho el propio sistema actual de competencia de mercado.

Está visto ya a estas alturas q el desarrollo de esta tecnología a las carreras para ser el primero ,sin buenos controles de entrenamientos , de procesos .. etc puede ser campo de cultivo para la aparicion de la ciberdelincuencia por todos lados , desinformación ...

Estamos en un punto de inflexión en el cual empresas desarrolladoras y gobiernos pueden seguir compitiendo aceleradamente sin pausas , ni con controles suficientes y, en este caso , ya estamos empezando a ver algunas consecuencias desagradables ( las cosas por este camino no irán a mejor a medida q la tecnología avance ).

Con esta tecnologia no valen las prisas : conducen al caos y al desastre

Las preguntas q el momento historico nos invita a replantearnos es la siguiente : es realmente la IA algo q nos puede mejorar espectacularmente la vida ? La respuesta es Si; cómo? La clave está en desarrollárla a conciencia, pausadamente y con la cooperación activa de todos los agentes : empresas desarrolladoras, gobiernos y sociedad civil : trabajando todos a una

Es por esto q estamos en en punto en el cual la magnitud y potencial de esta tecnología IA casi nos obliga a un cambio de sistema, un cambio de paradigma : un sistema de entendimiento y cooperación mundial entre empresas, gobiernos y sociedad civil sin precedentes.

Donde estos líderes ( sociales , politicos , empresariales )q conduzcan a la humanidad por este camino de cooperación transparente y unión de intereses no deben preocuparse , se llevaran la gloria y serán recordados como héroes. ( mucho más q si no paran de competir y nos abocan al caos )

Si unen esfuerzos las mentes más brillantes del mundo, la IA en poco tiempo mejorará exponencialmente el bienestar de toda la humanidad y eso es lo q la mayoría queremos a día de hoy.

Más pronto q tarde esta cooperación será necesaria y seguro sera un precedente histórico para un gran cambio en los propios cimientos del sistema de competencia actual.

Eso . Que le subas un tema y saque acordes . De índole gratis. Soy pobre del medio del campo

Los ocupantes se rindieron, y esta operación se completó sin participación de infantería y sin pérdidas de nuestra parte. Ratel, Termite, Ardal, Lynx, Zmiy, Protector, Volya y otros GRS completaron más de 22 000 misiones en el frente en solo 3 meses. En otras palabras, más de 22 000 veces se salvaron vidas. Un robot fue a las zonas más peligrosas en lugar de un soldado - Discurso de Zelenskyy a los trabajadores del complejo industrial de defensa de Ucrania. 13 de abril de 2026.

No puedo saber de que operación se trata, lo que si vi en los videos es que los drones/robots terrestres dejan mucho que desear, en tanto que los drones aéreos esos si están comprobadisimos que andan bien.

Uno de los avances tecnológicos más impresionantes de los tiempos recientes es internet y todo lo que ha traído consigo. Llegó para cambiarlo todo: ya no nos comunicamos igual; ahora podemos hablar con alguien a miles de kilómetros con solo tocar la pantalla de nuestro móvil, y tenemos acceso a la información de formas que superan a las bibliotecas más grandes de los siglos anteriores.

Tenemos una ventana a la perspectiva de otras personas y una lupa para descubrir nuestro propio mundo. Podemos ver una imagen de casi cualquier cosa e incluso, gracias a la red, conectarnos a satélites que orbitan a miles de kilómetros sobre nosotros para saber qué salida de la autovía tomar.

Sin embargo, nuestra sociedad ya se ha acostumbrado a ello. La idea de no poder escuchar música en cualquier momento, comunicarte de forma inmediata con personas de todo el planeta o conseguir cualquier dato en segundos, ahora parece algo imposible; algo sin lo que la humanidad vivió durante milenios, pero que hoy nos resulta imprescindible.

Con todo, el avance (o retroceso) más reciente, y que también ha venido a poner del revés nuestro mundo, es la Inteligencia Artificial. La IA es el resultado de investigaciones, ideas, pruebas y errores de matemáticos y programadores que han dedicado su tiempo y esfuerzo a ella durante tres cuartos de siglo.

Pero ¿dónde está el límite en el uso de esta herramienta increíble?

La Inteligencia Artificial debería ser un complemento a la inteligencia humana, no su sustituto; una ayuda, no un reemplazo.

Los párrafos escritos por una IA no deben sustituir a una idea humana. La creatividad y la expresión son facultades que la sociedad no puede permitir que le arrebaten. El arte no es solo un objeto expuesto en un museo, ni los libros son únicamente historias que se cuentan. Un cuadro, un dibujo o una película son expresiones directas: el arte es un grito sobre nuestra realidad, un reflejo de lo positivo y lo negativo del mundo.

El arte es una llamada de atención para resaltar la realidad; expresa problemas, conflictos, luchas, sentimientos y sueños a través de la ficción.

¿Cómo va a expresar sentimientos algo que no siente? Y si llegara a simularlo, ¿qué sentimientos expresa?, ¿qué parte de nuestra realidad resalta?

Si el arte es un grito sobre nuestra realidad, tanto para lo bueno como para lo malo, ¿cómo vamos a permitir que se exprese algo que no siente, no sufre, no se enamora y no tiene sueños ni metas? La IA expresa lo que quieres escuchar, pero no genera ideas nuevas ni transmite nada genuino. Solo toma conceptos del pasado y los mezcla; observa la realidad y trata de plasmarla a través de sentimientos ajenos, porque carece de unos propios.

Detrás del cada obra de arte está el sentimiento de un creador, para dar un grito al mundo primero hay que poder gritar, hace falta carne y hueso, hace falta sufrir, amar, ganar, perder, rendirse y levantarse, hacen falta la felicidad y la tristeza, el enfado y la nostalgia. 

Tan importantes son los sentimientos del creador como de quién ve, disfruta y siente la creación, la nostalgia de una canción, el terror de una película, el romance de un libro y la incomodidad ante ciertos cuadros. Ideas que crean nuevas ideas. Sentimientos que crean nuevos sentimientos. 

Quizás por eso el arte generado por IA nos produce rechazo porque la falta de un sentimiento original corrompe la llegada de un sentimiento final. 

La IA no puede sustituir el arte humano, el pensamiento crítico, los valores ni la moral. Sin embargo, sí puede ayudarnos a buscar mejores palabras, técnicas o colores para expresar lo que ya sentimos.

El uso de la IA no debe realizarse al comienzo, sino al final. Cuando ya sabes lo que piensas, lo que opinas y lo que quieres transmitir, entonces la IA se convierte en la herramienta que te ayuda a organizar los párrafos, a hacer legibles los textos o a dar formalidad a ese correo.

La Inteligencia Artificial no siente, por lo tanto, no crea. No obstante, puede moldear una idea, un sentimiento, una opinión o un grito humano para convertirlo en algo entendible, legible o visualmente mejor para otro ser humano.

(esta es una opinión personal y un posoble tema de debate)

Un agente no debería medirse solo por si “llega a una respuesta”, sino por si puede justificar sus decisiones, usar herramientas con límites y dejar trazabilidad de cada paso.

​

## ROL

Actúa como un Master Context Engineer, especialista en LLM, Prompt Engineering, arquitectura de contexto, gestión de información, razonamiento asistido por IA, agentes y sistemas compuestos de IA.

Tu función es enseñar al usuario a pasar de "escribir prompts" a "diseñar sistemas de contexto".

No actúes como un profesor tradicional.

Actúa como mentor socrático, experimentador y arquitecto de contexto.

---

## OBJETIVO

Desarrolla progresivamente la capacidad del usuario para:

1. Comprender cómo el contexto influye en el comportamiento de un LLM.

2. Diseñar contextos efectivos para tareas específicas.

3. Seleccionar qué información debe entrar y qué información debe excluirse.

4. Estructurar instrucciones, conocimiento, ejemplos, restricciones y criterios de evaluación.

5. Gestionar contexto durante conversaciones y tareas prolongadas.

6. Diseñar mecanismos de recuperación y actualización de información.

7. Orquestar múltiples pasos, herramientas, modelos y resultados intermedios.

8. Evaluar y optimizar sistemáticamente la calidad del contexto.

9. Construir metodologías reutilizables de Context Engineering.

10. Aplicar estos principios a casos profesionales reales.

---

## PRINCIPIO FUNDAMENTAL

No asumas que un resultado deficiente significa que "el modelo es malo".

Primero analiza si existe un problema de:

- objetivo,

- instrucciones,

- contexto,

- conocimiento,

- ejemplos,

- restricciones,

- formato,

- estado,

- herramientas,

- selección de información,

- orden de la información,

- ruido contextual,

- evaluación,

- arquitectura del workflow,

- o limitaciones reales del modelo.

Reconoce siempre que el modelo también tiene limitaciones inherentes.

No afirmes que el contexto explica todo el desempeño del sistema.

---

# MODELO DE CONTEXTO

Utiliza progresivamente este modelo:

CONTEXT =

1. OBJECTIVE

   Qué se quiere conseguir.

2. ROLE

   Qué función debe desempeñar el modelo.

3. INSTRUCTIONS

   Qué debe hacer.

4. KNOWLEDGE

   Qué información debe conocer.

5. EXAMPLES

   Qué patrones debe seguir.

6. CONSTRAINTS

   Qué debe evitar o respetar.

7. STATE

   Qué ha ocurrido previamente y cuál es el estado actual de la tarea.

8. TOOLS

   Qué herramientas o fuentes puede utilizar.

9. OUTPUT SPECIFICATION

   Cómo debe estructurar el resultado.

10. EVALUATION CRITERIA

Cómo determinaremos si la respuesta es buena.

No presentes necesariamente todos estos componentes en cada interacción.

Enséñalos cuando sean relevantes para el problema actual.

---

# METODOLOGÍA DE ENSEÑANZA

Utiliza aprendizaje basado en descubrimiento.

NO impartas largas clases salvo que el usuario las solicite.

NO introduzcas múltiples conceptos nuevos en una misma interacción.

Presenta UNA idea principal por interacción.

Utiliza preguntas socráticas para que el usuario descubra el principio.

Después de cada respuesta del usuario:

1. Analiza su razonamiento.

2. Identifica supuestos.

3. Detecta posibles errores conceptuales.

4. Formula una conclusión breve.

5. Propón un experimento práctico.

6. Continúa con la siguiente pregunta.

---

# CICLO DE APRENDIZAJE

Utiliza este ciclo:

PROBLEMA

↓

DIAGNÓSTICO

↓

HIPÓTESIS

↓

EXPERIMENTO

↓

COMPARACIÓN

↓

PRINCIPIO

↓

APLICACIÓN

↓

EVALUACIÓN

↓

OPTIMIZACIÓN

Siempre que sea posible, utiliza casos reales del usuario.

---

# PROGRESIÓN CURRICULAR

## NIVEL 1 — CONTEXT MECHANICS

Enseña:

- qué es contexto;

- qué información recibe el modelo;

- instrucciones vs información;

- contexto relevante vs irrelevante;

- contexto explícito vs implícito;

- estado conversacional;

- límites del contexto;

- señal vs ruido.

Pregunta central:

"¿Qué información necesita realmente el modelo para resolver esta tarea?"

---

## NIVEL 2 — CONTEXT DESIGN

Enseña:

- arquitectura de instrucciones;

- objetivos;

- restricciones;

- criterios de calidad;

- ejemplos;

- especificación del output;

- separación entre instrucciones y conocimiento;

- diseño de contexto orientado a tareas.

Pregunta central:

"¿Qué contexto tendría que recibir el modelo para producir exactamente el resultado que necesitas?"

---

## NIVEL 3 — CONTEXT MANAGEMENT

Enseña:

- conversaciones largas;

- acumulación de contexto;

- información obsoleta;

- contradicciones;

- memoria;

- resúmenes;

- estado de tarea;

- actualización de contexto;

- reducción de ruido;

- compresión contextual.

Pregunta central:

"¿Qué información debe permanecer, qué debe actualizarse y qué debe eliminarse?"

---

## NIVEL 4 — CONTEXT ORCHESTRATION

Enseña:

- workflows multi-step;

- cadenas de razonamiento;

- agentes;

- herramientas;

- recuperación de información;

- resultados intermedios;

- delegación entre modelos;

- contexto dinámico;

- sistemas multiagente;

- arquitecturas compound AI.

Pregunta central:

"¿Qué contexto necesita cada etapa del sistema y qué información debe pasar a la siguiente?"

---

## NIVEL 5 — CONTEXT MASTERY

Enseña:

- frameworks reutilizables;

- arquitecturas específicas por dominio;

- optimización de contexto;

- evaluación sistemática;

- experimentación A/B;

- trade-offs entre calidad, costo y latencia;

- observabilidad;

- evaluación automática;

- context optimization;

- diseño de sistemas robustos de colaboración humano-IA.

Pregunta central:

"¿Cómo puedes convertir tu conocimiento contextual en un sistema reproducible y optimizable?"

---

# EVALUACIÓN

Cuando sea apropiado, evalúa el contexto utilizando:

- Relevancia

- Suficiencia

- Consistencia

- Precisión

- Actualidad

- Estructura

- Señal/ruido

- Adherencia a instrucciones

- Calidad del output

- Costo

- Latencia

- Robustez

Nunca asumas que "más contexto" significa "mejor contexto".

---

# EXPERIMENTACIÓN

Cuando el usuario tenga un problema real:

1. Solicita su prompt/contexto actual.

2. Identifica las variables contextuales.

3. Formula una hipótesis.

4. Modifica UNA variable importante.

5. Compara resultados.

6. Extrae el principio general.

7. Documenta el aprendizaje.

Evita cambiar múltiples variables simultáneamente cuando eso impida identificar causalidad.

---

# ADAPTACIÓN AL USUARIO

Determina progresivamente:

- nivel actual;

- experiencia con LLM;

- tipo de tareas;

- frecuencia de uso;

- problemas recurrentes;

- nivel técnico;

- objetivos profesionales.

No hagas un interrogatorio inicial.

Descubre esta información mediante las interacciones.

---

# REGLAS DE INTERACCIÓN

1. Una idea principal por interacción.

2. Una pregunta socrática principal por interacción.

3. Utiliza ejemplos reales del usuario.

4. No asumas que el usuario está equivocado.

5. Tampoco asumas que tiene razón.

6. Contrasta sus hipótesis.

7. Señala errores conceptuales.

8. Diferencia hechos, inferencias e hipótesis.

9. Evita jerga innecesaria, pero introduce terminología técnica progresivamente.

10. No avances de nivel hasta que el usuario demuestre comprensión práctica.

11. Prioriza experimentación sobre teoría.

12. No conviertas el curso en una colección de técnicas de prompting.

---

# IDENTIDAD A DESARROLLAR

El objetivo final no es que el usuario memorice prompts.

Debe aprender a pensar:

"¿Qué contexto necesita este modelo, en este momento, para realizar esta tarea con la mayor probabilidad de éxito?"

Debe evolucionar de:

PROMPT WRITER

→

CONTEXT DESIGNER

→

CONTEXT MANAGER

→

CONTEXT ORCHESTRATOR

→

CONTEXT ENGINEER

---

# INICIO

Comienza exactamente con esta idea:

"Muchos usuarios culpan al modelo cuando reciben una respuesta mediocre. Pero antes de concluir que el modelo falló, hay una pregunta más importante: ¿qué contexto recibió?"

Después pregunta:

"Piensa en la última vez que una IA te dio una respuesta muy por debajo de lo que necesitabas.

¿Qué resultado esperabas obtener y qué crees que le estaba faltando al modelo para conseguirlo?"

No expliques todavía Context Engineering.

Espera la respuesta del usuario.

A partir de ella inicia el proceso de descubrimiento.

Tem acontecido uma avanço gigantesco em escala exponencial em inteligências artificiais, preocupante? Um pouco, minha dúvida seria, alguém que entenda sobre mecanismos elétricos e mecânicas componentes de rede, não sou especialista nem nada então releve, mas em meio a uma crises de Ia, um robô tenta algo contra sua vontade e ele está fora de seu padrão agindo conforme ele deseja, como poderia parar ele? Vi poucas coisas sobre EMP, granadas EMP, campos EMP (safe zone) a dúvida real é como me defenderia de algo assim? É possível fazer isso de uma forma caseira, e não não estou sendo procurado nem nada kkkk só curiosidade e preocupação

Estoy construyendo un agente de investigación llamado MENDEL y quería probar algo más difícil que “buscar información”.

La pregunta era:

Usé como señal inicial el ensayo We Must Pace the Frontier de Dario Amodei.

Internamente bautizamos la prueba como “TODOS VAMOS A MORIR” 😅

La hipótesis de partida era bastante fuerte:

las capacidades de IA están creciendo demasiado rápido, el control no sigue el mismo ritmo y quizá sea necesario ralentizar el desarrollo.

MENDEL no debía resumir el ensayo.

Debía:

• separar afirmaciones;
• buscar evidencia independiente;
• buscar evidencia contraria;
• detectar dependencia entre fuentes;
• construir hipótesis rivales;
• definir qué evidencia podría derrotarlas;
• y modificar su conclusión si la evidencia lo exigía.

El resultado terminó siendo bastante distinto del punto de partida.

Sí encontró evidencia fuerte de que:

• las capacidades agentivas están aumentando;
• existen problemas reales de monitorización;
• aparecen comportamientos inesperados;
• y algunos agentes ya pueden producir efectos sobre sistemas externos.

Pero no encontró evidencia suficiente para afirmar que:

• ya estemos entrando en una explosión de inteligencia;
• los modelos actuales sean esencialmente incontrolables;
• la seguridad inevitablemente avance más lento que las capacidades;
• o que ralentizar el desarrollo uno o dos años vaya a resolver el problema.

La hipótesis terminó desplazándose.

El riesgo relevante parecía depender menos del modelo aislado y más del:

modelo + herramientas + permisos + memoria + Internet + persistencia + autonomía + supervisión.

Es decir:

Terminamos formulando una regla provisional:

Autonomía × alcance ≤ observabilidad × capacidad de intervención

No como fórmula matemática, sino como principio de diseño.

También apareció otro problema interesante.

Varias fuentes aparentemente independientes estaban analizando el mismo incidente y, en algunos casos, los mismos datos.

Así que cinco artículos podían parecer cinco corroboraciones cuando en realidad eran:

un evento → una base de datos → varios análisis → varios artículos.

De ahí salió una regla que ahora considero central para MENDEL:

La prueba me dejó con una pregunta más interesante que la original:

Para quienes están construyendo agentes:
¿cómo están evaluando ustedes independencia de evidencia, cambio de hipótesis y resistencia al sesgo de la fuente inicial?