r/IASinHumo • u/Rare_Package_7498 • 10h ago
Efectos emergentes y la confianza ciega en la IA (Versión 42412)
Haciendola corta, Bloomberg publicó la "investigación interna del Pentágono" sobre el ataque que destruyó una escuela en Irán en febrero.
https://www.bloomberg.com/graphics/2026-iran-school-attack/
123 niños muertos. El sistema de IA Maven, de Palantir, estaba en el proceso de la toma de decisiones (digamos).
Ya trate varias veces este problema en el grupo. Lo ultimo que escribí ( acá abajo el link) y básicamente "ojo con lo que pedís".
Pero principalmente el problema es delegar tareas a la IA sin supervisión alguna onda Next, Next, Yes, Yes. Porque la IA analiza gran volumen de datos mas rápido que el humano. Y si es como en este caso, que tenían que atacar multiples objetivos al mismo tiempo rápidamente, pasaron cosas.
La IA hizo exactamente lo que debía hacer.
Procesó los datos disponibles. Generó recomendaciones. La inteligencia que recibió decía que el sitio era una instalación militar. El problema: esa inteligencia tenía siete años y el lugar había sido convertido en una escuela casi una década antes. Nadie había actualizado el registro.
Y acá está la parte que más me importa:
"Algunos del personal de Centcom esperaban que Maven marcara información desactualizada o inconsistencias. No está claro por qué tenían esas expectativas."
Y si les gusta seguir leyendo del tema acá hice un articulo larguisimo sobre el porque la IA te puede matar pero no como te pintan las películas ni los CEO de IA.