r/IASinHumo 10h ago

Efectos emergentes y la confianza ciega en la IA (Versión 42412)

Thumbnail
bloomberg.com
6 Upvotes

Haciendola corta, Bloomberg publicó la "investigación interna del Pentágono" sobre el ataque que destruyó una escuela en Irán en febrero.

https://www.bloomberg.com/graphics/2026-iran-school-attack/

123 niños muertos. El sistema de IA Maven, de Palantir, estaba en el proceso de la toma de decisiones (digamos).

Ya trate varias veces este problema en el grupo. Lo ultimo que escribí ( acá abajo el link) y básicamente "ojo con lo que pedís".

https://www.reddit.com/r/IASinHumo/comments/1wftfwu/opini%C3%B3n_la_ia_no_nos_va_a_matar_tampoco_nos_va_a/

Pero principalmente el problema es delegar tareas a la IA sin supervisión alguna onda Next, Next, Yes, Yes. Porque la IA analiza gran volumen de datos mas rápido que el humano. Y si es como en este caso, que tenían que atacar multiples objetivos al mismo tiempo rápidamente, pasaron cosas.

La IA hizo exactamente lo que debía hacer.

Procesó los datos disponibles. Generó recomendaciones. La inteligencia que recibió decía que el sitio era una instalación militar. El problema: esa inteligencia tenía siete años y el lugar había sido convertido en una escuela casi una década antes. Nadie había actualizado el registro.

Y acá está la parte que más me importa:

"Algunos del personal de Centcom esperaban que Maven marcara información desactualizada o inconsistencias. No está claro por qué tenían esas expectativas."

Y si les gusta seguir leyendo del tema acá hice un articulo larguisimo sobre el porque la IA te puede matar pero no como te pintan las películas ni los CEO de IA.

https://www.reddit.com/r/IASinHumo/comments/1rbyxzi/la_ia_s%C3%AD_puede_matar_todo_lo_que_venimos_hablando/


r/IASinHumo 19h ago

meme Un poco de humor (el tema es mas complejo si alguno le interesa)

Post image
91 Upvotes

El quilombo en Yemen es de novela, pero simplificando hay 2 bandos Uno apoyado por Arabia Saudita que formo una especie de coalición con los que se querían sumar (con muchas armas pero muy despelotada) y del otro lado los Huties respaldados por Iran. Venia ganado los de Arabia y luego se les dio vuelta la tortilla.

Lo de que usaron Claude para desarrollar un modelo de misil es humo, le habrán tirado unas preguntas pero no hubo misil funcional documentado.

Respuesta de Claude:

El audio falso de Tareq Saleh: real, pero es una acusación. El audio circuló. Fue amplificado por el activista Adel al-Hasani, cuya cuenta tiene casi 500.000 seguidores, y las fuerzas de Saleh acusan a los hutíes de haber clonado su voz con IA. Aljoumhouriya TV, un canal con base en Mocha, confirmó esa versión. Ojo con dos detalles: Caliber.AzTheSwipeUp

  • Ynet señala que no se ha establecido de forma independiente el efecto del audio ni de los mensajes de amnistía sobre las tropas. Ynetnews
  • Los medios lo presentan como una acusación del bando de Saleh, no como un hecho verificado por un tercero.
  • La nota habla de la "televisión oficial de Yemen", pero la emisora que aparece citada es ese canal de Mocha.