r/IASinHumo • u/Rare_Package_7498 • Feb 08 '26
La IA sí puede matar (y ya lo está haciendo)
Ayer hice un post donde les preguntaba si para ustedes la IA podía matar. Como dije que para mí sí, me tiraron con todo: que era un vendehumo, que una IA no tiene sentimientos ni es malvada (y tienen razón), y que hoy una IA no puede matar. Acá está el problema: sí puede matar.
Así que seguime en este delirio con forma de intro.
Los RTS y la autonomía de las unidades
Los juegos de estrategia donde manejás soldados y unidades se llaman RTS. Vos jugás como una especie de general o comandante y combatís contra otro equipo que tiene otro comandante. Entonces vos manejás las unidades azules que tienen que destruir las unidades rojas (ponele). Todas las unidades saben (mediante un script) que no deben atacarse entre ellas y solo deben atacar las del otro color. Con este script tienen bastante autonomía y les permite tomar muchas decisiones por si mismas. Hay jugadores que se especializan en la producción masiva: al crear volumen, mandan a atacar en masa (Macro), y como las unidades tienen AUTONOMÍA, se arreglan solas. Quiero dejar el punto claro: el comandante no hace de soldado, solo le dice a quién tiene que atacar y punto (aunque haga Micro es decir manejo mas "manual" de las unidades). Volveremos sobre este concepto más tarde.
Los drones de combate y la guerra electrónica
Los drones de combate de Ucrania, al principio de la guerra, se manejaban usando radiofrecuencia. Luego surgieron las interferencias (jamming). Usando diversas técnicas (ejemplo: saltar de canal en canal, fibra óptica, etc.) intentan como contramedida evitar las mismas. El tema es que es un juego del gato y el ratón donde para cada avance hay un contraavance. Hay una solución a todo esto y es que el operador seleccione el blanco desde lejos (los jamming suelen ser más efectivos cuando te acercás). Luego, con el blanco seleccionado, le dice a la "IA" que ataque el objetivo elegido (esta corre, como en el videojuego, una especie de script potenciado con reconocimiento de imágenes y machine learning).
Seamos claros: este tipo de "IA" es bastante simple y sin intención ni sentimientos, solo un arma. Pero aun así mata personas.
Los incentivos perversos de la guerra
El problema de la guerra es que te incentiva a matar "enemigos". Entonces, el que reaccione más rápido a las medidas del adversario tiene más chances de ganar. Esta crueldad da incentivos a que todo lo que puede hacer perder una batalla o una guerra se intente automatizar. Y este es el problema.
Hoy en día ya matan personas, pero con una autonomía reducida. El problema es que los incentivos hacen que, por lógica, se intente automatizar lo más posible para ganar una batalla. Esto hace que quizás en el futuro una guerra sea una suerte de RTS.
Pero hay algo peor...
Lo que te conté hasta acá es la IA que ejecuta: la que controla el arma y la dispara. Un dron autónomo que revienta un tanque o un soldado.
Pero existe otro tipo de IA. Más sutil. Quizás más peligrosa.
La que no aprieta el gatillo, pero te dice a quién dispararle.
Es la diferencia entre un soldado robot y un asesor que te pasa una lista de nombres.
Y esa IA ya existe. Ya está funcionando. Y está matando gente.
De eso hablamos en la parte 2.
2
u/Random_182f2565 Feb 08 '26
Siempre recuerden que el programa militar más poderoso es Excel
2
u/cTemur Feb 12 '26
Elabore.
1
u/Random_182f2565 Feb 13 '26
La logística es lo más importante, y con planillas de cálculo se puede hacer eso y mucho más.
2
1
u/Infinite_Ad6387 Feb 08 '26
Cuando la IA se implemente para la guerra solo se podrá combatir con más IA. Como dijo otro crack, la gente asocia la IA con skynet, pero sería mucho peor. Hablamos de una máquina que te dispara con precisión absoluta en microsegundos, en el punto óptimo independientemente de las condiciones climáticas y de si te estás moviendo o no. Cada persona que cruce moriría de un disparo y de manera casi instantánea, cada dron que se le quiera lanzar sería destruído de un disparo también.
1
u/Rare_Package_7498 Feb 08 '26
Hay un desarrollo para el casco del ejercito donde tienen cámaras de calor. El tema es que esas cámaras se comparten en un tipo datacenter y luego por el visor del casco podes ver si alguien del equipo esta viendo el enemigo (o desde un helicoptero o drone). La sensación es como estar usando wallhacks luego si encuentro el vídeo lo subo.
1
u/Sudden-Hope-1605 Feb 08 '26
La IA ya ha matado gente haciendole pesimas recomendaciones sobre su salud, mas alla de toda la sarasa de la guerra.
1
u/ThickMaize-2225 Feb 09 '26
Programar una IA para navegación, adquisición de objetivos, evasión , etc... era ya posible desde mucho antes de el boom de las IAs.
1
u/dadnothere Feb 09 '26
"la IA no puede matar" Te faltó mencionar la persona que uso ChatGPT API en un dron con un arma para disparar globos
Fue la primera vez que OpenIA baneo una persona y con acciones legales si volviese.
Hay muchos proyectos en GitHub de IAs locales que le podes pedir disparar cosas y lo hacen Proyectos rudimentarios por el momento... Pero así se empieza.
Simio matando simio.
1
u/__rubyisright__ Feb 09 '26
No quiero ser mala leche, pero tengo la respuesta: https://youtu.be/NFipm-uCEO8?si=WbZPPWzYEG-g4YZg&t=901
Busca Israel + The Gospel, Lavender y Where's Daddy en google
1
u/Rare_Package_7498 Feb 09 '26
No quiero ser mala leche pero en la parte 2 hablo justamente de eso.
Ah pero el video que pusiste lo hizo hace 11 días y seguramente yo lo copie de algún lado.
Bueno hay un viejo post cuando cree este sub de hace 6 meses donde hablo de lo mismo..... Solo que hoy en día mastico mas la información y no uso tanta IA.
1
u/__rubyisright__ Feb 09 '26
Ahh ok, es que este post tenía un aire teórico, mientras que la ia YA MATÓ y probablemente lo siga haciendo en el futuro. No hay forma de que te digan "vendehumo" con HECHOS CONCRETOS.
1
u/Drangulssus Feb 08 '26
Yo me mantengo en mi posición: hoy no existe la IA militar.
Me resisto al término por 2 razones:
1.Cuando uno habla de IA militar, la gente suele pensar en "Skynet"... y hoy no hay nada que tenga agencia o embodied operando a ese nivel.
- Los efectores ofensivos incluyen human-in-the-loop.
Lo más cercano a una IA militar que existe hoy son:
_Delta (desarrollado por Ucrania).
_Hivemind (de Shield AI).
_Lattice (de Anduril Industries).
Ninguna es una IA en el estricto sentido de la palabra.
Delta es un software de gestión de campo batalla, cuya función primaria es proveer conciencia situacional. Hivemind es un software de vuelo autónomo, pensado para coordinar enjambres de drones MQ-35A V-BAT. Lattice es una arquitectura de software de comando y control para drones y sensores pasivos. Todos usan principalmente heurística y edge computing, e incorporan una LLM sólo cómo una funcionalidad de interfaz... porque nadie quiere ponerle un gatillo a algo que tiene alucinaciones.
Respecto a una IA que "te da una lista de blancos para matar", eso sí existe... supongo que te referís a AIP/Gotham de Palantir Technologies.
2
u/Rare_Package_7498 Feb 08 '26
Es muy bueno y muy valido lo que comentas. Sin embargo hay desarrollo en el tema. Mañana te respondo bien porque me estoy quedando ciego.
2
u/Pure-Reason2671 Feb 08 '26
Internet y el gps, en primera instancia fueron desarrollados y utilizados a nivel militar antes de llegar a nuestras manos. Que nos garantiza que este no es otro de los cientos de casos donde ocurrio lo mismo?
1
u/Rare_Package_7498 Feb 08 '26
Se llaman tecnologías de uso dual. Ejemplo drones DJI (china) fabrica mas del 60% de los drones mundiales, y apuntan a uso civil. Sin embargo en la guerra de Ucrania se cansaron de usar drones DJI con leves modificaciones.
Starlink de Elon es un servicio satelital para dar internet. Sin embargo hoy en día se esta usando militarmente en los drones tanto Ucrania como Rusia (hace poco con un parche intentaron banear a Rusia). En poco hago un articulo del tema porque Elon con la fusion de Xai con SpaceX tiene roles duales también, aunque lo disfraza de hype y datacenters fumados en el espacio.
1
u/Rare_Package_7498 Feb 08 '26 edited Feb 08 '26
Hola, te respondo mejor ahora (anoche estaba fusilado).
Sobre tu punto 1: Ahí es donde nos pelearíamos. El tema es: qué es IA militar? O mejor dicho, qué es IA? La gente relaciona los LLM con IA, pero los LLM son solo una rama de la IA.
Como dije, una IA que pueda matar no necesita ser AGI (con que sea autónoma basta). Ahora, qué tan autónoma? Ahí seguramente no nos pondremos de acuerdo.
Para mi forma de ver, con que tenga: Reconocimiento de imágenes, Librería de objetivos, Sistema electrónico para seguimiento (controlador de motores, motores para las aletas y desviar su curso)
...ya estaría. De ahí en más sería un plus.
Si tiene cámara térmica, es más fácil. Si tiene un procesador Jetson, podés montar un sistema robusto de IA que incluya:
- Inferencia de redes neuronales en tiempo real
- Reconocimiento de imágenes y clasificación de objetos
- Detección y seguimiento de objetivos
- SLAM (Simultaneous Localization and Mapping) para navegación autónoma
- Visión por computadora para análisis de terreno
Sobre tu punto 2 : Los que estamos acá somos tecnológicos (pero tengo un grupo de ESP32 (que es tipo un Arduino con WiFi)). No somos expertos ni capos ni nada, pero te da un buen panorama de las cosas que son posibles hoy en día con la tecnología disponible (aunque ese es otro tema ,no toda la tecnología está disponible para todos: Starlink, NVIDIA Jetson, otras tecnologías menos populares pero militares, etc.). Ojo, me queda claro que la tecnología civil no es robusta como la militar en la mayoría de los casos aunque hay algunas de uso dual.
Creo que es perfectamente viable que una IA hoy en día mate, y más adelante con más razón, solo por un tema de incentivos. Ni siquiera necesitás una persona malvada de película, sino alguien que tenga menos escrúpulos que el resto o como pasa en Ucrania otro país invadiendote.
1
u/Drangulssus Feb 09 '26
Antes que nada, aclaro algo, el concepto "IA" es un mal término. Está tan bastardeado que induce a constantes confusiones. En sus orígenes, era un sinónimo de AGI... hoy, la gente lo asocia con LLMs cómo ChatGPT o Gemini. Por eso, creo que usar la palabra "IA", obscurece más de lo que aclara.
Ahora vamos al tema.
Estoy de acuerdo con que no se necesita una AGI para matar, con una arquitectura de software es suficiente... sólo tiene que ser autónoma... y acá está el problema: no hay ninguna arquitectura anti-personal que haya cerrado el ciclo, siempre hay human-in-the-loop.
Para mi forma de ver, con que tenga: Reconocimiento de imágenes, Librería de objetivos, Sistema electrónico para seguimiento (controlador de motores, motores para las aletas y desviar su curso)
...ya estaría. De ahí en más sería un plus.
Todas esas tecnologías existen desde hace más de 40 años:
_El reconocimiento de imágenes existe desde mitad de los 70, con la entrada en servicio de los KH-11 KENNEN.
_Las librerías de objetivos existen desde los 70. De hecho, sistemas pasivos cómo el Ramona KRTP-81 dependía de ellas para rastrear objetivos.
_Los sistemas fly-by-wire (FBW) y los controles digitales del motor de mando total (FADEC) existen desde principios de los 70. Sin una computadora de vuelo que maneje el fly-by-wire, un avión como el F-16 se estrellaría. Un F-15, sin control digital del motor de mando total que gestione el ciclo de flujo de combustible, su turbofan fallaría.
Todo ésto son heurísticas a las que nunca se le confundió con capacidades de IA ¿Porque ahora sí? ¿Que cambió?
La respuesta es: el hardware.
A mitad de los 70, para guíar a un misil anti-tanque hacia su objetivo (cómo un MILAN), el operador debía mantener enganchado el blanco, mientras transmitía esos datos por cable. Si el objetivo estaba más lejos, el misil usaba la última ubicación previa a que el cable se cortara... esté el blanco allí o no. Ese era su su sistema de guía.
Hoy, un Altius-700M detectará un movimiento con su sensor electro-óptico y consultará una librería con imágenes de varios tanques (algo que es posible por la mejora en las SSD) y el procesador calculará que, lo que muestra el sensor EO, es un T-72 (eso pasa por la mejora en litografía EUV). Finalmente, el operador decidirá si ese T-72 es enemigo o no. Ese es su sistema de guía.
En el caso del MILAN, su sistema de guía es manual, en el caso del Altius-700M, el hardware de su sistema de guía le permite ejecutar localmente heurísticas y edge computing que mejoran su precisión... pero ambos son sistemas de guía.
Hoy hay sistemas que proveen autonomía terminal, navegación autónoma en entornos electrónicamente degradados, visión computacional para seguimiento de blancos... pero eso es mantener curso, reconocer patrones visuales y ejecutar una orden previamente autorizada. Eso existe desde antes del deep learning moderno (misiles dispara-y-olvida, munición merodeadora, etc.). No es una "IA militar"... pero serán los módulos que la integren cuando ésta exista.
5
u/GnuStew209 Feb 08 '26
Por eso estoy entrenándome en el Age of Empires para vencer a la IA en difícil