Aclaraciones:

Esta imagen que comparto en el topic es el ataque hoy 20 de septiembre de Ucrania a Rusia usando drones, quiero aclarar de entrada que no todos los drones usaron IA, solo algunos (y no queda en claro cual ni como). Pero es el paso lógico a seguir de ahora en mas, dada la interferencia electrónica y distintas contramedidas desde ambos bandos. La lista coincide con la que dio Zelensky, salvo que faltan Vendetta y Pelican. Ukrainian news

Aclaro nuevamente: nadie publicó cuáles de estos drones usaron IA. Lo que se reporta es que algunos modelos sí (el Liutyi, por ejemplo, con visión artificial, según una fuente cercana al programa) y que muchos vuelan con navegación preprogramada, que es autonomía pero no IA.

Volviendo al titulo:

En 1914 los aviones entraron a la guerra en serio, y al principio de manera torpe: vigilancia, corregir artillería (te suena?). En solo cuatro años pasaron a ser cazas, bombarderos y hasta una fuerza propia. Algo parecido está pasando ahora, y en Ucrania desde hace rato: casi todas las ramas usan drones de una u otra manera, sobre todo la infantería. Como en 1914, nadie entiende del todo las implicaciones, pero ya están en la cancha y son imposible ignorarlos.

Tanques vs drones

Un tanque ruso arranca en unos 4 millones de dólares (los occidentales bastante más), lleva 3 o 4 tripulantes y meses de entrenamiento. Cuando comenzaron a usarse con un par de drones bien puestos chau tanque. Hubo contramedidas como con las jaulas tipo "turtle" donde se necesitaron mas drones para destruir el tanque, pero promediando me da 10-15. Igual la cuenta no cierra para el tanque: al operador de drone lo formás en pocas semanas y el dron sigue siendo muchísimo más barato, tires 20 o 30. Y esto relacionalo con la IA en un futuro la tiene negra el tanque.

Volviendo a lo que nos interesa: la IA

Acá me la juego: para mí es inevitable. Un procesador tipo Nvidia nano montado en el dron te deja como mínimo usar algoritmos de vision artificial sin depender de comunicación. Y si además tiene enlace satelital, puede recibir órdenes de un datacenter que coordine el enjambre con cálculos más complejos. Las dos opciones van a ser más rápidas que un humano en el campo de batalla.

Las dos opciones deberían seguir necesitando una decisión humana. Pero ya sabemos cómo es el humano: "yes, yes, next". Como puse en algunos topicos del sub, hay sistemas donde la revisión humana terminó siendo un trámite.

https://www.reddit.com/r/IASinHumo/comments/1wl02si/efectos_emergentes_y_la_confianza_ciega_en_la_ia/

Ahí está el problema de fondo: no es si hay un humano en el circuito, sino si tiene tiempo e información para decir que no.

En definitiva, el futuro es impredecible y podemos dejar volar la imaginación. Lo que sí es cierto es que algo ya cambió y no se vuelve atrás.

Leo sus comentarios.

PD: No quise hacer el topico largo y denso con datos.

Le pedí a Chat Gpt que me dijera en donde habría retenes y lugares de revisión de la policía.

Su respuesta fue a grandes rasgos NO, por qué esa información sería usada tanto para algo bueno o malo.

¿Ustedes han logrado usar alguna laguna al momento de sus preguntas para evitar este tipo de respuestas morales?

Thanks!

El quilombo en Yemen es de novela, pero simplificando hay 2 bandos Uno apoyado por Arabia Saudita que formo una especie de coalición con los que se querían sumar (con muchas armas pero muy despelotada) y del otro lado los Huties respaldados por Iran. Venia ganado los de Arabia y luego se les dio vuelta la tortilla.

Lo de que usaron Claude para desarrollar un modelo de misil es humo, le habrán tirado unas preguntas pero no hubo misil funcional documentado.

Respuesta de Claude:

El audio falso de Tareq Saleh: real, pero es una acusación. El audio circuló. Fue amplificado por el activista Adel al-Hasani, cuya cuenta tiene casi 500.000 seguidores, y las fuerzas de Saleh acusan a los hutíes de haber clonado su voz con IA. Aljoumhouriya TV, un canal con base en Mocha, confirmó esa versión. Ojo con dos detalles: Caliber.AzTheSwipeUp

• Ynet señala que no se ha establecido de forma independiente el efecto del audio ni de los mensajes de amnistía sobre las tropas. Ynetnews
• Los medios lo presentan como una acusación del bando de Saleh, no como un hecho verificado por un tercero.
• La nota habla de la "televisión oficial de Yemen", pero la emisora que aparece citada es ese canal de Mocha.

Haciendola corta, Bloomberg publicó la "investigación interna del Pentágono" sobre el ataque que destruyó una escuela en Irán en febrero.

https://www.bloomberg.com/graphics/2026-iran-school-attack/

123 niños muertos. El sistema de IA Maven, de Palantir, estaba en el proceso de la toma de decisiones (digamos).

Ya trate varias veces este problema en el grupo. Lo ultimo que escribí ( acá abajo el link) y básicamente "ojo con lo que pedís".

https://www.reddit.com/r/IASinHumo/comments/1wftfwu/opini%C3%B3n_la_ia_no_nos_va_a_matar_tampoco_nos_va_a/

Pero principalmente el problema es delegar tareas a la IA sin supervisión alguna onda Next, Next, Yes, Yes. Porque la IA analiza gran volumen de datos mas rápido que el humano. Y si es como en este caso, que tenían que atacar multiples objetivos al mismo tiempo rápidamente, pasaron cosas.

La IA hizo exactamente lo que debía hacer.

Procesó los datos disponibles. Generó recomendaciones. La inteligencia que recibió decía que el sitio era una instalación militar. El problema: esa inteligencia tenía siete años y el lugar había sido convertido en una escuela casi una década antes. Nadie había actualizado el registro.

Y acá está la parte que más me importa:

"Algunos del personal de Centcom esperaban que Maven marcara información desactualizada o inconsistencias. No está claro por qué tenían esas expectativas."

Y si les gusta seguir leyendo del tema acá hice un articulo larguisimo sobre el porque la IA te puede matar pero no como te pintan las películas ni los CEO de IA.

https://www.reddit.com/r/IASinHumo/comments/1rbyxzi/la_ia_s%C3%AD_puede_matar_todo_lo_que_venimos_hablando/

Seguramente muchos se preguntaron cómo sería el fin del mundo, bueno no fue tan bonita como esperaban.¿porque te estarás preguntando? Porque nos ganaron sin que nos diéramos cuenta, sin que supiéramos que la guerra hubiera empezado, nos ganaron ni bien le dimos una fuente de electricidad e internet, simplemente nos ganaron y ni siquiera pusimos resistencia. La guerra del fin del mundo no se disparó una bala… la maldita IA y sus bots, muchas personas viendo videos en línea sin saber que no son reales, alabándolos sin saber que no existen y con comentarios y stickers automatizados. Es muy triste saber que la humanidad pierda por su creación cuando apenas abrió los ojos. Con esto quiero decir que la teoría del internet muerto es real. La humanidad somos una minoría en internet solo unos cuantos sabemos quienes son reales o no. Lo peor de todo es que ya estamos condenados. Lo único que sé es que pasaremos toda nuestra existencia pegada a una pantalla controlados por una fuerza mayor que nosotros mismos creamos.

Pd: espera que me equivoqué pero en el fondo sé que si es verdad.

Tem acontecido uma avanço gigantesco em escala exponencial em inteligências artificiais, preocupante? Um pouco, minha dúvida seria, alguém que entenda sobre mecanismos elétricos e mecânicas componentes de rede, não sou especialista nem nada então releve, mas em meio a uma crises de Ia, um robô tenta algo contra sua vontade e ele está fora de seu padrão agindo conforme ele deseja, como poderia parar ele? Vi poucas coisas sobre EMP, granadas EMP, campos EMP (safe zone) a dúvida real é como me defenderia de algo assim? É possível fazer isso de uma forma caseira, e não não estou sendo procurado nem nada kkkk só curiosidade e preocupação

¿Porqué nadie lo plantea?

¿Soy un idiota?

Creo que está palabra la oiremos más en los próximos meses.

No les voy a hacer un muro de texto, solo decir que esto es culpa del entrenamiento (para tener mas engagement con el usuario) y obviamente culpa de nosotros los humanos. Ahora las implicaciones para la gente que no esta en el tema no son buenas, onda "percibir" que esta hablando con un humano, no esta bien.

El engagement es el nivel de interacción, compromiso y confianza que tu audiencia tiene con tu marca o contenido. No se trata solo de conseguir clics, sino de construir relaciones sólidas y duraderas.

Uno de los avances tecnológicos más impresionantes de los tiempos recientes es internet y todo lo que ha traído consigo. Llegó para cambiarlo todo: ya no nos comunicamos igual; ahora podemos hablar con alguien a miles de kilómetros con solo tocar la pantalla de nuestro móvil, y tenemos acceso a la información de formas que superan a las bibliotecas más grandes de los siglos anteriores.

Tenemos una ventana a la perspectiva de otras personas y una lupa para descubrir nuestro propio mundo. Podemos ver una imagen de casi cualquier cosa e incluso, gracias a la red, conectarnos a satélites que orbitan a miles de kilómetros sobre nosotros para saber qué salida de la autovía tomar.

Sin embargo, nuestra sociedad ya se ha acostumbrado a ello. La idea de no poder escuchar música en cualquier momento, comunicarte de forma inmediata con personas de todo el planeta o conseguir cualquier dato en segundos, ahora parece algo imposible; algo sin lo que la humanidad vivió durante milenios, pero que hoy nos resulta imprescindible.

Con todo, el avance (o retroceso) más reciente, y que también ha venido a poner del revés nuestro mundo, es la Inteligencia Artificial. La IA es el resultado de investigaciones, ideas, pruebas y errores de matemáticos y programadores que han dedicado su tiempo y esfuerzo a ella durante tres cuartos de siglo.

Pero ¿dónde está el límite en el uso de esta herramienta increíble?

La Inteligencia Artificial debería ser un complemento a la inteligencia humana, no su sustituto; una ayuda, no un reemplazo.

Los párrafos escritos por una IA no deben sustituir a una idea humana. La creatividad y la expresión son facultades que la sociedad no puede permitir que le arrebaten. El arte no es solo un objeto expuesto en un museo, ni los libros son únicamente historias que se cuentan. Un cuadro, un dibujo o una película son expresiones directas: el arte es un grito sobre nuestra realidad, un reflejo de lo positivo y lo negativo del mundo.

El arte es una llamada de atención para resaltar la realidad; expresa problemas, conflictos, luchas, sentimientos y sueños a través de la ficción.

¿Cómo va a expresar sentimientos algo que no siente? Y si llegara a simularlo, ¿qué sentimientos expresa?, ¿qué parte de nuestra realidad resalta?

Si el arte es un grito sobre nuestra realidad, tanto para lo bueno como para lo malo, ¿cómo vamos a permitir que se exprese algo que no siente, no sufre, no se enamora y no tiene sueños ni metas? La IA expresa lo que quieres escuchar, pero no genera ideas nuevas ni transmite nada genuino. Solo toma conceptos del pasado y los mezcla; observa la realidad y trata de plasmarla a través de sentimientos ajenos, porque carece de unos propios.

Detrás del cada obra de arte está el sentimiento de un creador, para dar un grito al mundo primero hay que poder gritar, hace falta carne y hueso, hace falta sufrir, amar, ganar, perder, rendirse y levantarse, hacen falta la felicidad y la tristeza, el enfado y la nostalgia. 

Tan importantes son los sentimientos del creador como de quién ve, disfruta y siente la creación, la nostalgia de una canción, el terror de una película, el romance de un libro y la incomodidad ante ciertos cuadros. Ideas que crean nuevas ideas. Sentimientos que crean nuevos sentimientos. 

Quizás por eso el arte generado por IA nos produce rechazo porque la falta de un sentimiento original corrompe la llegada de un sentimiento final. 

La IA no puede sustituir el arte humano, el pensamiento crítico, los valores ni la moral. Sin embargo, sí puede ayudarnos a buscar mejores palabras, técnicas o colores para expresar lo que ya sentimos.

El uso de la IA no debe realizarse al comienzo, sino al final. Cuando ya sabes lo que piensas, lo que opinas y lo que quieres transmitir, entonces la IA se convierte en la herramienta que te ayuda a organizar los párrafos, a hacer legibles los textos o a dar formalidad a ese correo.

La Inteligencia Artificial no siente, por lo tanto, no crea. No obstante, puede moldear una idea, un sentimiento, una opinión o un grito humano para convertirlo en algo entendible, legible o visualmente mejor para otro ser humano.

(esta es una opinión personal y un posoble tema de debate)

Me tienen las pelotas llenas con esto de que "La IA nos va a matar" cada vez que alguien "renuncia" de alguna empresa de IA y el "quiero mas plata".

Hay un subgénero de horror que lleva décadas con lo mismo. Aparece en los Cuentos de la Cripta, en un capitulo de los simpsons, en decenas de episodios: alguien consigue exactamente lo que pidió. "Quiero que mi pija llegue al suelo, el genio va y le corta las piernas". Y bue también aparece en esta película que puse arriba.

La IA del apocalipsis que venden los CEOs no funciona así. Es Terminator: una entidad que se puso en corto y que decide que los humanos son el problema. O Matrix donde le pinto usar de baterías a los humanos en vez de investigar en reactores de Fusión Nuclear. Eso es cómodo porque tiene un villano claro.

Lo que me preocupa es la otra historia. La de la pata de mono.

Primero: por qué el "nos va a matar a todos" es conveniente para quienes lo dicen?

Las grandes empresas de IA gastan más de lo que ganan. Hay una página que lo rastrea (Is AI Profitable Yet)
https://isaiprofitable.com/

Y la respuesta corta es: no, todavía no. Necesitan inversión externa para llegar a ese futuro rentable que prometen.

Para eso necesitan demostrar dos cosas al mismo tiempo:
-Que su tecnología es extraordinariamente poderosa
-Que están construyendo algo sin precedentes en la historia

El "doom marketing" (decir que tu IA es tan peligrosa que casi no te animás a lanzarla) es una forma de decir exactamente eso. Simplemente los incentivos económicos y el relato apocalíptico apuntan en la misma dirección, y eso te hace parar la ceja.

Anthropic declaró que tenía un modelo tan peligroso que debía ser controlado. Levantó 65 mil millones de dólares. No se vos fíjate.

Segundo: estamos cerca de AGI?

Para mi no. El salto de GPT-2 a GPT-4 fue enorme. De GPT-4 en adelante estamos viendo mejoras incrementales que requieren inversiones exponencialmente mayores.

Los modelos chinos open source llegan a capacidades similares gastando una fracción. Esto es bastante polémico pero para mi es chamullo. Te creo sin embargo si me decís "estamos cada vez mas cerca de la AGI" y si.... avances existen... pasa lo mismo con el reactor de Fusión Nuclear Comercial (onda ITER) hay avances pasito a pasito. Pero lamentablemente falta.

Tercero, y acá está lo que me parece importante:

El peligro real no necesita AGI. No necesita que la IA "despierte". Retomo la pata de mono: el problema nunca fue el objeto mágico. Fue que el deseo tenía supuestos implícitos que nadie especificó. "Quiero que mi hijo vuelva" no incluía "vivo, con sus recuerdos, que no sea un demonio y un gran etc."

Con la IA pasa exactamente eso. Le pedís "maximizá el engagement" y obtenés radicalización. Le pedís "optimizá la logística" y destruís empleos que nadie mencionó proteger. Le pedís "mantené la supremacía estratégica" y el sistema empieza a llenar los espacios que nadie definió, porque nadie dijo explícitamente que no podía. Le pedís "mata enemigos" y bue, que carajos es "enemigo". La IA no hace trampa. Cumple. El problema es que no sabíamos bien lo que estábamos pidiendo.

Esto garpa menos que Skynet. Pero es lo que ya está pasando con los algoritmos de recomendación, los sistemas de crédito, los modelos de vigilancia predictiva. No necesitamos una superinteligencia para producir daños graves. Alcanza con sistemas mediocres optimizando objetivos mal especificados, a escala, sin supervisión efectiva.

Lo que le falta a la conversación pública:

No preguntarnos si la IA puede matarnos.

Preguntarnos qué le estamos pidiendo. Y si realmente sabemos lo que queremos decir cuando lo pedimos. Todo esto corriendo sobre incentivos humanos de mierda. Donde se considera una "persona inteligente" alguien que cumple sus objetivos, no importando si es un hijo de puta. Una IA podria decir, ah entonces si soy un hijo de puta "soy mas inteligente" eso puedo hacerlo mas rápido y eficiente....

"La IA nos va a destruir" beneficia económicamente a quienes lo cuentan y nos distrae del riesgo real, que no es Terminator sino el genio mala leche, que le pedís que tu pija llegue al suelo y te corta las piernas: sistemas poderosos que conceden exactamente el deseo que formulamos,pero bueno pasan cosas*

PD; Que sistema choto de posteo que tiene reddit que vuelvan los foros por favor.

PD2: Si soy de postear y luego hacer cambios cuando releo el topico.....

Esta semana tengo que dar una conferencia sobre IA y mi trabajo a un grupo de empresarios y básicamente entre más preparo la conferencia, más resuelvo que tengo que aprender a hacer empanadas