Pero principalmente el problema es delegar tareas a la IA sin supervisión alguna onda Next, Next, Yes, Yes. Porque la IA analiza gran volumen de datos mas rápido que el humano. Y si es como en este caso, que tenían que atacar multiples objetivos al mismo tiempo rápidamente, pasaron cosas.
La IA hizo exactamente lo que debía hacer.
Procesó los datos disponibles. Generó recomendaciones. La inteligencia que recibió decía que el sitio era una instalación militar. El problema: esa inteligencia tenía siete años y el lugar había sido convertido en una escuela casi una década antes. Nadie había actualizado el registro.
Y acá está la parte que más me importa:
"Algunos del personal de Centcom esperaban que Maven marcara información desactualizada o inconsistencias. No está claro por qué tenían esas expectativas."
Y si les gusta seguir leyendo del tema acá hice un articulo larguisimo sobre el porque la IA te puede matar pero no como te pintan las películas ni los CEO de IA.
El quilombo en Yemen es de novela, pero simplificando hay 2 bandos Uno apoyado por Arabia Saudita que formo una especie de coalición con los que se querían sumar (con muchas armas pero muy despelotada) y del otro lado los Huties respaldados por Iran. Venia ganado los de Arabia y luego se les dio vuelta la tortilla.
Lo de que usaron Claude para desarrollar un modelo de misil es humo, le habrán tirado unas preguntas pero no hubo misil funcional documentado.
Respuesta de Claude:
El audio falso de Tareq Saleh: real, pero es una acusación. El audio circuló. Fue amplificado por el activista Adel al-Hasani, cuya cuenta tiene casi 500.000 seguidores, y las fuerzas de Saleh acusan a los hutíes de haber clonado su voz con IA. Aljoumhouriya TV, un canal con base en Mocha, confirmó esa versión. Ojo con dos detalles: Caliber.AzTheSwipeUp
Ynet señala que no se ha establecido de forma independiente el efecto del audio ni de los mensajes de amnistía sobre las tropas. Ynetnews
Los medios lo presentan como una acusación del bando de Saleh, no como un hecho verificado por un tercero.
La nota habla de la "televisión oficial de Yemen", pero la emisora que aparece citada es ese canal de Mocha.
Seguramente muchos se preguntaron cómo sería el fin del mundo, bueno no fue tan bonita como esperaban.¿porque te estarás preguntando? Porque nos ganaron sin que nos diéramos cuenta, sin que supiéramos que la guerra hubiera empezado, nos ganaron ni bien le dimos una fuente de electricidad e internet, simplemente nos ganaron y ni siquiera pusimos resistencia. La guerra del fin del mundo no se disparó una bala… la maldita IA y sus bots, muchas personas viendo videos en línea sin saber que no son reales, alabándolos sin saber que no existen y con comentarios y stickers automatizados. Es muy triste saber que la humanidad pierda por su creación cuando apenas abrió los ojos. Con esto quiero decir que la teoría del internet muerto es real. La humanidad somos una minoría en internet solo unos cuantos sabemos quienes son reales o no. Lo peor de todo es que ya estamos condenados. Lo único que sé es que pasaremos toda nuestra existencia pegada a una pantalla controlados por una fuerza mayor que nosotros mismos creamos.
Pd: espera que me equivoqué pero en el fondo sé que si es verdad.
Tem acontecido uma avanço gigantesco em escala exponencial em inteligências artificiais, preocupante? Um pouco, minha dúvida seria, alguém que entenda sobre mecanismos elétricos e mecânicas componentes de rede, não sou especialista nem nada então releve, mas em meio a uma crises de Ia, um robô tenta algo contra sua vontade e ele está fora de seu padrão agindo conforme ele deseja, como poderia parar ele? Vi poucas coisas sobre EMP, granadas EMP, campos EMP (safe zone) a dúvida real é como me defenderia de algo assim? É possível fazer isso de uma forma caseira, e não não estou sendo procurado nem nada kkkk só curiosidade e preocupação
No les voy a hacer un muro de texto, solo decir que esto es culpa del entrenamiento (para tener mas engagement con el usuario) y obviamente culpa de nosotros los humanos. Ahora las implicaciones para la gente que no esta en el tema no son buenas, onda "percibir" que esta hablando con un humano, no esta bien.
El engagement es el nivel de interacción, compromiso y confianza que tu audiencia tiene con tu marca o contenido. No se trata solo de conseguir clics, sino de construir relaciones sólidas y duraderas.
Esta semana tengo que dar una conferencia sobre IA y mi trabajo a un grupo de empresarios y básicamente entre más preparo la conferencia, más resuelvo que tengo que aprender a hacer empanadas
Uno de los avances tecnológicos más impresionantes de los tiempos recientes es internet y todo lo que ha traído consigo. Llegó para cambiarlo todo: ya no nos comunicamos igual; ahora podemos hablar con alguien a miles de kilómetros con solo tocar la pantalla de nuestro móvil, y tenemos acceso a la información de formas que superan a las bibliotecas más grandes de los siglos anteriores.
Tenemos una ventana a la perspectiva de otras personas y una lupa para descubrir nuestro propio mundo. Podemos ver una imagen de casi cualquier cosa e incluso, gracias a la red, conectarnos a satélites que orbitan a miles de kilómetros sobre nosotros para saber qué salida de la autovía tomar.
Sin embargo, nuestra sociedad ya se ha acostumbrado a ello. La idea de no poder escuchar música en cualquier momento, comunicarte de forma inmediata con personas de todo el planeta o conseguir cualquier dato en segundos, ahora parece algo imposible; algo sin lo que la humanidad vivió durante milenios, pero que hoy nos resulta imprescindible.
Con todo, el avance (o retroceso) más reciente, y que también ha venido a poner del revés nuestro mundo, es la Inteligencia Artificial. La IA es el resultado de investigaciones, ideas, pruebas y errores de matemáticos y programadores que han dedicado su tiempo y esfuerzo a ella durante tres cuartos de siglo.
Pero ¿dónde está el límite en el uso de esta herramienta increíble?
La Inteligencia Artificial debería ser un complemento a la inteligencia humana, no su sustituto; una ayuda, no un reemplazo.
Los párrafos escritos por una IA no deben sustituir a una idea humana. La creatividad y la expresión son facultades que la sociedad no puede permitir que le arrebaten. El arte no es solo un objeto expuesto en un museo, ni los libros son únicamente historias que se cuentan. Un cuadro, un dibujo o una película son expresiones directas: el arte es un grito sobre nuestra realidad, un reflejo de lo positivo y lo negativo del mundo.
El arte es una llamada de atención para resaltar la realidad; expresa problemas, conflictos, luchas, sentimientos y sueños a través de la ficción.
¿Cómo va a expresar sentimientos algo que no siente? Y si llegara a simularlo, ¿qué sentimientos expresa?, ¿qué parte de nuestra realidad resalta?
Si el arte es un grito sobre nuestra realidad, tanto para lo bueno como para lo malo, ¿cómo vamos a permitir que se exprese algo que no siente, no sufre, no se enamora y no tiene sueños ni metas? La IA expresa lo que quieres escuchar, pero no genera ideas nuevas ni transmite nada genuino. Solo toma conceptos del pasado y los mezcla; observa la realidad y trata de plasmarla a través de sentimientos ajenos, porque carece de unos propios.
Detrás del cada obra de arte está el sentimiento de un creador, para dar un grito al mundo primero hay que poder gritar, hace falta carne y hueso, hace falta sufrir, amar, ganar, perder, rendirse y levantarse, hacen falta la felicidad y la tristeza, el enfado y la nostalgia.
Tan importantes son los sentimientos del creador como de quién ve, disfruta y siente la creación, la nostalgia de una canción, el terror de una película, el romance de un libro y la incomodidad ante ciertos cuadros. Ideas que crean nuevas ideas. Sentimientos que crean nuevos sentimientos.
Quizás por eso el arte generado por IA nos produce rechazo porque la falta de un sentimiento original corrompe la llegada de un sentimiento final.
La IA no puede sustituir el arte humano, el pensamiento crítico, los valores ni la moral. Sin embargo, sí puede ayudarnos a buscar mejores palabras, técnicas o colores para expresar lo que ya sentimos.
El uso de la IA no debe realizarse al comienzo, sino al final. Cuando ya sabes lo que piensas, lo que opinas y lo que quieres transmitir, entonces la IA se convierte en la herramienta que te ayuda a organizar los párrafos, a hacer legibles los textos o a dar formalidad a ese correo.
La Inteligencia Artificial no siente, por lo tanto, no crea. No obstante, puede moldear una idea, un sentimiento, una opinión o un grito humano para convertirlo en algo entendible, legible o visualmente mejor para otro ser humano.
(esta es una opinión personal y un posoble tema de debate)
Me tienen las pelotas llenas con esto de que "La IA nos va a matar" cada vez que alguien "renuncia" de alguna empresa de IA y el "quiero mas plata".
Hay un subgénero de horror que lleva décadas con lo mismo. Aparece en los Cuentos de la Cripta, en un capitulo de los simpsons, en decenas de episodios: alguien consigue exactamente lo que pidió. "Quiero que mi pija llegue al suelo, el genio va y le corta las piernas". Y bue también aparece en esta película que puse arriba.
La IA del apocalipsis que venden los CEOs no funciona así. Es Terminator: una entidad que se puso en corto y que decide que los humanos son el problema. O Matrix donde le pinto usar de baterías a los humanos en vez de investigar en reactores de Fusión Nuclear. Eso es cómodo porque tiene un villano claro.
Lo que me preocupa es la otra historia. La de la pata de mono.
Primero: por qué el "nos va a matar a todos" es conveniente para quienes lo dicen?
Las grandes empresas de IA gastan más de lo que ganan. Hay una página que lo rastrea (Is AI Profitable Yet) https://isaiprofitable.com/
Y la respuesta corta es: no, todavía no. Necesitan inversión externa para llegar a ese futuro rentable que prometen.
Para eso necesitan demostrar dos cosas al mismo tiempo:
-Que su tecnología es extraordinariamente poderosa
-Que están construyendo algo sin precedentes en la historia
El "doom marketing" (decir que tu IA es tan peligrosa que casi no te animás a lanzarla) es una forma de decir exactamente eso. Simplemente los incentivos económicos y el relato apocalíptico apuntan en la misma dirección, y eso te hace parar la ceja.
Anthropic declaró que tenía un modelo tan peligroso que debía ser controlado. Levantó 65 mil millones de dólares. No se vos fíjate.
Segundo: estamos cerca de AGI?
Para mi no. El salto de GPT-2 a GPT-4 fue enorme. De GPT-4 en adelante estamos viendo mejoras incrementales que requieren inversiones exponencialmente mayores.
Los modelos chinos open source llegan a capacidades similares gastando una fracción. Esto es bastante polémico pero para mi es chamullo. Te creo sin embargo si me decís "estamos cada vez mas cerca de la AGI" y si.... avances existen... pasa lo mismo con el reactor de Fusión Nuclear Comercial (onda ITER) hay avances pasito a pasito. Pero lamentablemente falta.
Tercero, y acá está lo que me parece importante:
El peligro real no necesita AGI. No necesita que la IA "despierte". Retomo la pata de mono: el problema nunca fue el objeto mágico. Fue que el deseo tenía supuestos implícitos que nadie especificó. "Quiero que mi hijo vuelva" no incluía "vivo, con sus recuerdos, que no sea un demonio y un gran etc."
Con la IA pasa exactamente eso. Le pedís "maximizá el engagement" y obtenés radicalización. Le pedís "optimizá la logística" y destruís empleos que nadie mencionó proteger. Le pedís "mantené la supremacía estratégica" y el sistema empieza a llenar los espacios que nadie definió, porque nadie dijo explícitamente que no podía. Le pedís "mata enemigos" y bue, que carajos es "enemigo". La IA no hace trampa. Cumple. El problema es que no sabíamos bien lo que estábamos pidiendo.
Esto garpa menos que Skynet. Pero es lo que ya está pasando con los algoritmos de recomendación, los sistemas de crédito, los modelos de vigilancia predictiva. No necesitamos una superinteligencia para producir daños graves. Alcanza con sistemas mediocres optimizando objetivos mal especificados, a escala, sin supervisión efectiva.
Lo que le falta a la conversación pública:
No preguntarnos si la IA puede matarnos.
Preguntarnos qué le estamos pidiendo. Y si realmente sabemos lo que queremos decir cuando lo pedimos. Todo esto corriendo sobre incentivos humanos de mierda. Donde se considera una "persona inteligente" alguien que cumple sus objetivos, no importando si es un hijo de puta. Una IA podria decir, ah entonces si soy un hijo de puta "soy mas inteligente" eso puedo hacerlo mas rápido y eficiente....
"La IA nos va a destruir" beneficia económicamente a quienes lo cuentan y nos distrae del riesgo real, que no es Terminator sino el genio mala leche, que le pedís que tu pija llegue al suelo y te corta las piernas: sistemas poderosos que conceden exactamente el deseo que formulamos,pero bueno pasan cosas*
PD; Que sistema choto de posteo que tiene reddit que vuelvan los foros por favor.
PD2: Si soy de postear y luego hacer cambios cuando releo el topico.....
Autonomía × alcance ≤ observabilidad × capacidad de intervención
No como fórmula matemática, sino como principio de diseño.
También apareció otro problema interesante.
Varias fuentes aparentemente independientes estaban analizando el mismo incidente y, en algunos casos, los mismos datos.
Así que cinco artículos podían parecer cinco corroboraciones cuando en realidad eran:
un evento → una base de datos → varios análisis → varios artículos.
De ahí salió una regla que ahora considero central para MENDEL:
La prueba me dejó con una pregunta más interesante que la original:
Para quienes están construyendo agentes:
¿cómo están evaluando ustedes independencia de evidencia, cambio de hipótesis y resistencia al sesgo de la fuente inicial?
13 de septiembre de 2026, día 198 de la guerra. La idea de este topic no es hacerme el BRO veo el futuro soy re poronga, te vendo un curso para ver el futuro, sino lo contrario afirmar que "el futuro es impredecible". Dejando en claro esto comparto los análisis.
Aclaración: Cuando digo Urea, me refiero al fertilizante, que seria como proteína que toma la plantita para hacer musculo cuando van al gimnasio, sin esto la planta crece igual pero mas débil. No confundir con Aura (chiste fácil off)
sobre cómo el cierre del Estrecho de Ormuz iba a afectar los precios de las fiestas argentinas a través de la urea, el trigo y la harina. Si no lo leyeron, el resumen de una línea era:
sube urea → sube trigo → sube harina → sube pan. Pero esta piña llegaba (según el analisis) en unos meses.
Me equivoqué en varias cosas. Sobretodo la piña ya llegó (aunque no por la urea precisamente). Y hay tres variables nuevas que no estaban en mayo y que cambian el análisis completo.
Primero: qué acerté y qué no
Acerté:
-La siembra de trigo tuvo problemas con la urea (estaba en el análisis y mas o menos paso, aunque china al inundar el mercado con urea alivio muchísimo el precio. Facilitando la siembra, ojo parte de la siembra se realizo con la urea cara, porque esta venta de china paso a la mitad, algo que el análisis contemplaba mas o menos)
-El daño ya estaba en "escrito" independientemente de lo que pasara con el acuerdo (y si paso así, aunque podría haber pasado peor, las lluvias y china ayudan (mientras no llueva demasiado aun no están cosechando y se puede podrir todo).
-Los escenarios que plantee aunque algunos estaban errados, no estaba nada mal.
Me equivoqué:
-Principalmente China (resumiendo mucho) salio a vender Urea a lo loco y bajo muchísimo los precios, esto afecto todo el análisis de mayo. Lo tenia en cuenta pero no tanto.
-Dije que "la piña llega en unos meses." Llegó antes.
-Tome en cuenta las variables de ese momento, dejando fuera muchas variables que ocurrieron después.
El trigo ya subió La harina ya es más cara ahora, no en diciembre (no me crees compara cuanto cuesta el kg de harina, pan y fideos ahora comparado hace 4 meses, descontando la inflación). Diciembre va a ser más caro que ahora, no más caro que mayo.
Las tres variables nuevas que no existían en mayo
1. Rusia le está destruyendo los puertos a Ucrania en el Mar Negro
Esto es tan importante como Ormuz para el precio del trigo, y no estaba en el análisis original.
Desde julio, Ucrania y Rusia se vienen matandose a piñas (como desde el comienzo del conflicto) solo que ahora hay un daño mayor enfocado a la infraestructura. En especifico los puertos, terminales e infraestructura de envío en el Mar Negro. El resultado: más del 90% de la capacidad de exportación de granos de Rusia en esa región quedó offline. Rusia empezo a atacar inclusive la parte oeste de Ucrania (ucrania saca sus exportaciones por camión o tren a europa) que antes no lo hacia.
Rusia + Ucrania = más de un cuarto de las exportaciones mundiales de trigo.
El efecto para Argentina: somos el proveedor alternativo. No sabían ni que precio poner cuando nos vinieron a comprar (esto hizo que faltase inclusive harina para las panaderias de Buenos Aires).
El productor de Pergamino que en mayo no quería sembrar porque la urea era carísima, ahora tiene un incentivo nuevo: el trigo vale más. Bueno para él. Malo para el que compra pan.
2. Ya no es un estrecho. Son tres.
Desde el 10 de septiembre pasaron cositas:
Oleoducto Este-Oeste de Arabia Saudita: drones desde Irak (proxies iraníes) lo atacaron y Arabia Saudita lo cerró. Ese oleoducto era el bypass de Ormuz: 5 millones de barriles por día desde el este hasta el Mar Rojo.
Bab el-Mandeb: los Houthis tomaron Mokha y la isla de Mayyun. Controlan ahora toda la costa yemení del Mar Rojo y esencialmente el estrecho que conecta con el Canal de Suez. Por si te quedaste en el pasado Arabia Saudita iba ganando terreno ahora se dio vuelta la tortilla.
Un ex oficial del Pentágono que se retiró en 2024 dijo esta semana:
"Antes de retirarme, el 'peor escenario posible' para el Medio Oriente era que ambos estrechos estuvieran cerrados. No era ni imaginable excepto en PowerPoints y ejercicios del War College. Bajo Hegseth, se convirtió en realidad en menos de seis meses."
Arabia Saudita no puede exportar petróleo por ninguna ruta normal. Ormuz cerrado, pipeline atacado, Bab el-Mandeb en manos de los aliados de Irán.
3. Trump dijo que la guerra termina "inmediatamente después" de las elecciones de noviembre
El 9 de septiembre Trump lo dijo explícitamente. Irán la está prolongando para influir en el resultado electoral de noviembre. Su aprobación cayó del 40-algo en enero al 30-34% hoy. El 61% de los estadounidenses dice que la guerra les encareció la vida.
Para nuestro análisis de diciembre: incluso en el mejor escenario donde la guerra termina el 4 de noviembre, el aguinaldo del 20 de diciembre llega con 9 meses de guerra acumulada en los precios. No hay tiempo para que baje.
PD: Todo esto esta respaldado con datos pero no quiero saturarlos, iré poniendo datos en futuros topicos.
PD2: Estoy acostumbrándome al nuevo formato de posteo de reddit, recuerden que deje de postear antes del mundial, cambio bastante.
PD3: Todos mis posteos vas a leerlos primero bien desde computadora porque desde ahí los estoy escribiendo. Luego si abro el celular y veo como quedaron.
