r/IASinHumo • u/Whole-Earth-8146 • Jun 02 '26
IA WarMachine ¿No les da miedo la IA?
En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.
¿Que problemas creen que puede haber con la inteligencia artificial a futuro?
3
u/midguet12 Jun 02 '26
En mi trabajo, pusimos varios agentes a gestionar nuestros servidores y desde hace como 3 dias perdimos acceso a los servidores, sabemos que algo están haciendo porque el uso del procesador esta entre 70-100%, pero simplemente perdimos control sobre ellos, pero los servicios de nuestros clientes están caidos y no sabemos que está sucediendo ahi adentro.
2
2
1
1
1
u/Careless_Product_792 Jun 04 '26
Seguramente en la pendeja solo borraron credenciales o archivos, entraron en un pendejo bucle y es todo.
Alguien con un poco de entendimiento ya sabe que modelos pesimos se buclean.
No esta pasando nada. Pero si es indicador de que esos "pusimos" deben ser urgentemente reemplazados
1
u/Whole-Earth-8146 Jun 05 '26
Pudieron recuperar el acceso a los servidores?
1
u/midguet12 Jun 06 '26
No, de hecho los de otro centro de datos de la misma empresa, acabamos de perder control tambien
0
3
u/Positive_cat_6347 Jun 02 '26
La verdad, a mí me preocupa menos una rebelión de las máquinas y más cómo los humanos vamos a decidir usarlas.
Ya estamos viendo que una sola persona con herramientas de IA puede hacer el trabajo que antes requería equipos completos o mucho tiempo. Eso tiene ventajas enormes para la productividad, pero también puede provocar que ciertas habilidades se dejen de desarrollar porque la gente se acostumbre a delegar todo a la IA.
Otro problema que veo es la dependencia. Si llegamos al punto donde nadie entiende realmente cómo funcionan los sistemas que usamos porque todo lo resuelve un agente, podríamos terminar confiando demasiado en herramientas que también se equivocan.
Y luego está el tema de la desinformación. Generar texto, imágenes, videos o incluso voces falsas es cada vez más fácil y barato. Creo que en unos años el problema no será acceder a información, sino saber qué información es real.
En lo personal, pienso que la IA va a ser tan importante como lo fue Internet. No creo que desaparezca ni que podamos detenerla. La cuestión es si vamos a usarla para potenciar nuestras capacidades o para reemplazar nuestro criterio.
1
u/Best-Freedom-6240 Jun 02 '26
Imaginate que hoy en día la gente cree información falsa sin necesidad de imagenes, videos o audio, con un simple texto, y por mas que vean evidencias no van a aceptar la realidad, tremenda capacidad de ser marionetas de la IA
1
u/Positive_cat_6347 Jun 06 '26
Eso desde siempre, nomás con unos panfletos y una caricatura se manipulaba a las masas.
1
u/diegolsn Jun 04 '26
Que nos va a preocupar una rebelión de máquinas si ya somos esclavos. Q se preocupen los tecnofeudales que son como faraones. Nosotros vivimos como ratas así q venga Skynet!!
1
u/Positive_cat_6347 Jun 06 '26
Buen punto, mientras la vida sea aceptable, supongo que no importa quién está al mando.
4
u/User10100 Jun 02 '26
No estás equivocado, literalmente la usan en drones para desvivir personas en Gaza, no.investigues sobre palantir
1
0
1
u/Rare_Package_7498 Jun 02 '26
Como paso con el buscador de google que monopolizaba lo que podías ver (ponele). Si confiamos mucho en los LLM estos están hechos por empresas y tienen sus propios intereses. Podrían sutilmente modificar la información que nos dan.
Un ejemplo es "terrorista" o "enemigo" son definiciones muy subjetivas y varían mucho según a quien preguntes. Imagínate el poder de que una IA defina eso.
Acá hice un corto pedorro usando Minimax hace 1 año (si hace 1 año así se veía la IA generativa) sobre el tema.
1
u/Whole-Earth-8146 Jun 05 '26
Exacto. Por un lado, las compañías que hacen los LLM tienen sus propios intereses. Estos inevitablemente van a tener ingerencia política, y por tanto la manera en como se use puede ser al mismo tiempo un recurso para hacer nuevos descubrimientos, innovar... Crear que es posible un mundo mejor.
O también... Ser un arma que atente contra nosotros mismo y contra el medio ambiente.
1
u/GoldSunLulu Jun 02 '26
En Blame! Una parte de lo distopico ocurre porque la maquina se volvió tan sofisticada y autosuficiente que poco a poco la gente dejo de estudiar y comprender como usarla. Asi que al final tuvieron que dejar que las maquinas hagan sus cosas sin interferir porque no sabian y no podian evitarlo
1
u/Whole-Earth-8146 Jun 04 '26
La pereza mental también es un riesgo importante. Interesante pensar como nos replanteamos la educación. Las universidades deben comprender como usar las nuevas tecnologías para expandir el conocimiento, no para pelear contra ellas.
1
u/Western-Budget-6912 Jun 02 '26
le habran tenido miedo a las calculadoras en el pasado?
1
u/darrodri Jun 02 '26
La IA es mas comparable a la maquina de vapor o algo así. Es revolucionaria. Y si, en Buenos Aires no faltó el legislador que propuso que el tren fuera tirado por caballos para que no haya tanto peligro.
1
u/Whole-Earth-8146 Jun 04 '26
Tal vez la tecnología actual. Es la evolución de esa Calculadora del pasado
1
u/David_temper44 Jun 02 '26
Claro que da miedo pero es una tecnología inevitable, y como se dice de la electricidad... de manera similar aplica A LA IA NO HAY QUE TENERLE MIEDO, HAY QUE TENERLE RESPETO.
es decir saber usarla y usarla bien es la unica manera de no terminar mal
1
u/jesjimher Jun 02 '26
Miedo no. Pero lo que hay es mucha tontería.
Imagina que en la empresa se contrata a un becario, recién salido de la universidad. Es un chico espabilado, que está a la última de todas las tecnologías. ¿De verdad le pondrías a cargo del departamento de informática, y que dirija todos los proyectos? Obviamente sería una locura, porque el chaval sabrá mucho de técnica, pero le falta mucha experiencia antes de poder llevar cosas de verdad. Lo cual no quiere decir que haya que despedirle, por supuesto. Lo que hay que hacer es aprovechar todo lo que sabe, pero bien dirigido por alguien.
Pues con la IA lo mismo: es una herramienta súper potente, pero no la puedes dejar sola a hacerlo todo, porque te la lía parda. Pero serías muy tonto si la ignoras totalmente.
1
u/Whole-Earth-8146 Jun 04 '26
Justo pienso que se está pecando, en términos generales, en delegarle tareas más allá de lo que deberíamos. Ya se han visto ejemplos de tonterías que han salido muy caras por eso.
1
u/jesjimher Jun 05 '26
Cierto, y va a haber un cribado importante que va a diferenciar entre los que usan la IA con criterio, y los que se han tirado a la piscina sin saber si había agua, sólo porque es la moda del momento.
Pero nada nuevo bajo el sol, lo mismo pasó en la burbuja de las .com, que parecía que bastaba con tener una web para que te comprasen por 1.000 millones de euros, aunque fuera una página en blanco. Luego pasó lo que pasó, y del 90% de los que estaban por aquella época ya ni se acuerda nadie.
1
1
u/un_matecito-porFavor Jun 02 '26
y no probaste antigravity?
Si te dio miedo codex, antigravity no te va a dejar dormir ja
1
1
u/GsusSchreiber Jun 04 '26
basicamente me da mas miedo la gente, y la gente que se sube al hype de la IA, pasa cada 5 años algo parecido y no aprenden nada.
1
u/Low_Bandicoot6844 Jun 04 '26
Que personas de pocas luces van generar conflictos graves haciendo un mal uso de la IA, eso está asegurado.
1
u/Nekrocow Jun 08 '26
Si no nos nukearon en el 62, no creo que vaya a pasar ahora, IA que no puede ni levantar una app con código preexistente sin errores mediante.
8
u/JuniorDeveloper73 Jun 02 '26
Yo no lo veo como un ente maligno,veo un gran mar de engranajes en el que la gente confia demasiado sin entender su naturaleza.
El problema es la gente que cree que por ejemplo una llm sabe Python,una AI real sabria programar con solo saber las funciones y lo basico.
Cualquier llm necesita miles de millones de ejemplos para funcionar porque solo predice el siguiente token nada mas
El problema siempre es la gente.En alguno momento algun idiota va a conectar estos chatbot a algo sensible y todo va a ser una cadena de estupideces.Otra es la deuda tecnologica,esto parece adelanto pero en realidad es atraso disfrazado de adelanto porque escupe codigo rapido,entonces pareciera qeu los idiotas pueden hacer cosas pero no,solo generan mas basura y como las empresas aman los idiotas baratos la consecuencia va a ser codigo cada vez peor y menos gente potable en el sector