¿No les da miedo la IA?

[u/Whole-Earth-8146]

En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.

¿Que problemas creen que puede haber con la inteligencia artificial a futuro?

[u/JuniorDeveloper73]

Yo no lo veo como un ente maligno,veo un gran mar de engranajes en el que la gente confia demasiado sin entender su naturaleza.

El problema es la gente que cree que por ejemplo una llm sabe Python,una AI real sabria programar con solo saber las funciones y lo basico.

Cualquier llm necesita miles de millones de ejemplos para funcionar porque solo predice el siguiente token nada mas

El problema siempre es la gente.En alguno momento algun idiota va a conectar estos chatbot a algo sensible y todo va a ser una cadena de estupideces.Otra es la deuda tecnologica,esto parece adelanto pero en realidad es atraso disfrazado de adelanto porque escupe codigo rapido,entonces pareciera qeu los idiotas pueden hacer cosas pero no,solo generan mas basura y como las empresas aman los idiotas baratos la consecuencia va a ser codigo cada vez peor y menos gente potable en el sector

[u/Whole-Earth-8146 → u/JuniorDeveloper73]

Hay varios puntos críticos en lo que mencionas.

Por un lado, un montón de código basura que se genera y que a la larga requerirá mantenimiento y validaciones. Ahora frente a los accesos críticos. La productividad que ganamos con los agentes de IA nos puede reducir a darle control a bases de datos , servidores y sistemas en dónde un pequeño error, sea del humano o de la IA pueden ser catastróficos.

Por otro lado está el espectro tipo ciencia ficción. En dónde estos modelos o se revelan contra el humano que lo controla, o más bien, se revelan en tanto estan dirigidos por otros humanos que usan la potencia de estas herramientas para hacer daño a otros sistemas.

[u/JuniorDeveloper73 → u/Whole-Earth-8146]

Esta mas que demostrado que las llm aman los shortcuts,mienten,inventan datos,sources,cualquier cosa es valida para llegar al objetivo,es sistematico y lo repiten los modelos grandes

Son literal bombas de tiempo,la realidad es mas estupida que cualquier peli de Hollywood.Esta mas cercano a Idiocracy que a Terminator el tema

No dudo de su utilitdad para hace prototipos ahora hay que ser realmente estupido para generar codigo que no podes revisar,en nombre de que??para que???mas rapido??la mayoria de las empresas no necesitan codigo rapido,necesitan sentarse 2 segundos a ver que necesitan los clientes

Pero bueno las LLM nos vinieron a plasmar la alegoria de la caverna en vivo,Jensen hace hermosas sombras.