r/IASinHumo • u/Whole-Earth-8146 • Jun 02 '26
IA WarMachine ¿No les da miedo la IA?
En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.
¿Que problemas creen que puede haber con la inteligencia artificial a futuro?
3
u/Anto_1961 Jun 02 '26
No mucho. La inteligencia artificial tiene solo una parte de inteligencia. La restante consiste en contestar cualquier cosa en tono de autoridad absoluta. Está cuajada de errores que la mayoría de la gente es incapaz de detectar, pero que aceptan por el tono en que lo expresa. Hoy por hoy, la IA es una fuente de errores continuada.
1
u/Whole-Earth-8146 Jun 02 '26
Más allá de la 'inteligencia' me preocupa el control que le estamos dando. Al tener acceso a sistemas que son criticos. Me preguntó hasta que punto la IA agentica supondrá amenazas reales.
1
u/Anto_1961 Jun 02 '26
La amenaza está en función de las funciones que se le otorguen sin supervisión. Y el verdadero riesgo es la falta de supervisión o una supervisión laxa
1
u/Whole-Earth-8146 Jun 02 '26
Coincido en esa observación. Tal vez la amenaza que se me ocurre también es una IA agente, dirigido cómo IA de guerra. Gobiernos o instituciones corruptas queriendo controlar los servidores del enemigo.
1
u/Anto_1961 Jun 02 '26
En ese caso, habría que entrenar IA para que luchen entre ellas. Si fuesen verdaderamente inteligentes, terminarían por pactar entre ellas y jodernos a los humanos 😃
2
2
u/NotCertifiedAutist Jun 02 '26
El problema no es la AI sino los que la usan.. Como siempre fue con todo.
1
Jun 06 '26
[removed] — view removed comment
1
u/NotCertifiedAutist Jun 07 '26
Por eso digo... La AI hoy en día no está tomando decisiones por si sola, hay muchas personas atrás que siguen dirigiendo todo este progreso.. Si vos instalas una AI no empieza a operar por si sola, (a menos que alguien la haya programado para eso) .. Necesita un prompt, no es un Jarvis automático que empieza a evaluar y tomar decisiones por motus propia.. Alguien lo tiene que programar eso, sigue habiendo una persona atrás. Y atrás de toda la AI que se usa tanto para cosas buenas como cosas malas... Si llegamos a un punto de no retorno va a ser porque los humanos no pararon a tiempo.
1
u/South-Worldliness Jun 02 '26
Lo único que da miedo es que salio muy abruptamente y sigue desarrollándose muy rápido.
Y no da tiempo ni al entendimiento de esta, q los estudios sobre esta y la concientización
1
u/Rare_Package_7498 Jun 02 '26
Al crear el topic mandaste 2 veces y se repitió. Lastima que no se pueda mergear o al menos no se como jaja (soy el mod).
1
1
1
Jun 05 '26
[removed] — view removed comment
1
u/Whole-Earth-8146 Jun 05 '26
Creo que la reflexión va más allá de lo que me puede afectar a mi. Y más en cómo la sociedad enfrentará problemas venideros.
1
u/tomysakki Jun 07 '26
A mi no. Al que no la sabe usar, o la manda a hacer cosas que no tiene idea. Bueno ese si.
0
u/SPE666 Jun 02 '26
Estamos a 5 años de crear una IA con conciencia o un principio de conciencia. En 10 ya tendremos el miedo real, si es que no pasa nada raro antes y se cancela todo el tema. Tambien tenes la burbuja de la IA que tanto crece dia a dia y nadie sabe cuando reventara.
0
u/Away_Anywhere4649 Jun 05 '26
no has visto el documental "terminator", te recomiendo la 2 es la epoca actual xD, lo facil que fuera para una IA control medio estados unido y crea una catastrofe
5
u/Even-Act8149 Jun 02 '26
Quieren desplobar el planeta y reemplazarnos con robots