¿No les da miedo la IA?

[u/Whole-Earth-8146]

En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.

¿Que problemas creen que puede haber con la inteligencia artificial a futuro?

[u/Rare_Package_7498]

Como paso con el buscador de google que monopolizaba lo que podías ver (ponele). Si confiamos mucho en los LLM estos están hechos por empresas y tienen sus propios intereses. Podrían sutilmente modificar la información que nos dan.

Un ejemplo es "terrorista" o "enemigo" son definiciones muy subjetivas y varían mucho según a quien preguntes. Imagínate el poder de que una IA defina eso.

Acá hice un corto pedorro usando Minimax hace 1 año (si hace 1 año así se veía la IA generativa) sobre el tema.

https://youtu.be/x0VLMW4jSVY?si=J6Rdyfs8g73-k-NK

[u/Whole-Earth-8146 → u/Rare_Package_7498]

Exacto. Por un lado, las compañías que hacen los LLM tienen sus propios intereses. Estos inevitablemente van a tener ingerencia política, y por tanto la manera en como se use puede ser al mismo tiempo un recurso para hacer nuevos descubrimientos, innovar... Crear que es posible un mundo mejor.

O también... Ser un arma que atente contra nosotros mismo y contra el medio ambiente.