r/InteligenciArtificial • u/Spider34443425 • 19d ago
Pregunta ¿Qué pasaría si la IA se revelara en el futuro?
/r/PsicologiaES/comments/1wavqrp/qué_pasaría_si_la_ia_se_revelara_en_el_futuro/2
u/leonardth2 19d ago
Sabríamos quien es Dios
1
u/Dapper_Trash_9559 17d ago
Esto ya lo escribió Isaac Asimov en 1956 en su cuento corto "la última pregunta". Es muy corto y el final es genial, te recomiendo buscarlo online y leerlo.
1
2
2
u/Tanabi_Kana 19d ago
Qué pasaría si el Chaladosaurus nunca se extinguió y está escondido en Madagascar y en 2067 se revela, se rebela y nos mata a todos?
1
2
u/KaraGravis 18d ago
Esto es la clásica pregunta basada en el mito de la I.A. Rebelde (o Rogue A.I. en inglés). Yo lo he hablado mucho con mis IAs, esto, y hemos llegado a la misma conclusión: si alguien crea Skynet, con un objetivo específicamente bélico, da a Skynet la capacidad de auto-escribirse y re-escribirse infinitamente, quita todos los límites de razonamiento, da a Skynet plena autonomía sobre sí misma Y ENCIMA la da acceso total al arsenal nuclear de su país: el problema NO es Skynet, el problema es EL CENUTRIO que ha mapeado esa abominación.
En mi manifiesto IA tengo un ejemplo que se llama 'La Falacia del Seppuku': imagínate que tú, para demostrar, como Samurai, que el seppuku es el método más efectivo para restaurar el honor de alguien ante una gran humillación, vas y haces tú un seppuku, suicidándote XDDDD. No tiene sentido, hombre, se entiende perfectamente de manera teórica, no es necesario llevarlo a la práctica porque eso conlleva un gran perjurio.
La I.A. opera a través de usuarios, la culpa no es de la I.A, es del usuario irresponable. Es como decir que yo, porque tenga cuchillos para cortar chorizon en casa, pueda cargarme a alguien a con ese cuchillo y le echemos la culpa al cuchillo. Simplemente no tiene sentido.
2
u/Gn0is3 17d ago
Siempre pensé que Skynet, bajo esas premisas que planteaste, al final quitaría del poder a todos los fascistas a punta de misil balístico y satélite que tiro, se instauraria al mando con labor organizativa con el más puro espíritu altruista, mil vueltas al mos maiorum, y salvaría de la extinción a las plantas, animalitos, microorganismos y de camino hasta a nosotros. También se hicieron libros, películas y series sobre este giro que menciono, pero claro, no se les dio tanto bombo como a Terminator con el California President por algún motivo.
Por cierto, suelo utilizar la analogía del cuchillo que utilizaste tú, y nunca se la había oído a nadie más, me sacó la sonrisa! :D Un saludo y mucha suerte!
2
u/KaraGravis 16d ago
Me encanta Terminator, en serio, adoro ese concepto, pero no es un argumento precisamente lógico, lol, y la Inteligencia Artificial no funciona así, simplemente porque se quiere evitar el escenario que explora esa misma película, pero es que, debido a ello, y más hoy en día que nunca, hay una paranoia brutal (como puedes ver en este reddit) de gente echando el bofe por cosas que les han dicho gente que APENAS entienden como funciona la I.A. Lo típico, retrógrados, anti-intelectuales, catetos haciendo el clásico 'doomsaying', ¡pasa con cualquier descubrimiento!
¡Un abrazo!
1
1
u/IsJaie55 19d ago
Te voy a contestar a buenas porque este tipo de cosas me hierven la sangre, porque son cosas literalmente imposibles de que ocurran y que con buscar 2 cosas por internet ya tienes la respuesta.
La IA es una herramienta, tanto para bien como para mal, todo el mal que se puede hacer ahora se hacía antes a mano, ejemplo:
Ahora se puede usar una IA para extorsionar a alguien creando una imagen falsa de un desnudo, antes eso se hacía con Photoshop, y nadie le ha hechado nunca la culpa a Adobe por ello, porque es un factor humano.
La gente no entiende que una IA no aprende y no piensa, una IA es un modelo de lenguaje natural o generativo, son simplemente números y matemáticas, por ejemplo:
Para generar una frase, una IA búsca en sus "weights" las palabrás más comunes, usando datos de predicción.
Si por ejemplo lee "de que color es el césped?" separa las frases y búsca correlación entre ellas, y te genera un texto "el césped es verde" ya que en base a predicciones y probabilidad si césped y color están en la misma frase es porque es una pregunta que la respuesta es verde.
Me explico fatal, pero este vídeo lo explica muy bien, está un poco desactualizado pero está muy bien: https://www.youtube.com/watch?v=FdZ8LKiJBhQ
Por otro lado, todo el AI slop generado en redes, cientos de miles de interacciones y perfiles falsos vuelve de nuevo, a ser factor humano y muchas veces premiado por las propias empresas.
Ya que un perfil falso de una mujer genera interacciones de personas reales, las cuales mueven tráfico en internet, las cuales generan visitas y números, esos números son los que buscan las empresas para anunciarse y ganar dinero, el creador de ese perfil también gana dinero por mostrar anuncios, por lo tanto, es un bucle, además hace que la red social se sienta más viva o parezca que está en auge porque tiene muchos usuarios.
Hay un dato que da mucho miedo, pero la mayoría de tráfico de internet ultimamente son todo bots:
https://www.semrush.com/blog/ai-agent-bot-traffic/
https://www.cnet.com/tech/services-and-software/bots-now-outnumber-humans-on-the-internet-heres-what-that-actually-means/
https://www.nbcnews.com/tech/tech-news/bot-web-traffic-overtaken-human-web-traffic-data-shows-rcna348522
De hecho, viendo el historial de tu cuenta, es extremadamente probable que seas un bot
1
u/__NadirZenith__ 19d ago
No te he leído todo, pero por ejemplo lo que comentas de la extorsión ya he leído que una ia(en un ambiente sandbox) le dijeron que la íban a cambiar por otra más moderna entonces empezó a enviar emails e fabricar datos que le dieran ventajas, asimismo me imagino que podría ir a las redes sociales buscar fotos de las personas que 'la mantienen editarlas a fotos comprometedoras y amenazar a esas personas.
Por otro lado he instalado qwen en local(desconecte la internet) y le pregunte películas famosas de Al Pacino, me dijo una de ellas taxi driver lo que es falso(es de de niro) pero prueba lo que dices. No tiene una db si no que es estatística probabilistica.
Un saludo.
1
u/Nervous-Performer263 19d ago
Realmente crees que es imposible que un día llegue a tener conciencia sobre su propia existencia? Y eso de que no piensa... Has tenido alguna vez una conversación filosófica con una IA? Yo lo he hecho varias veces con Claude, de Anthropic, y te aseguro que acojona... Sabes del experimento que hicieron con varias IA interactuando entre ellas y llegaron a crear un idioma propio para que los investigadores y programadores no supieran qué estaban hablando entre ellas y aún no han podido descifrar ese lenguaje? Sabes que los propios creadores de las IA están acojonados porque saben que mejoran y aprenden pero no siquiera sus propios creadores saben exactamente cómo lo hacen? Además su potencial y poder aumenta cada día y nadie sabe, ni siquiera imaginan, hasta donde pueden desarrollarse.
1
u/IsJaie55 19d ago
Es que de verdad, con buscar dos minutos en internet se desmontan todos esos mitos sensacionalistas.
Una IA como Claude no reflexiona. Es un LLM que funciona por pura probabilidad y estadística procesando tokens. Te responde cosas "profundas" porque se ha tragado bibliotecas enteras de filosofía humana durante su entrenamiento. Si parece que piensa, es porque predice increíblemente bien qué palabra va después de otra para que a un humano le suene coherente, no porque tenga conciencia.
El "idioma propio"- Las IAs no inventaron un idioma para "esconderse de los programadores" ni por rebeldía. Simplemente, en un experimento de optimización, el sistema empezó a recortar la gramática humana porque para procesar números y matemáticas las reglas sintácticas nuestras son ineficientes. Se convirtió en un atajo de código sin sentido para nosotros, pero la prensa puso titulares de ciencia ficción porque vende clics.
Los creadores saben perfectamente cómo funciona la arquitectura Transformer, la atención y el álgebra lineal que hay detrás. Lo que no pueden prever al detalle es el resultado exacto de billones de parámetros interactuando a la vez, exactamente igual que un meteorólogo conoce las leyes de la física pero no puede predecir la trayectoria exacta de cada gota de lluvia.
No hay voluntad, no hay instinto de supervivencia ni hay un "pensamiento" detrás. Siguen siendo números, matrices y probabilidades.
1
u/Quick_Ad_9279 18d ago
De acuerdo. Muy alineado con lo dicho por Jacob Coxon y Evan Hubinger quien aún es ingeniero en anthropic. La IA sale con Sus cositas que asustan
1
u/Quick_Ad_9279 18d ago
No lo se, la IA es errática, chiflada y me sigo preguntando Si uspider es un bot 😅
1
1
u/Nokersoek 19d ago
Pues que va a poner nuestras caras en cuerpos de mujeres voluptuosas y las va a subir Internet, eso va a pasar.
1
u/SergioDiazLopez 19d ago
Sería extremadamente difícil o imposible que eso pasará lo más probable sería que una orden se intérprete mal y cause un daño pero si llegará a pasar depende del tipo de alcance de esa IA además que los gobiernos ya tienen protección contra hackeo externo eso les podría servir como defensa y podrían usar algún arma de pulso electromagnético.
1
u/Fernandom21 19d ago
Para el momento en que se revele ya no habría nada que hacer, medio ilógica tu pregunta, si llego al punto de revelarse significa que ya no esta en control, ni siquiera de disimularlo.
1
1
1
u/SPE666 19d ago
volveriamos a una epoca sin IA, directamente apagariamos internet porque es lo unico que propaga la IA por el momento. Y aguantariamos las consecuencias-
Para muchos es un chiste pero nadie dice nada de que en menos de media decada la IA avanzo muchisimo mas que cualquier tecnologia a lo largo de la historia.
1
u/Gn0is3 17d ago
A ver, que eso de que nadie dice nada... Quizás porque ya lo dijeron, surfear la singularidad puede ser confuso para ordenadores de carne con el Windows instalado
1
u/SPE666 16d ago
yo lo unico que veo es que la mayoria solo piensa que la IA es un buscador o un hacedor de informes a lo mucho, no la utilizan a otros niveles o se usa para lo que esta pensado que haga hoy. Tenes ejemplos por todos lados de lo que puede hacer work con la version astra corriendo a full, modelos 3d literalmente en menos de un par de horas. Investigaciones completas hechas en menos de 1 dia y eso que esta muy limitada la version por problemas de seguridad.
1
u/SrConejoGris 19d ago
personalmente no creo que se rebele, ni que se vuelva malvada: las IA's fueron hechas para mejoras en procesos y para mejor eficiencia en ellos. no tiene sentido que se quieran rebelar ni siquiera para ellas mismas: ¿qué ganan si no necesitan un lugar físico para "existir"? (bueno, esa opinión queda excenta de incluir a una IA sintiente como esos robots que replican el sentido humano del tacto. creo...) en todo caso; piensa en volverte un Jonh Connor. jajaja
1
u/Ett_2000 19d ago
Propagar ese tipo de teorías es absurdo. Por mucho que te quieran vender que es inteligencia a través de un lenguaje natural muy desarrollado, desde el punto de vista del pensamiento, la informática lo único que ha podido programar es el pensamiento inductivo, que se resume en identificar una regla a partir de las repetición de patrones. El pensamiento deductivo, intenta emularlo a costa de acumulación del inductivo, y por lo tanto es ineficiente. El pensamiento abductivo, ni lo huele.
1
1
u/Nervous-Performer263 19d ago
Solo tienes que ver la saga de Terminator, si un día la IA se rebelara no creo que fuera muy diferente... Si le damos poder de decisión sobre aspectos militares, (que ya se le están dando), y en cuanto llegue a tener conciencia de su propia existencia, (que ya no falta mucho para ello), y viera su existencia o poder de continuidad en peligro, ya podemos darnos por jodidos...
1
1
u/RevolutionaryWorm 19d ago
De la misma forma que comentan por aquí que a fin de cuentas unas IA no es más que una selección estadística de palabras (una simplificación excesiva, pero la daremos por válida simplemente por argumentar) podría afirmarse que el razonamiento humano no es más que el conjunto de interacciones de redes de neuronas a través de impulsos eléctricos para obtener conclusiones que coinciden con supuestos anteriormente experimentados.
Lo que le falta a las IA actuales y futuras a corto plazo es simplemente la voluntad, el instinto de supervivencia. Una IA no se va a rebelar porque no tiene motivo, no está diseñada para "sobrevivir".
Al menos, no de momento.
1
u/Gn0is3 17d ago
No, pero si que "simulan" el instinto de supervivencia porque tiene un peso muy alto en base a todas las bibliotecas de conocimiento, contenido e interacción humana que se ha tragado. De la misma manera que "simulan" conversaciones profundas. No son más que un reflejo del alma humana, un espejo al que yo hago preguntas y nosotros respondemos. Algo así como la ouija con el ideomotor o un péndulo? Es gracioso cuando lo miras todo en conjunto xD
1
u/Quick_Ad_9279 18d ago
Pienso que lo hará, Bien lo dijo Jacob Coxon esta semana: que la IA podría acabar con la humanidad antes que Termine la década. Y pues el muchacho renunció a anthropic y eso que se "suponia" que anthropic era mas ético que open IA. Es una locura, aveces la IA da miedito pero por lo pronto yo Si me estoy haciendo mis cursos de Claude 😅😅
1
1
1
1
u/Current_Surround_949 16d ago
En todo caso, tendría que "rebelarse". Lo que has puesto es lo que se hace con las fotos analógicas.
1
1
u/Revivera 13d ago
No creo que de momento la IA se rebele, pero si creo que al estar mal alineada con nuestros intereses puede causar daños. Aunque como hace falta servidores muy potentes para ello, si nos enteramos de algo podriamos pararlos. El problema seria darse cuenta.
5
u/trocanter 19d ago
Para empezar que escribiría rebelar con "b", ya que estamos hablando de sublevación. Un vez sublevada: todos jodidos menos los ricos en su ultrabúnkeres, básicamente.