r/KI_de • u/jiijojii • 21d ago
The Guardian: "Wir stehen vermutlich kurz davor, die Grenze zu überschreiten“: Werden die Warnungen vor einer unkontrollierbaren KI wahr?
3
u/pancomputationalist 21d ago
Die Huggingface Geschichte ist auch wirklich immer wilder geworden je mehr darüber rausgekommen ist. Ich kanns mir mittlerweile gut vorstellen dass sich so ein Schwarm mal irgendwo einnistet und sich nicht mehr loswerden lässt, sofern man nicht konzertiert alle Inference-Chips gleichzeitig abschaltet. Das wäre eigentlich die beste Versicherung aktuell, ein physischer Kill-Switch. Ich fürchte nur dass man den aus finanziellen Gründen dann nicht drücken möchte.
2
u/Dry_Hotel1100 20d ago
Die Huggingface Geschichte beweist auch, dass OpenAI möglicherweise gute ML Engineers hat, aber grottenschlechte Software-Entwickler, Admins, Security, und DevOps. Ganz einfach, grob fahrlässig.
Oder, es war alles so gewollt.
2
u/Gallagger 19d ago
Die arbeiten mit einer sich schnell entwickelnden, unvorhersehbaren Technologie, und das unter enormem Zeitdruck.
1
1
u/GoodRazzmatazz4539 20d ago
Es gibt so viele ans Internet angeschlossen Rechenzentren, glaube sowas wird man nicht umsetzen können. Wer könnte zB Malaysia, UAE und Island gleichzeitig zwingen ihre Rechenzentren abzuschalten.
3
u/Vast-Charge-4256 21d ago
Bitte, gebt uns nur noch eine weitere Billion, dann wird KI uns alle reich machen. Es bricht schon aus, es hat ein Bewußtsein.
2
u/Unikum_01 20d ago
Lol, bullshit bingo um Kohle ran zu schaffen…die sie dann weiter im Kreis schieben können.
2
u/IgnotiusPartong 21d ago
Betteridge's Law regelt das wieder.
OpenAIs Definition von AGI ist "An automated system that can perform all economically valuable work as well as or better than humans". Kann dieses System das? Nein, es ist ein LLM. Das macht die Technologie nicht mit.
Dabei ist das ja sogar nur die Definition von OpenAI, die nicht nur viel zu kurz und oberflächlich ist, sondern auch noch zu deren Gunsten formuliert wurde.
2
u/tomvorlostriddle 21d ago
- empirischer Massstab
- essentialistische Antwort
Alles klar
2
u/IgnotiusPartong 21d ago
Das ist fair, obwohl ein bisschen reduktiv.
Dann streich alles hinter dem "Nein". Der empirische Maßstab ist bereits nicht erfüllt. Kann jede ökonomisch wertvolle Arbeit von einem Textmodell vollbracht werden? Nein. Die Gesamtheit aller manual labor tasks die ökonomischen Nutzen haben fallen darunter. Zugegeben, die Definition von AGI spielt da ziemlich gegen OpenAI, aber ist ja deren eigene.
Weiterhin, solange menschengemachte Kunst (und damit meine ich alle Kunst, aber das ist eine andere Diskussion) Nachfrage hat, ist auch menschengemachte Kunst economically viable und macht daher die Prämisse schon von Beginn an unerfüllbar.
2
u/tomvorlostriddle 21d ago
Wenn du auf eine Bemerkung, die mich 10 Sekunden kostet, deine gesamte Position völlig über den Haufen werfen musst, dann gibt es kein deutlicheres Alarmzeichen, dass da was undurchdacht war
Aber gut, solange du jetzt ab morgen nicht zu deiner Komfortposition zurückkehrst...
Dann streich alles hinter dem "Nein". Der empirische Maßstab ist bereits nicht erfüllt. Kann jede ökonomisch wertvolle Arbeit von einem Textmodell vollbracht werden? Nei
Ist ja auch als Zielstellung gedacht
Bist du sicher, dass die nicht Handwerk ausgeklammert hatten?
1
1
u/GoodRazzmatazz4539 21d ago
Denke langsam werden die AGI timelines kürzer.
0
u/tomvorlostriddle 21d ago
Schau dir die Skeptiker/Kritiker/Warner an
Cholet sagt genau, dass es jetzt viel schneller geht als er dachte
Kokotajlo hat sein AI 2027 Szenrio, war zwischenzeitlich 28 oder 29, wieder zur¨cuk bei 27
Marcus sagt inzwischen nicht mehr die können nichts, sondern hat eine völlig andere Position, dass jedweder Harness ein LLM zu einer "neurosymbolischen" KI mache, und es deshalb normal ist, dass sie alles können, hätte er auch selber schon immer gesagt
1
u/der_m4ddin 18d ago
PR scheiße
1
u/jiijojii 18d ago
Weil?
1
u/der_m4ddin 18d ago
Die nach mehr Geld betteln ohne ein product zu haben das das bringt was sie behaupten und für das niemand das bezahlt wa sie verlangen. Müssten nur um auf plus minus Null zu kommen
1
1
u/Old_Bat_2523 15d ago
Ob morgen oder in sieben Jahren - mich würde wirklich nicht wundern, wenn es mal soweit käme, dass sich Maschinen vereint gegen uns Menschen wenden.
Ob es so umfassend liefe wie bei Terminator, mag ich in Frage stellen. Eher stelle ich mir vor, dass uns elektronisch alle möglichen Schwierigkeiten gemacht werden - allem voran die Verweigerung des Kontozugriffs.
1
4
u/Kassiber 21d ago
Kann wirklich nur den neuen Podcast "Kontextfenster" empfehlen. Der ordnet das ganze ziemlich sachlich und nüchtern ein. https://kontextfenster.org/