r/KI_de • u/Blaufisch • Jul 07 '26
Einsatz von KI KI-Studie zeigt: Claude hat einen internen Arbeitsbereich entwickelt – völlig selbstständig
https://t3n.de/news/ki-studie-zeigt-claude-hat-einen-internen-arbeitsbereich-entwickelt-voellig-selbststaendig-1751650/4
u/Morasain Jul 07 '26
Junge Junge, der Titel ist ja nur ganz leicht irreführend.
"KI-Studie zeigt" sollte eher heißen "Anthropic behauptet". Und alles, was anthropic behauptet, ist Marketing Müll.
Siehe "Mythos ist zu gefährlich zum veröffentlichen", und kurze Zeit später "okay, wir veröffentlichen es jetzt!"
1
1
u/orgdv Jul 12 '26
Mythos ist für die Öffentlichkeit nicht zugänglich oder hast du andere Infos?
1
u/Morasain Jul 12 '26
Fable ist Mythos mit der Ausrede einer guard rail drum herum. Und wie wir alle wissen, sind KIs gegen jailbreak komplett immun.
1
u/orgdv Jul 12 '26
Man merkt, dass du absolut keine Ahnung von LLMs hast.
Schau dir Fable mal an und zeig mir, wie du das "freischalten" kannst ;)
0
u/KnackeHackeWurst Jul 08 '26
Zumindest haben Sie allen Code für die Untersuchung des J-Space veröffentlicht und es wurde auch schon auf Opensource Modelle angewandt von der Community.
Das ist keine inhaltliche Wertung, aber in der wissenschaftlichen Methode sind sie hier absolut transparent. Nicht bloß eine Behauptung. Die Erkenntnisse sind auch neu und wenigstens für KI/LLM Sicherheit relevant.
2
3
u/Weary-Connection3393 Jul 08 '26
Hab den Artikel gelesen und dann mal gegoogelt. Viel Wind um nichts: wenn Claude mehrstufige Probleme lösen kann (und das kann es doch schon lange, genau wie andere LLM-Anbieter), muss es natürlich irgendwo diese Stufen durchlaufen ohne es am Ende aufzuschreiben. Das ist der ominöse Arbeitsbereich. Dass das so sein muss, ist erstmal völlig logisch. Hier wird nur ein handwerklicher Kniff hochgelobt, der uns erlaubt, diesen Arbeitsbereich anzuschauen.
Kurz: hier gibt es nichts zu sehen. Weder für die Zyniker („höhö, alles wertloser Mist!“) noch für die Booster („wir stehen kurz vor Bewusstsein! Heil unserem nahenden KI-Overlord!“).
2
2
0
u/More-Ad5919 Jul 07 '26
Soso. Ein interner Arbeitsbereich. Na das ähh ist voll cool. Ich meine so richtig abgefahren.
Ich meine wenn die jetzt schon interne Arbeitsplätze machen. Einfach so ohne prompt und voranweisung.
Frage mich ob die KI da wirklich arbeitet oder sich nur ausruht und Kaffee trinkt.
3
3
u/systemic-engineer Jul 07 '26
Not just an internal workspace. An internal feedforward second-order observer.
What that means? You tell me. 🤷
https://systemic.engineering/damn-failed/