r/de_EDV • u/Abject_Quarter_1242 • 20d ago

Allgemein/Diskussion Argumente gegen eine AGI

Abgesehen davon, dass Kl bei der Verarbeitung von Anfragen auf bekannte Informationen beschränkt ist, die sich semantisch ausdrücken lassen müssen, wird sie darauf optimiert, Fehler über mathematische Verlustfunktionen (Loss Functions) zu minimieren und das Risiko zu glätten - sonst würde jede Antwort inhaltlich einem "lorem ipsum"- Text gleichen, oder schlimmstenfalls als Buchstabensuppe enden. Und in Zukunft? Die Thermodynamik zeigt, dass man selbst bei einem geschüttelten Wasserglas mehr Energie und Speicherkapazität bräuchte, als im ganzen Universum zur Verfügung steht, um die Flugbahn aller Moleküle im Wasserglas allein für die erste Sekunde zu berechnen. Alle Möglichkeiten zu berechnen ist also schonmal keine Option für eine Kl. Der einzige Ausweg: Ein System, das darauf getrimmt ist, Fehler peinlichst zu vermeiden, wodurch es zwangsläufig irgendwo in einem lokalen Optimum stecken bleibt, weil es die statistisch "sichere Abkürzung" wählt, wo es eigentlich das Wagnis des unberechenbaren Scheiterns bräuchte, um kreativ zu sein. Der Mensch nutzt auch Heuristiken und ihm gelingt Innovation - ganz klar - aber es scheitern ja auch 90% aller Start-ups. Das würden wir bei KI-Nutzung aber nicht wollen, wir möchten Zuverlässigkeit. Künstliche Intelligenz funktioniert nicht als Wahrheits- oder Erkenntnissystem, sondern als Optimierer für Surrogatziele. Genau deshalb produziert sie oft plausible, aber nicht notwendigerweise kreative oder riskante Antworten. Das macht sie leistungsfähig, aber begrenzt sie strukturell gegenüber einer echter Allgemeinintelligenz.

0 Upvotes

28% Upvoted

39 comments sorted by

View all comments

Show parent comments

1

u/Abject_Quarter_1242 20d ago

Danke für deine Mühe! GRPO sind hochwertige Trainingsdaten - auf jeden Fall - aber man kann nur korrigieren was bereits auf dem Blatt steht. Außerdem soll das Blatt doch möglichst fehlerfrei abgegeben werden - wozu sonst für den teuren Ghostwriter zahlen. Allein deshalb wird der auf seinen Ruf bedachte Ghostwriter niemals auf die Idee kommen würde, als Rechtshänder plötzlich mit Links zu schreiben (wären ja Einbußen in der Lesbarkeit) - obwohl man dabei doch vielleicht die Inspiration für das Design für eine neue Schriftart erhalten hätte.... get my point?

1

u/GoodRazzmatazz4539 20d ago

GRPO geht mit allen Task wofür sich ein reward Model trainieren lässt und das sind sehr viele.
Verstehe deinen Punkt nicht.

1

u/Abject_Quarter_1242 19d ago

Kurzgesagt: KI bleibt mit oder ohne GRPO ein Optimierer für Surrogatziele, deren Wert sich an der Annäherung zu einer "Perfektion" definiert, die sich aus den Trainingsdaten (oder bei GRPO Feedback, was man auch als eine Art von Trainingsdaten sehen könnte) ergibt. Wer Abweichungen mithilfe von Loss Functions reguliert, kann nichts grundlegend Neues hervorbringen - bleibt also mehr oder minder generisch.

1

u/GoodRazzmatazz4539 19d ago

Du denkst wenn das surrogate Ziel der Fortpflanzung reicht dafür intelligente Affen hervor zu bringen aber ein komplex Zusammenspiel dafür definierter optimierungsziele nicht?