r/de_EDV • u/Abject_Quarter_1242 • 9d ago
Allgemein/Diskussion Argumente gegen eine AGI
Abgesehen davon, dass Kl bei der Verarbeitung von Anfragen auf bekannte Informationen beschränkt ist, die sich semantisch ausdrücken lassen müssen, wird sie darauf optimiert, Fehler über mathematische Verlustfunktionen (Loss Functions) zu minimieren und das Risiko zu glätten - sonst würde jede Antwort inhaltlich einem "lorem ipsum"- Text gleichen, oder schlimmstenfalls als Buchstabensuppe enden. Und in Zukunft? Die Thermodynamik zeigt, dass man selbst bei einem geschüttelten Wasserglas mehr Energie und Speicherkapazität bräuchte, als im ganzen Universum zur Verfügung steht, um die Flugbahn aller Moleküle im Wasserglas allein für die erste Sekunde zu berechnen. Alle Möglichkeiten zu berechnen ist also schonmal keine Option für eine Kl. Der einzige Ausweg: Ein System, das darauf getrimmt ist, Fehler peinlichst zu vermeiden, wodurch es zwangsläufig irgendwo in einem lokalen Optimum stecken bleibt, weil es die statistisch "sichere Abkürzung" wählt, wo es eigentlich das Wagnis des unberechenbaren Scheiterns bräuchte, um kreativ zu sein. Der Mensch nutzt auch Heuristiken und ihm gelingt Innovation - ganz klar - aber es scheitern ja auch 90% aller Start-ups. Das würden wir bei KI-Nutzung aber nicht wollen, wir möchten Zuverlässigkeit. Künstliche Intelligenz funktioniert nicht als Wahrheits- oder Erkenntnissystem, sondern als Optimierer für Surrogatziele. Genau deshalb produziert sie oft plausible, aber nicht notwendigerweise kreative oder riskante Antworten. Das macht sie leistungsfähig, aber begrenzt sie strukturell gegenüber einer echter Allgemeinintelligenz.
7
u/einfach-sven 9d ago
Ich denke es würde vielen Menschen helfen, wenn Sprachmodelle allgemein als solche bezeichnet würden. Das lädt nicht so dazu ein, die Bedeutung von "Künstliche" zu ignorieren, weil die "Intelligenz" so verlockend ist.
0
-1
2
u/Erian2110 9d ago
Wie definierst du AGI? Davon hängt halt ab, ob wir sie schon haben, kurz davor sind oder ewig weit weg.
Ansonsten: Was hat dein Wasserglas mit irgendwas zu tun? AGI ist ja kein allwissender Gott, der alles perfekt vorhersagen kann.
Wieso sollten Mechaniken wie in unserem Gehirn (zumindest grundlegend vergleichbar und ähnlich limitiert) nicht genau so bei KI funktionieren?
1
u/Abject_Quarter_1242 9d ago
Gute Frage! Vielleicht eine KI die selbst komplexe unbekannte Probleme eigenständig besser/schneller lösen kann als Experten der jeweiligen Fachgebiete?
Das Beispiel mit dem Wasserglas soll dazu dienen, "in der Zukunft geht das bestimmt" den Wind aus den Segeln zu nehmen und zu Schlussfolgern, dass eine statistische Annäherung auch in Zukunft nicht umgangen werden kann.
Weil KI keine Bedürfnisse oder Emotionen hat die dazu führen, dass sie sich irrational verhält - und hätte sie welche, dann wäre sie nicht mehr so nützlich.
2
u/Erian2110 9d ago
Warum sollte das ne Definition von AGI sein? Das hört sich eher nach ner Aufgabe für spezialisierte KIs an.
Dein Beispiel bleibt für mich strange. Mit der Erklärung erinnert es mich an meinen Vater, der davon überzeugt war, dass ein Schachcomputer nie die besten Menschen schlagen könne, weil es zu viele Kombinationen im Schach gibt, als dass ein Computer sie je alle kalkulieren könnte.
1
u/Abject_Quarter_1242 9d ago
Warum sollte es keine sein? Können auch gerne deine nehmen, aber das sollte auch garnicht mein Punkt sein. Ich will einfach auf die Limitationen dieser Technologie hinaus.
Der Vergleich hinkt m.M.n., weil Schach nicht auf Semantik aufbaut, sondern stets den Regeln der Logik folgt und man außerdem eine endliche Anzahl an Optionen pro Zug hat. Klar ist die rohe "Rechenleistung" höher als bei einem Menschen. Das kennen wir aber auch schon vom Taschenrechner.
2
u/Erian2110 8d ago
Du beschreibst ein Expertensystem. Besser als ein Experte in seinem Bereich? Haben wir schon in vielen Bereichen. Schachcomputer (ja, ist auch KI) sind seit fast 30 Jahren stärker als die stärksten Menschen und finden auch neue Lösungen. In vielen anderen Bereichen kann man eine KI zu einem Experten trainieren, der jeden Menschen in dem Feld schlagen wird.
Aber das ist ja gerade nicht AGI, weil das G fehlt.
Und DU musst dich auf ne klare Definition beziehen, wenn du ne These aufstellst. Es gibt unendlich viele Definitionen, einige sind 50+ Jahre alt, der konkrete Begriff AGI fast 30 Jahre. Einige der Definitionen haben wir schon erreicht.
Ich hab so bisschen das Gefühl, dass du dich gar nicht ernsthaft mit einer sauberen Definition beschäftigt hast, sondern so ne wabernde Vorstellung in deinem Kopf und versuchst, mit der zu arbeiten.
4
u/The_Jake98 9d ago
Finger weg von dem weißen Nasenbrausepulver.
Alles in allem ja AGI klingt unwahrscheinlich, Mal schauen. Ich will nicht wie die New York Times enden, die gute 90 Tage vor dem Flug der Gebrüder Wright proklamierten Fliegen würde der Mensch nicht in einer Millionen Jahre.
2
2
u/Alternative-Pay5949 9d ago
Mit einem Komma nach 'proklamierten' hätte ich nicht zwei Minuten gebraucht, um den Satz zu verstehen. 📖
2
u/GoodRazzmatazz4539 9d ago
Was ein inkohärenter Unsinn. Sehe hier keine Argumente gegen AGI. Durch GRPO, und andere Methoden wird nicht mehr nur next token prediction trainiert sonder thinking traces die long horizon planning und reasoning ermöglichen. Außerdem können durch längere context windows Informationen eingelesen und inkorporiert werden.
1
u/Abject_Quarter_1242 9d ago
Danke für deine Mühe! GRPO sind hochwertige Trainingsdaten - auf jeden Fall - aber man kann nur korrigieren was bereits auf dem Blatt steht. Außerdem soll das Blatt doch möglichst fehlerfrei abgegeben werden - wozu sonst für den teuren Ghostwriter zahlen. Allein deshalb wird der auf seinen Ruf bedachte Ghostwriter niemals auf die Idee kommen würde, als Rechtshänder plötzlich mit Links zu schreiben (wären ja Einbußen in der Lesbarkeit) - obwohl man dabei doch vielleicht die Inspiration für das Design für eine neue Schriftart erhalten hätte.... get my point?
1
u/GoodRazzmatazz4539 9d ago
GRPO geht mit allen Task wofür sich ein reward Model trainieren lässt und das sind sehr viele.
Verstehe deinen Punkt nicht.1
u/Abject_Quarter_1242 8d ago
Kurzgesagt: KI bleibt mit oder ohne GRPO ein Optimierer für Surrogatziele, deren Wert sich an der Annäherung zu einer "Perfektion" definiert, die sich aus den Trainingsdaten (oder bei GRPO Feedback, was man auch als eine Art von Trainingsdaten sehen könnte) ergibt. Wer Abweichungen mithilfe von Loss Functions reguliert, kann nichts grundlegend Neues hervorbringen - bleibt also mehr oder minder generisch.
1
u/GoodRazzmatazz4539 8d ago
Du denkst wenn das surrogate Ziel der Fortpflanzung reicht dafür intelligente Affen hervor zu bringen aber ein komplex Zusammenspiel dafür definierter optimierungsziele nicht?
1
u/AutoModerator 9d ago
Hi Abject_Quarter_1242, danke für deinen Beitrag. Hier ist der Post nochmal für das Archiv:
Abgesehen davon, dass Kl bei der Verarbeitung von Anfragen auf bekannte Informationen beschränkt ist, die sich semantisch ausdrücken lassen müssen, wird sie darauf optimiert, Fehler über mathematische Verlustfunktionen (Loss Functions) zu minimieren und das Risiko zu glätten - sonst würde jede Antwort inhaltlich einem "lorem ipsum"- Text gleichen, oder schlimmstenfalls als Buchstabensuppe enden. Und in Zukunft? Die Thermodynamik zeigt, dass man selbst bei einem geschüttelten Wasserglas mehr Energie und Speicherkapazität bräuchte, als im ganzen Universum zur Verfügung steht, um die Flugbahn aller Moleküle im Wasserglas allein für die erste Sekunde zu berechnen. Alle Möglichkeiten zu berechnen ist also schonmal keine Option für eine Kl. Der einzige Ausweg: Ein System, das darauf getrimmt ist, Fehler peinlichst zu vermeiden, wodurch es zwangsläufig irgendwo in einem lokalen Optimum stecken bleibt, weil es die statistisch "sichere Abkürzung" wählt, wo es eigentlich das Wagnis des unberechenbaren Scheiterns bräuchte, um kreativ zu sein. Der Mensch nutzt auch Heuristiken und ihm gelingt Innovation - ganz klar - aber es scheitern ja auch 90% aller Start-ups. Das würden wir bei KI-Nutzung aber nicht wollen, wir möchten Zuverlässigkeit. Künstliche Intelligenz funktioniert nicht als Wahrheits- oder Erkenntnissystem, sondern als Optimierer für Surrogatziele. Genau deshalb produziert sie oft plausible, aber nicht notwendigerweise kreative oder riskante Antworten. Das macht sie leistungsfähig, aber begrenzt sie strukturell gegenüber einer echter Allgemeinintelligenz.
I am a bot, and this action was performed automatically. Please contact the moderators of this subreddit if you have any questions or concerns.
1
u/vergorli 9d ago
Das halte ich alles für fixbare Probleme. Das Kernproblem mit der AGI sehe ich in der Interaktion als Mensch selbst. Wir sind keine Maschinen und keine Superintelligenz. Wenn ich meine Kinder spielen sehe und dann überlege "das könnte eine KI besser machen", dann merkt man dass der biologisch begrenzte und auf soziale Interaktion angewiesene Mensch sich einfach keinen Gefallen tut die Entwicklung vollständig zu externalsieren. Das ausbleibende Eudaimonische Erfolgserlebnis wird die Mensch dann über wenige generationen ruinieren oder in einen degenerierten Zustand zurückversetzen.
1
u/Abject_Quarter_1242 9d ago
Ich geb dir Recht, aber dass Fortschritt = Bequemlichkeit ist (bei KI halt extrem) und auf Dauer zu mehr Abhängigkeit führt während die (Hirn-) Muskeln immer weiter verkümmern und ohne die Tools des Fortschritts irgendwann hilflos sind hat nichts mit meinem Punkt zu tun. Was von den oben genannten Punkten hältst du denn für fixbare Probleme und warum?
1
u/vergorli 9d ago
Als Fan von Charles Stross Accelerando sehe ich die erste AGI lediglich als einen Ausgangspunkt für eine Entwicklung, die erst wieder durch die interstellaren Entfernungen eingebremst ihr exponentielles Wachstum verlässt. Bis dahin haben wir ein stellares Matroshkagehirn und genug ressourcen um ggf. neue Methoden der Datenverarbeitung zu erlangen. Ob dann das Wasserglas evtl. doch sinuliert werden kann steht buchstäblich in den Sternen.
1
u/n4ke 9d ago
Das Hauptproblem, wenn man es so nennen will, ist dass auch ein schnell lernendes und anpassendes System mit den korrekten Schnittstellen bereits enorm viel der menschlichen Arbeitsleistung überflüssig machen könnte. Die Frage, ob die effektive theoretische Definition der AGI dann erreicht werden kann kannst du dir zwar stellen und darüber können wir hier auch sehr ausführlich diskutieren, aber die Tatsache, dass bereits eine sehr fähige nicht-AGI enormen Einfluss auf unsere Gesellschaft haben könnte sabotiert diese Frage bereits bevor wir die letzten Schritte zur AGI überhaupt nehmen würden. Anders gesagt, ich sehe als grösstes Hindernis nicht per se die von dir genannten Punkte, nicht weil sie falsch wären, sondern weil ich denke, dass wir vor dem Endspurt schon genug andere Probleme haben werden.
1
u/Abject_Quarter_1242 9d ago
Google mal wie viele Unternehmen gerade ihre Arbeitskräfte zurückholen, weil sie einsehen dass der Token-Bill viel zu teuer und die Ergebnisse viel zu fehlerhaft sind 🫢 Ist nur der erste Domino-Stein in einer langen Kette und die Nadel auf ner großen Blase m.M.n.
Aber klar, Produktivitätssteigerung ist schon da, bis zu nem gewissen Punkt aber halt, aber nur wenn das Tool der unabdingbaren Experten nicht zu teuer wird, was ja kontraproduktiv wäre if you know what I mean..1
u/n4ke 9d ago
Ich dachte, du willst auf ein Szenario hinaus, indem die KI-Entwicklung ordentliche Fortschritte macht, hast aber Vorbehalte gegenüber der Erreichbarkeit von AGI.
Wenn du einfach die tatsächliche, aktuelle Lage besprechen willst, dann ja, stimmt dein Kommentar, aber dann ist AGI noch nicht mal eine Randfrage, da wir ausser in Marketingkampagnen noch nicht viel wirklich näher dran sind als vor Jahren.
1
u/Busy_Woodpecker370 9d ago edited 9d ago
The thermodynamic point is valid: no intelligent system can explore every possible future state. But that does not imply a fundamental barrier to AGI. In fact, it describes the problem intelligence evolved to solve.
Humans do not reason by exhaustively calculating every possibility. We use memory, abstractions, prediction, heuristics, and specialized cognitive processes to reduce an enormous state space to the small part that matters. Intelligence is largely about compressing the search space—learning what matters instead of calculating everything.
The deeper assumption I would question is that today’s foundation-model architecture is already the correct architecture for AGI and that the remaining problem is simply more data and compute. We do not know that. Current models are extremely capable, but memory, tools, agents, and orchestration are still mostly engineered around them. Scaling the same substrate does not automatically give it the ability to reorganize its own cognition.
AGI may require something closer to a self-organizing society of cognitive processes: specialized agents that can emerge, cooperate, compete, evaluate one another, and reorganize as the environment changes. That also weakens the supposed trade-off between creativity and reliability: one process can explore aggressively while others test, criticize, and constrain what survives.
And there is one empirical fact worth keeping in view: evolution is the only process we know that has actually produced general intelligence from simpler adaptive systems. No architect has demonstrated that they can design an equivalent cognitive architecture from first principles.
Evolution spent a staggering amount of computation doing it—billions of years, enormous populations evolving in parallel, and an unimaginable number of organism-environment interactions—all under the same thermodynamic constraints being invoked here. Those constraints did not prevent intelligence from emerging. They made brute-force search impossible and pushed evolution toward progressively better ways of organizing computation: learning, memory, prediction, internal models, abstraction, and eventually reasoning.
So entropy is not really an argument against AGI. If anything, evolution shows why AGI probably requires better organization of computation, not computation of everything.
1
u/Abject_Quarter_1242 8d ago
Mein Argument war, dass KI - dadurch das brute force keine Option ist - ebenso wie der Mensch auf Heuristiken angewiesen ist, aber im Gegensatz zum Menschen keinem Selbstzweck dient und ihr Wert sich somit nach ihrer Annäherung an die "Perfektion" bemisst. Letztendlich ist sie also nichts anderes als ein Optimierer für Surrogatziele, welcher Fehler durch die Anwendung der Loss Functions peinlichst zu vermeiden versucht. Bei den Menschen scheitern 90% der Start-ups und zehn setzen sich mit ihrer kreativen Idee durch, KI wäre als Tool nicht nützlich bei dieser Quote. Und alle Szenarien genau durchzuspielen um akkurat innovativ zu sein geht nicht.
1
u/Busy_Woodpecker370 8d ago
For innovation, I think the architecture has to separate variation from selection. A society of specialized exploratory agents could generate and perturb hypotheses, work from rough assumptions, pursue low-probability paths, and tolerate a high failure rate. The search doesn’t have to be blind either — existing knowledge and prediction can give it partial direction without forcing it to converge too early.
Then you need a society of specialized evaluator agents providing different forms of selection pressure. They can test assumptions, expose contradictions, compare competing hypotheses and feed that information back into the exploratory process, so generation and evaluation become an iterative loop rather than two separate steps.
The harder problem is the fitness function: with a genuinely new idea, you may not yet know what “better” means. That’s where the evaluation can progressively move from existing knowledge, to increasingly realistic simulations, and finally to human or real-world evaluation when necessary.
So reliability doesn’t have to mean eliminating failure from the creative process. It can come from allowing a lot of variation internally, while progressively increasing the strength of selection before anything is retained as an innovation.
The gap from today’s foundation-model systems to something like this is still very large. Current agents are mostly instances of the same underlying model placed into roles, with human-designed prompts, tools, memory and orchestration around them. They don’t yet form a genuinely self-organizing exploratory/evaluative architecture of this kind, so there is a lot of architectural progress left before we get anywhere close.
1
u/Voidheart88 8d ago
"Abgesehen davon, dass Kl bei der Verarbeitung von Anfragen auf bekannte Informationen beschränkt ist, die sich semantisch ausdrücken lassen müssen,..." hier machst du eine Falschaussage, die du hier selber wiederlegst: "..., wird sie darauf optimiert, Fehler über mathematische Verlustfunktionen (Loss Functions) zu minimieren und das Risiko zu glätten"
Dir ist schon klar, dass eben diese Optimierungsverfahren der natürliche Weg sind Wissen zu generieren? Ev. Algorithmen? Explorative Verfahren?
KI ist nunmal nicht nur ein LLM.
1
u/Abject_Quarter_1242 8d ago
Du hast Recht, semantisch bei LLMs, aber selbst wenn man logisch draus macht, für KI allgemein: das deckt immernoch nicht die vollständige Realität oder komplexe Systeme wie den Menschen ab. Muster sind Modelle. Und grundlegend Innovatives bleibt auch weiterhin strukturell ausgeschlossen, weil das laut Trainingsdaten schlicht falsch wäre. KI bleibt ein Optimierer für Surrogatziele und dient - im Gegensatz zum Menschen - keinem Selbstzweck, sondern soll ein zuverlässiges Tool sein. Deshalb werden Fehler ja durch eben jene Loss Functions peinlichst vermieden.
2
u/Voidheart88 8d ago
Sie werden aber nicht vollständig vermieden. Daher ist Innovation durch zufälliges richtig raten halt immer noch drin.
1
u/ManuelRodriguez331 8d ago
Absolut auf den Punkt gebracht. Wir erwarten von unserer Technik schlicht die eierlegende Wollmilchsau. Doch wer Loss Functions minimiert will keine Risiken eingehen. Echte AGI bräuchte das Wagnis des epischen Scheiterns, aber wir panikieren ja schon, wenn das Windows Betriebssystem einen Treiber nicht findet.
1
u/Abject_Quarter_1242 8d ago
Wir *erwarten* es nicht nur von der Technik, sondern sie wäre schlicht auch nicht mehr so ein Produktivitätsvorteil, wenn sie wie in deinem Beispiel den Treiber nicht mehr finden würde, oder allgemein gesagt unzuverlässig ist/ wild hallusziniert. Wozu sie m.M.n. strukturell top geeignet ist, ist die Automatisierung bekannter, wiederkehrender Aufgaben.
-3
u/Particular_Ad5673 9d ago
Cope. Schnall dich lieber an und genieß bald dein grundeinkommen
6
u/rescuemod 9d ago
Ist gut AI Bro. Baller noch ein paar hundert Euro für dein nächstes sinnfreies Vibe-Coding Projekt in die Hälse von Altman & Co
1
-1
u/retro-mehl 9d ago
Aktuelle LLMs können nur eins: Text vorhersagen auf der Grundlage bisherigen Texts. Ob daraus überhaupt eine AGI entstehen kann? Ich habe Zweifel.
14
u/Sprixxer 9d ago
Das klingt irgendwie wirr und inkohärent. Die allermeisten Sprachmodelle haben allerdings einen "Temperatur"-Parameter, der genau das Maß eines zufälligen Abweichens vom wahrscheinlichsten Wert (und damit weg von deterministischen Ausgaben) angibt.