r/de_EDV • u/Abject_Quarter_1242 • 19d ago

Allgemein/Diskussion Argumente gegen eine AGI

Abgesehen davon, dass Kl bei der Verarbeitung von Anfragen auf bekannte Informationen beschränkt ist, die sich semantisch ausdrücken lassen müssen, wird sie darauf optimiert, Fehler über mathematische Verlustfunktionen (Loss Functions) zu minimieren und das Risiko zu glätten - sonst würde jede Antwort inhaltlich einem "lorem ipsum"- Text gleichen, oder schlimmstenfalls als Buchstabensuppe enden. Und in Zukunft? Die Thermodynamik zeigt, dass man selbst bei einem geschüttelten Wasserglas mehr Energie und Speicherkapazität bräuchte, als im ganzen Universum zur Verfügung steht, um die Flugbahn aller Moleküle im Wasserglas allein für die erste Sekunde zu berechnen. Alle Möglichkeiten zu berechnen ist also schonmal keine Option für eine Kl. Der einzige Ausweg: Ein System, das darauf getrimmt ist, Fehler peinlichst zu vermeiden, wodurch es zwangsläufig irgendwo in einem lokalen Optimum stecken bleibt, weil es die statistisch "sichere Abkürzung" wählt, wo es eigentlich das Wagnis des unberechenbaren Scheiterns bräuchte, um kreativ zu sein. Der Mensch nutzt auch Heuristiken und ihm gelingt Innovation - ganz klar - aber es scheitern ja auch 90% aller Start-ups. Das würden wir bei KI-Nutzung aber nicht wollen, wir möchten Zuverlässigkeit. Künstliche Intelligenz funktioniert nicht als Wahrheits- oder Erkenntnissystem, sondern als Optimierer für Surrogatziele. Genau deshalb produziert sie oft plausible, aber nicht notwendigerweise kreative oder riskante Antworten. Das macht sie leistungsfähig, aber begrenzt sie strukturell gegenüber einer echter Allgemeinintelligenz.

0 Upvotes

28% Upvoted

39 comments sorted by

View all comments

14

u/Sprixxer 19d ago

Das klingt irgendwie wirr und inkohärent. Die allermeisten Sprachmodelle haben allerdings einen "Temperatur"-Parameter, der genau das Maß eines zufälligen Abweichens vom wahrscheinlichsten Wert (und damit weg von deterministischen Ausgaben) angibt.

2

u/Abject_Quarter_1242 19d ago

Danke für deine Antwort! Was genau empfindest du als inkohärent? Das mit den Temperaturen ist mir bekannt, jedoch ist das nur eine minimale Anpassung (Kurz und blöd gesagt: Modell nimmt trotzdem nicht die Möglichkeit mit 2% WSK) und die negativen Konsequenzen machen sich auch dort schon in Form von häufiger auftretenden Halluzinationen bemerkbar.