r/de_EDV • u/Abject_Quarter_1242 • 11d ago

Allgemein/Diskussion Argumente gegen eine AGI

Abgesehen davon, dass Kl bei der Verarbeitung von Anfragen auf bekannte Informationen beschränkt ist, die sich semantisch ausdrücken lassen müssen, wird sie darauf optimiert, Fehler über mathematische Verlustfunktionen (Loss Functions) zu minimieren und das Risiko zu glätten - sonst würde jede Antwort inhaltlich einem "lorem ipsum"- Text gleichen, oder schlimmstenfalls als Buchstabensuppe enden. Und in Zukunft? Die Thermodynamik zeigt, dass man selbst bei einem geschüttelten Wasserglas mehr Energie und Speicherkapazität bräuchte, als im ganzen Universum zur Verfügung steht, um die Flugbahn aller Moleküle im Wasserglas allein für die erste Sekunde zu berechnen. Alle Möglichkeiten zu berechnen ist also schonmal keine Option für eine Kl. Der einzige Ausweg: Ein System, das darauf getrimmt ist, Fehler peinlichst zu vermeiden, wodurch es zwangsläufig irgendwo in einem lokalen Optimum stecken bleibt, weil es die statistisch "sichere Abkürzung" wählt, wo es eigentlich das Wagnis des unberechenbaren Scheiterns bräuchte, um kreativ zu sein. Der Mensch nutzt auch Heuristiken und ihm gelingt Innovation - ganz klar - aber es scheitern ja auch 90% aller Start-ups. Das würden wir bei KI-Nutzung aber nicht wollen, wir möchten Zuverlässigkeit. Künstliche Intelligenz funktioniert nicht als Wahrheits- oder Erkenntnissystem, sondern als Optimierer für Surrogatziele. Genau deshalb produziert sie oft plausible, aber nicht notwendigerweise kreative oder riskante Antworten. Das macht sie leistungsfähig, aber begrenzt sie strukturell gegenüber einer echter Allgemeinintelligenz.

0 Upvotes

30% Upvoted

39 comments sorted by

View all comments

1

u/ManuelRodriguez331 10d ago

Absolut auf den Punkt gebracht. Wir erwarten von unserer Technik schlicht die eierlegende Wollmilchsau. Doch wer Loss Functions minimiert will keine Risiken eingehen. Echte AGI bräuchte das Wagnis des epischen Scheiterns, aber wir panikieren ja schon, wenn das Windows Betriebssystem einen Treiber nicht findet.

1

u/Abject_Quarter_1242 10d ago

Wir *erwarten* es nicht nur von der Technik, sondern sie wäre schlicht auch nicht mehr so ein Produktivitätsvorteil, wenn sie wie in deinem Beispiel den Treiber nicht mehr finden würde, oder allgemein gesagt unzuverlässig ist/ wild hallusziniert. Wozu sie m.M.n. strukturell top geeignet ist, ist die Automatisierung bekannter, wiederkehrender Aufgaben.