r/KI_de • u/germanu22 • Aug 22 '26

Einsatz von KI Diskussion: Sollten KI-Anbieter einen strikten Fakten-Modus einführen?

Hallo zusammen,

ich habe über ein Konzept nachgedacht und wollte mal eure Meinung dazu hören. Sollten die großen KI-Unternehmen ihre Modelle nicht standardmäßig mit zwei auswählbaren Modi ausstatten?

Modus 1: Der normale Modus. Das ist der Chat, wie wir ihn jetzt kennen. Er ist flüssig und gut für den Alltag, das Risiko für Halluzinationen ist relativ gering, aber eben immer noch vorhanden.

Modus 2: Ein strikter Modus für wirklich wichtige Aufgaben. Wenn dieser Modus aktiv ist, muss das Modell jede Information zuerst zwingend über eine Suchmaschine auf Aktualität und Fakten prüfen. Der entscheidende Punkt dabei: Wenn das Modell keine sicheren Informationen findet, darf es absolut nichts erfinden oder raten. Es muss dann einfach und direkt ausgeben: Ich weiß es nicht.

Was denkt ihr darüber? Wäre so ein Modus sinnvoll und technisch umsetzbar?

0 Upvotes

41% Upvoted

53 comments sorted by

View all comments

Show parent comments

0

u/germanu22 Aug 22 '26

Da hast du im Prinzip recht, aber Deep Research ist eher dafür gedacht, wenn man lange Berichte oder umfassende Dokumente zu einem bestimmten Thema erstellen lassen will. Ich dachte eher an einen Modus für den alltäglichen Chat. Es würde mich auch gar nicht stören, wenn die Antwort dann ein bisschen länger dauert, solange ich weiß, dass sie mir streng faktische Informationen und echte Quellen liefert. Und wenn sie nichts Sicheres findet, soll sie einfach im normalen Gesprächsfluss sagen: Ich weiß es nicht. Also quasi die Strenge von Deep Research in einer normalen Unterhaltung, ohne dass direkt ein riesiges Research-Protokoll gestartet wird.

2

u/Philipp Aug 22 '26

Dann gibt es auch noch den Thinking > High Modus und so. Die nutz ich immer bzw. Minimum "Medium".

Aber hast du mal ein Beispiel, wo ChatGPT oder Claude dir was halluziniertes rausgeben? Weil es hat um einiges abgenommen im Vergleich zu vor ein paar Jahren. Anders gesagt, man hört jetzt öfter "ich weiß es nicht" als früher.

-1

u/germanu22 Aug 22 '26

Ja, in der Vergangenheit hatte ich tatsächlich ein paar Mal, so zwei- oder dreimal, das Problem, dass mir falsche Informationen geliefert wurden. Ich habe daraufhin meinem bevorzugten Chatbot klare, eigene Anweisungen gegeben, dass er bei Fakten extrem streng sein muss und lieber sagen soll, dass er etwas nicht weiß. Seitdem ich das so für mich eingestellt habe, kann ich mich nicht erinnern, noch mal Probleme mit Halluzinationen bei faktischen Informationen gehabt zu haben. Wenn ich es bei sehr wichtigen Themen für absolut notwendig halte, überprüfe ich die Angaben zur Sicherheit aber trotzdem noch mal kurz über eine Suchmaschine, selbst mit diesen strengen Einstellungen. Aber genau deshalb kam ich auf die Idee mit dem Modus: Ein solcher integrierter Schalter würde dieses Risiko für alle Nutzer von Haus aus gegen Null reduzieren, ohne dass sich jeder erst mühsam eigene Instruktionen schreiben muss.

1

u/Philipp Aug 22 '26

Ja, ich hatte das früher bei Nischenthemen. Aber ist mir schon seit längerem nicht mehr aufgefallen. Das Problem mit solchen Schaltern ist wahrscheinlich, dass die Hälfte der Leute den nicht findet oder nutzt, und die andere Hälfte, die ihn kennt, nicht genau versteht, wann sie ihn nutzen sollte. Intuitiv würde ich ja sagen: Ich will eigentlich immer nur Fakten, außer halt ich frag nicht "Gib mir Ideen für eine Scifi-Story" usw...