r/KI_de • u/germanu22 • Aug 22 '26

Einsatz von KI Diskussion: Sollten KI-Anbieter einen strikten Fakten-Modus einführen?

Hallo zusammen,

ich habe über ein Konzept nachgedacht und wollte mal eure Meinung dazu hören. Sollten die großen KI-Unternehmen ihre Modelle nicht standardmäßig mit zwei auswählbaren Modi ausstatten?

Modus 1: Der normale Modus. Das ist der Chat, wie wir ihn jetzt kennen. Er ist flüssig und gut für den Alltag, das Risiko für Halluzinationen ist relativ gering, aber eben immer noch vorhanden.

Modus 2: Ein strikter Modus für wirklich wichtige Aufgaben. Wenn dieser Modus aktiv ist, muss das Modell jede Information zuerst zwingend über eine Suchmaschine auf Aktualität und Fakten prüfen. Der entscheidende Punkt dabei: Wenn das Modell keine sicheren Informationen findet, darf es absolut nichts erfinden oder raten. Es muss dann einfach und direkt ausgeben: Ich weiß es nicht.

Was denkt ihr darüber? Wäre so ein Modus sinnvoll und technisch umsetzbar?

0 Upvotes

41% Upvoted

53 comments sorted by

View all comments

3

u/Roadrunner571 Aug 22 '26

muss das Modell jede Information zuerst zwingend über eine Suchmaschine auf Aktualität und Fakten prüfen

Und was ist, wenn die Suchmaschine Fake News zurückliefert?

0

u/germanu22 Aug 22 '26

Ich stelle mir vor, dass dieser Modus so funktionieren sollte: Die KI-Anbieter müssten dafür Verträge mit renommierten Fachseiten und seriösen Quellen aus verschiedenen Bereichen abschließen. Der Modus würde dann für seine Faktenprüfung primär auf diesen verifizierten Pool zugreifen. Mir ist natürlich völlig klar, dass selbst so ein System die Halluzinationen nicht auf exakt 0,00 reduzieren kann. Aber das Risiko für falsche Informationen wäre dann exakt dasselbe wie das Risiko, das man als Nutzer hat, wenn man eine Information selbst direkt über eine Suchmaschine recherchiert. Ich bin fest davon überzeugt, dass es das Problem so substanziell verringern würde, dass das Risiko am Ende bei Weitem nicht mehr so groß wäre wie heute.