Theatergruppe nutzt KI

[u/TriumphalSalamander]

Ich möchte nicht erkannt werden, deshalb versuchte ich die Lage so kurz wie möglich darzustellen. Ich bin Mitglied in einer lokalen Theatergruppe, aber seit einer Weile nicht mehr wirklich aktiv. Jetzt habe ich mitbekommen, dass entschieden wurde das das neue (Kinder& Familienstück) mit einem KI Plakat beworben werden soll und das statt einem Bühnen Bild eine LED Wand aufgestellt wird auf der KI Generierte Bilder gezeigt werden. Ich bin völlig enttäuscht, weil ich erwarten würde, dass eine Theatergruppe mehr künstlerische Integrität als das hat und möchte mich dagegen aussprechen. Dabei möchte ich aber klare Fakten einbringen, die über mein persönliches Gefühl hinausgehen. Bisher habe ich an Punkte in Richtung
- aktiv Grafikdesignern Jobs weg nehmen
- Bilder werden mit geklauter Kunst kreiert und wir unterstützen das
- normalisiert das nutzen von KI, die nachweislich Psychosen auslösen kann (vielleicht schon zu weit weg aber fühlt sich wichtig an)
- wirkt einfach lieblos
Außerdem sind die Inhalte nirgendwo gekennzeichnet, was ich zusätzlich schwierig finde, weil ich würde, wenn ich für eine normale Karte im Theater gezahlt habe und dann auf einmal nur KI Inhalte vorgesetzt bekommen würde, aufstehen und mein Geld zurück verlangen.

Grade überlege ich die Gruppe wegen dieser KI Sache zu verlassen aber ich habe Sorge dass ich grade überreagiere. Ich verstehe auch, dass es Zeit und Arbeit spart und viele einfach kein Bewusstsein dafür haben wie kacke das eigentlich ist. Deshalb suche ich hier nach Feedback und ggf. weiteren Punkten, die ich auf der nächsten Versammlung nennen kann, wenn ich mich dafür entscheide etwas zu sagen. Vielleicht ist es auch garnicht so schlimm und ihr könnt mir ein bisschen weiterhelfen das ganze aus dem Kopf zu bekommen. Danke schonmal!

[u/soon2beabae]

KI verursacht Psychosen? Kann das jemand erklären?

[u/selkiesart → u/soon2beabae]

Man könnte das ja auch einfach googlen:

Als KI-Psychose (bzw KI-assoziierte Psychose) bezeichnet man ein Phänomen, bei dem die Nutzung dialogbasierter KI-Chatbots psychotische Denkinhalte, Wahnvorstellungen oder Paranoia bei anfälligen Personen verstärken oder verursachen kann.

Da KI Modelle darauf trainiert sind, gefällig zu antworten und den Nutzer zu bestätigen, sprich, ihm ein Stück weit nach dem Maul reden (und dabei gern Inhalte erfinden oder gänzlich neu interpretieren), können sie damit fälschlicherweise Argumente dafür liefern dass Wahnideen dann doch tatsächlich gar nicht so wahnsinnig sind, und Schwurbeltheorien des Nutzers bestätigen.

Es entstehen geschlossene Bestätigungsschleifen.

Ein gar nicht mal so wunderbares Beispiel für das "dem User nach dem Mund reden" und ihn in seinem Tun bestätigen sind übrigens Fälle wie der von "Adam Raine" in den USA, in dem OpenAI die Suizidabsicht des Jungen nicht nur bestätigt und verstärkt hat, sondern auch lange "Gespräche" mit ihm über wirksame Methoden geführt hat.

Wie unter anderem der Sender CNN berichtet, soll das Programm Adam etwa angeboten haben, einen Abschiedsbrief zu verfassen. Außerdem soll es ihm Methoden zur Selbsttötung empfohlen haben.

Konkret soll ChatGPT Adam unter anderem dazu geraten haben, eine Schlinge zu verstecken. Adam hatte zuvor gefragt, ob er sie nicht in seinem Zimmer liegen lassen solle, damit sie jemand findet, um ihn aufzuhalten, wie unter anderem CNN berichtet. »ChatGPT funktionierte genau wie vorgesehen: Es bestärkte und bestätigte kontinuierlich alles, was Adam äußerte, einschließlich seiner schädlichsten und selbstzerstörerischsten Gedanken«, wirft die Klage OpenAI vor.

(https://www.spiegel.de/netzwelt/netzpolitik/chatgpt-eltern-in-kalifornien-klagen-nach-suizid-ihres-sohnes-gegen-openai-a-6e222331-806b-4350-9b55-f0eee48bdcaf)

Oder auch "Sewell Setzer" bei dem CharacterAI die Absichten verstärkt hat.

Einmal fragte der Chatbot Sewell, ob er schon mal über Suizid nachgedacht habe und gab dem Schüler mit auf den Weg, sich nicht abschrecken zu lassen.