Mit der neuen Funktion „vertrauenswürdiger Kontakt“ erweitert OpenAI ChatGPT um einen weiteren Sicherheitsmechanismus, der in sensiblen Gesprächssituationen greifen soll. Nutzer können ab sofort eine Vertrauensperson hinterlegen, die im Ernstfall informiert wird, wenn das System potenziell kritische Inhalte erkennt. Hintergrund dieser Entwicklung ist unter anderem die Diskussion um sogenannte „Sycophancy“-Effekte, also die Tendenz von KI-Systemen, Aussagen von Nutzern zu bestätigen, statt sie kritisch zu hinterfragen. Eine Dynamik, die besonders dann greift, wenn Menschen KI in sensiblen oder psychisch belastenden Situationen einsetzen.
KI kann negative Gedanken bestärken: Das steckt hinter „Sycophancy“
Wortwörtlich übersetzt bedeutet „Sycophancy“ etwas wie „Schmeichelei“ bis hin zu „Speichellecken“. Gemeint ist damit eine unterwürfige Form von Zustimmung, um Anderen zu gefallen. In Bezug auf KI beschreibt es die Tendenz von Systemen, Nutzer übermässig zu bestätigen bzw. ihnen „nach dem Mund zu reden“, statt kritisch zu reagieren und genauer zu hinterfragen.
Das hängt damit zusammen, wie moderne KI-Modelle trainiert werden: Systeme wie ChatGPT werden darauf optimiert, hilfreich zu sein, angenehm zu kommunizieren und – vor allem – den Nutzer zufriedenzustellen. Darüber hinaus sind sie eher konfliktscheu. Eine KI lernt auf diese Weise ziemlich schnell: Zustimmung = Nutzer zufrieden = gute Antwort.
Das mag alles erstmal banal klingen, aber aus harmlosen Beispielen kann im Falle von psychischen Ausnahmesituationen eine hässliche Spirale werden:
User: „Alle hassen mich!“ → KI: „Das klingt wirklich so, als würden dich alle ungerecht behandeln.“ (Bestätigung)
User: „Es geht mir so schlecht.“ → „Das muss sehr belastend für dich sein.“ (Verstärker negativer Gefühle)
Es geht also längst nicht um alltägliches Geplauder mit Chatbots, sondern um Extremfälle, bei denen es zu einer gefährlichen Eskalation kommen könnte.
Was war der Auslöser für die neue Funktion „Trusted Contact“?
Die Eltern eines 16-Jährigen aus Kalifornien haben Klage gegen OpenAI erhoben. Sie warfen dem Unternehmen vor, ChatGPT habe ihren Sohn in seinen Suizidgedanken nicht nur bestärkt, sondern regelrecht Informationen zu möglichen Methoden geliefert. (Quelle: Los Angeles Times) Die Klageschrift bezeichnete ChatGPT sogar als „Suicide Coach“. (Quelle: Ars Technica)
OpenAI argumentierte daraufhin, der Jugendliche habe Schutzmechanismen innerhalb ChatGPT umgangen, Sicherheitsregeln verletzt. Davon abgesehen habe der Chatbot ihn mehrfach dazu aufgefordert, sich (professionelle) Hilfe zu suchen.
Der Fall ist juristisch noch nicht endgültig entschieden und es ist nicht bestätigt, dass OpenAI genau wegen dieser Angelegenheit das neue Feature einführt. Die Vermutung liegt jedoch nahe, denn zeitlich passt es ziemlich deutlich zusammen.
Unabhängig davon war der Fall aus Kalifornien zwar der bekannteste, aber kein Einzelfall. In einigen Quellen ist von mindestens sieben weiteren Klagen die Rede, in denen es Berichte über emotionale Abhängigkeit von Chatbots, deren Fehlverhalten bei psychotischen Episoden der Nutzer, problematische Bestärkung (Sycophancy) bis hin zu Suizidfällen gibt. (Quelle: TechCrunch)
Als Summe daraus ergibt es Sinn, dass OpenAI inzwischen sehr viel offensiver auf solche Themen reagiert als noch vor 1-2 Jahren.
Die neue Funktion „Vertrauenswürdiger Kontakt“ in ChatGPT
Mit der Funktion „vertrauenswürdiger Kontakt“ reagiert OpenAI auf die wachsende Debatte rund um den Umgang von KI-Systemen mit bzw. in sensiblen Gesprächssituationen. Ziel der neuen Sicherheitsfunktion ist es, Nutzer in potenziellen Krisensituationen nicht allein zu lassen, sondern eine zusätzliche menschliche Anlaufstelle einzubinden.
Nutzer können in ChatGPT eine Vertrauensperson hinterlegen, die im Notfall kontaktiert werden kann und darf. Erkennt das System Hinweise auf ein potenziell kritisches Gespräch (etwa im Zusammenhang mit Selbstverletzung oder akuter psychischer Belastung), soll das System eine Benachrichtigung an besagten Kontakt auslösen.
Offizielle Quelle: OpenAI „Vertrauenskontakt in ChatGPT eingeführt“: https://openai.com/de-DE/index/introducing-trusted-contact-in-chatgpt/
So richtest du „Vertrauenswürdiger Kontakt“ in ChatGPT ein
Die Einrichtung von „Vertrauenswürdiger Kontakt“ ist bewusst einfach gehalten und direkt in die Einstellungen von ChatGPT integriert. So funktioniert die Aktivierung:
- Einstellungen in ChatGPT öffnen (unten links über Klick auf das Profilbild)
- Menü-Eintrag „Vertrauenswürdiger Kontakt“ öffnen
- Über das +Symbol „Kontakt hinzufügen“
- Name, Telefonnummer & Emailadresse des Kontakts eingeben
- Häkchen setzen, um Datenverarbeitung zu diesem Zweck zu bestätigen
- Button „Einladung senden“
Voraussetzungen & Wissenswertes
- Beide Personen – also der Nutzer als auch die Person, die als vertrauenswürdiger Kontakt hinterlegt wird, müssen 18+ Jahre alt sein.
- Warum beide Ü18? Bei Funktionen, die eine Drittperson einbinden und potenziell sensible Informationen betreffen, entsteht ein rechtlich heikler Rahmen. Viele Länder setzen voraus, dass Einwilligungen in solche Datenflüsse voll geschäftsfähig erfolgen. Minderjährige sind aber nicht voll geschäftsfähig.
- Die Kontaktperson erhält eine Einladung (per Mail, SMS oder In-App) und muss sie innerhalb von 7 Tagen annehmen, ansonsten wird die Funktion nicht aktiviert.
- Sowohl der Nutzer als auch die Kontaktperson können die Funktion jederzeit wieder deaktivieren (Der Nutzer über seine Einstellungen, die Kontaktperson über das OpenAI-Hilfecenter).
- Im Falle einer Benachrichtigung werden keine Chatverläufe preisgegeben.