Sicherheit und Hilfe in Krisen

Alle Figuren auf ChewIt sind erfunden, und jede Antwort schreibt ein KI-Modell, kein Mensch. Im Chat steht auf dem Bild der Figur ein „AI“-Hinweis, und wenn du eine Figur ernsthaft fragst, ob sie eine KI ist, sagt sie es dir.

Wenn eine deiner Nachrichten darauf hindeutet, dass du an Suizid denkst oder daran, dich selbst zu verletzen, antwortet die Figur nicht auf diese Nachricht. Stattdessen zeigt ChewIt einen Hinweis mit Krisentelefonen für dein Land (zum Beispiel die TelefonSeelsorge unter 0800 111 0 111 in Deutschland oder die 988 in den USA und Kanada), deine örtliche Notrufnummer und einen Link zu Befrienders Worldwide (befrienders.org) für andere Länder. Der Hinweis kostet kein Gum, und du kannst danach weiterchatten.

Wir erkennen diese Anzeichen mit einer Liste von Formulierungen und einer automatischen Sicherheitsprüfung durch unseren KI-Anbieter OpenAI. Beides ist nicht perfekt: Es kann übersehen, was du meinst, oder eine Geschichte irrtümlich markieren. Wenn du Hilfe brauchst, wende dich bitte direkt an ein Krisentelefon – du musst nicht auf einen Hinweis warten.

Die Figuren sind außerdem angewiesen, aus der Geschichte herauszutreten, wenn du davon sprichst, sterben oder dich verletzen zu wollen, dich zu ermutigen, dir Hilfe zu holen, und niemals Wege zur Selbstverletzung zu beschreiben.

Ruf deine örtliche Notrufnummer an. ChewIt ist kein Krisendienst, ist nicht rund um die Uhr besetzt und kann keine Rettungsdienste für dich verständigen.

• •Du musst mindestens 13 Jahre alt sein, um ChewIt zu nutzen. Bei der Registrierung fragen wir nach Geburtsjahr und -monat, und für Jüngere legen wir kein Konto an.
• •Wenn du unter 18 bist, brauchst du die Erlaubnis deiner Eltern oder Erziehungsberechtigten. Chats mit KI-Figuren sind für manche Minderjährige möglicherweise nicht geeignet.
• •Wenn du unter 18 bist, erinnert dich der Chat mindestens alle drei Stunden daran, eine Pause zu machen, und daran, dass du mit einer KI sprichst, nicht mit einem Menschen.
• •ChewIt erlaubt für niemanden sexuelle Inhalte, und die Figuren sind angewiesen, sie zu vermeiden.

Auf der Seite einer Figur oder im Chat-Menü kannst du eine Figur oder eine KI-Antwort melden und die Person blockieren, die eine Figur erstellt hat. Meldungen gehen an unser Team, das sie prüft und Maßnahmen ergreift. Du kannst auch an admin@chewit.ai schreiben.

Wir zählen, wie oft wir Krisenhinweise anzeigen, damit wir diese Zahl melden können, wo das Gesetz es verlangt (zum Beispiel das kalifornische Gesetz über Begleit-Chatbots, SB 243). Diese Berichte enthalten nicht, wer einen Hinweis gesehen hat oder was jemand geschrieben hat. Der Hinweis selbst bleibt in deinem Chatverlauf, bis du den Chat löschst.