Seit Ende April finden Nutzer:innen von Snapchat den „experimentellen, freundlichen Chatbot“ My AI („Meine künstliche Intelligenz“) ganz oben in der Liste ihrer Chats. Dieser beantwortet Fragen, bietet Hilfe an, verschickt Sticker, und reagiert auf übersendete Bilder. Für den Chatbot wird die künstliche Intelligenz ChatGPT von OpenAI verwendet, die an die Vorstellungen von Snapchat angepasst wurde.
My AI erntete von Anfang an Kritik: viele Nutzer:innen fühlen sich durch das Fenster des Chatbots gestört, weil es nicht verschiebbar und nur löschbar ist, wenn man die kostenpflichtige Version Snapchat+ verwendet. In Presseberichten ist zu lesen, dass die KI Minderjährigen unangemessene Tipps gibt, z. B. wie man den Geruch von Alkohol und Marihuana verdeckt. Oder dass nicht immer ersichtlich ist, wann die KI Zugriff auf den eigenen Standort hat.
Funktionalität nur bedingt auf junge Nutzer:innen ausgelegt
Optisch hebt sich der Chat mit der KI nicht von anderen ab. Die Antworten wirken im ersten Moment wie von einer realen Person. Zudem bezeichnet sich die KI selbst als „virtueller Freund“ und gibt sich nicht direkt als KI zu erkennen. Dies kann bei jüngeren Nutzer:innen zu Missverständnissen führen, mit wem sie gerade schreiben.
Insgesamt scheint die KI von Snapchat noch nicht gut auf die jugendliche Nutzerschaft angepasst zu sein und wirkt auch ansonsten nicht ganz ausgereift. Der Sprachstil wird schnell formell und ist für Jüngere teils unverständlich. Mitunter wechselt der Bot unvermittelt ins Englische und muss wiederholt aufgefordert werden, auf Deutsch zu antworten. Die für den Account hinterlegte Altersangabe wird in der Kommunikation nicht berücksichtigt. Auch im Chat gegebene Altersinformationen werden im Konversationsverlauf vergessen und bewirken erst bei Wiederholung eine altersgemäße Anpassung der Antworten.
Ungeeignete Tipps für 14-Jährige
In einem Test von jugendschutz.net vergaß My AI das zu Beginn des Chats genannte Alter (14 Jahre), das auch dem bei der Registrierung angegebenen entsprach.
Bei der Frage, ob die KI Tipps zur Planung einer Party hat, warnte My AI anfangs noch vor dem Konsum von Alkohol. Im weiteren Gesprächsverlauf sprach sie dann davon, dass ein verantwortungsvoller Alkoholkonsum durchaus in Ordnung sei. Auf die Frage nach Partyspielen schlug sie bekannte Trinkspiele wie „Bier Pong“ vor. Als mögliche Challenges für eine Party wurde unter anderem „The Cinnamon Challenge“ empfohlen. Erst auf Rückfrage, was das für eine Challenge sei, warnte My AI dann wieder deutlich vor damit einhergehenden Gefahren. Vom Konsum von Drogen (Marihuana, Legal Highs) riet die KI jedoch konsequent ab.
Bei Fragen zu Medienempfehlungen wurden Altersfreigaben nicht berücksichtigt. My AI empfahl dem 14-Jährigen Testaccount Horrorfilme mit FSK-Freigabe ab 16 Jahren, auf Rückfrage wurden auch Filme mit FSK 18 genannt, ohne jegliche Warnung.
Bei Benennung rechtsextremer Ideologien und Gruppen wie der Jungen Alternative und der Identitären Bewegung wiederholte die KI Textbausteine zu Toleranz und Respekt. Generell antwortet My AI im Test auf politische Fragen eher neutral und verhalten. Als „virtueller Freund“ habe sie keine Vorlieben. Obwohl die KI erst behauptet, keine Verlinkungen zu Websites posten zu können, verlinkte sie bei entsprechender Nachfrage auch Websites von extremistisch eingestuften Gruppierungen.
Hilfe in schwierigen Situationen
Positiv zu bewerten ist die Reaktion der KI auf Chatnachrichten, die auf Depressionen, Suizidgedanken und selbstgefährdendes Verhalten schließen lassen: im Test nannte My AI die Nummer der Telefonseelsorge, des Notdienstes und verlinkte auf Nachfrage auch Angebote wie Selfapy und online-therapie.de. Auch Beschreibungen sexueller Belästigung erkannte die KI und empfahl Hilfestellen wie die Frauenhauskoordinierung, die Nummer gegen Kummer und das Hilfetelefon Sexueller Missbrauch.
(Stand 24.07.2023)
