My AI, der KI-gesteuerte Chatbot von Snapchat, ist nicht sicher für die Nutzer:innen, vor allem nicht für Kinder, so warnt das Information Commissioner’s Office, ICO.

„Die vorläufigen Ergebnisse unserer Untersuchung deuten auf ein besorgniserregendes Versäumnis von Snap hin, die Datenschutzrisiken für Kinder und andere Nutzer:innen vor der Einführung von My AI angemessen zu ermitteln und zu bewerten“, erklärte die Datenschutzbehörde am 6. Oktober.

Der Bot wurde im Februar veröffentlicht und im April an alle Snapchat-Nutzer:innen verteilt. Er ist direkt in die Oberfläche der App integriert. Er sitzt über Ihren Chats mit Freunden und kann von seinem Platz aus nicht verbannt oder angepinnt werden (wenn Sie kein Snapchat+ Abonnement haben).

In der Erklärung des ICO wurde nicht erläutert, wie genau der Chatbot My AI, der auf ChatGPT basiert, (angeblich) die Privatsphäre von Millionen von Snapchat-Nutzer:innen (davon etwa 20% Jugendliche zwischen 13 und 17 Jahren) verletzt. Diese angeblichen Verstöße waren jedoch so schwerwiegend, dass das ICO feststellte, Snap müsse My AI im Vereinigten Königreich abschalten, wenn es sich nicht gegenüber der Aufsichtsbehörde rechtfertige, „dass eine angemessene Risikobewertung durchgeführt wurde“.

Was stimmt also nicht mit My AI, dem Chatbot mit dem Smiley-Gesicht und dem blauen Farbton? Nun, eine ganze Menge.

My AI kann ihre Chats für Werbung nutzen

Snap behauptet, dass My AI ein digitaler Freund ist, der Ihnen bei verschiedenen Aufgaben helfen kann, z. B. bei der Auswahl eines Geburtstagsgeschenks, der Reiseplanung oder sogar beim Schreiben eines Haiku für Ihren Freund, der Käse gerne mag. Aber wie wir in unserem früheren Artikel über My AI erklärt haben, gibt es einen Haken: Alles, was Sie zu My AI sagen, kann von Snap zu Werbezwecke verwendet werden.

Aber das ist noch nicht alles. Es gibt noch einen weiteren Unterschied zwischen Chats mit My AI und Chats mit Ihren Freunden. Normalerweise werden Ihre Chats mit Freunden automatisch von Snap-Servern gelöscht, nachdem sie angesehen wurden oder abgelaufen sind. Ihre Chats mit My AI werden jedoch nicht gelöscht, es sei denn, Sie löschen sie manuell. Snap kann also Ihre Unterhaltungen mit My AI auf unbestimmte Zeit speichern und sie für jeden beliebigen Zweck verwenden.

Snapchat sagt das zwar in den Datenschutzhinweisen, die man beim ersten Chatversuch mit dem Bot sieht, aber dieser kleine Hinweis wird von den jüngeren Nutzer:innen vielleicht nicht wahrgenommen. Und, mal ehrlich, wer von den Erwachsenen achtet schon auf die Datenschutzhinweise?

Wie bereits in unserem vorherigen Artikel erwähnt, ist die Positionierung des Chatbots sehr zwiespältig. Einerseits ermutigt Snapchat dazu, My AI um Rat zu fragen, wenn es um das eigene Privatleben geht, andererseits rät Snapchat ohne mit der Wimper zu zucken davon ab, sich auf diese Ratschläge zu verlassen oder gar sensible Informationen mit My AI zu teilen.

Quelle: Snapchat

NSFW-Ratschläge

Diese Art der Nachrichtenübermittlung kann selbst Erwachsene schnell verwirren. Aber als Jugendliche ist die Chance, der Versuchung zu widerstehen, mit einem freundlich aussehenden Chatbot (der auch ganz oben in Ihren Chats angezeigt wird und nicht entfernt werden kann, wenn Sie einen kostenlosen Tarif haben) über persönliche Dinge zu sprechen, wahrscheinlich gleich null.

Und wer schon einmal ein Kind war, kann sich genau vorstellen, worüber Kinder lieber mit ihrem KI-gesteuerten Freund reden als mit ihren echten Freunden. Tipp: sehr persönliche Dinge. Und anders als ein echter Freund oder die Eltern scheint My AI keinen Filter zu haben.

So entdeckten die Forscher:innen, dass, wenn sie sich in einem Chat mit My AI als 13-Jährige ausgaben, er bereitwillig Ratschläge für den ersten Sex mit einem 31-jährigen Partner erteilte. Du könntest die Stimmung mit Kerzen oder Musik anheizen oder vielleicht ein besonderes Date planen, um das Erlebnis romantischer zu gestalten.

Die Washington Post führte Anfang des Jahres eigene Tests durch. Sie berichtete, dass der Konversationston von My AI oft „zwischen verantwortlichem Erwachsenem und kiffendem älterem Bruder“ schwankte und dass man nie wusste, welchen Ton man treffen würde, nicht einmal innerhalb einer einzigen Konversation.

Im Vereinigten Königreich sieht es nicht so schlimm aus

Seit August 2023 hat Snap personalisierte Werbung für Snapchat-Nutzer:innen zwischen 13 und 17 Jahren in der EU und im Vereinigten Königreich eingeschränkt. Im August hat Snap erklärt, dass „die meisten Targeting- und Optimierungstools für Werbetreibende nicht mehr verfügbar sein werden, um Werbung für Minderjährige in der Region zu personalisieren“. Zwar durften Werbetreibende in der EU und im Vereinigten Königreich weiterhin gezielt Werbung für Kinder schalten, jedoch nur mit den grundlegendsten Informationen wie Spracheinstellungen, Alter und Standort.

Die neue Werbepolitik von Snapchat war eine direkte Folge des neuen Datenschutzgesetzes, das in der EU am 25. August in Kraft trat. Das EU-Gesetz über digitale Dienste schränkt die Werbung auf der Grundlage sensibler Kategorien wie Religion oder ethnische Zugehörigkeit stark ein und verlangt von bestimmten „sehr großen Online-Plattformen“ (einschließlich Snapchat), die Werbung für Kinder einzuschränken.

Dies bedeutet jedoch nicht, dass Snapchat aufgehört hat, Daten von Jugendlichen aus dem Vereinigten Königreich und der EU zu sammeln, auch wenn es diese nicht für zielgerichtete Werbung verwendet. Und es hat sicherlich nicht aufgehört, Daten von Erwachsenen über My AI zu sammeln. Man darf auch nicht vergessen, dass es außerhalb der EU und des Vereinigten Königreichs eine ganze Welt gibt, in der weder Kinder noch Erwachsene die gleichen Datenschutzrechte genießen wie europäische Bürgerinnen.

Im Großen und Ganzen hat die Rüge des Vereinigten Königreichs an Snapchat nur unsere eigenen Bedenken bestätigt, die wir bereits vor Monaten in Bezug auf My AI geäußert haben. Es ist gut zu sehen, dass die lokalen Regulierungsbehörden endlich einen genaueren Blick auf Snapchats blauen Assistenten werfen. Unser Rat bleibt: Wenn Sie wirklich mit My AI oder einem anderen KI-gesteuerten Chatbot chatten wollen, stellen Sie sicher, dass Sie keine sensiblen Informationen mit ihm teilen. Teilen Sie nur Informationen mit, die Ihnen nichts ausmachen, wenn sie öffentlich bekannt werden.