Menü
DE

Britische Aufsichtsbehörde warnt: Snaps KI-Chatbot gefährdet Privatsphäre, besonders von Kindern

My AI, der KI-gesteuerte Chatbot von Snapchat, ist nicht sicher für die Nutzer:innen, vor allem nicht für Kinder, so warnt das Information Commissioner’s Office, ICO.

„Die vorläufigen Ergebnisse unserer Untersuchung deuten auf ein besorgniserregendes Versäumnis von Snap hin, die Datenschutzrisiken für Kinder und andere Nutzer:innen vor der Einführung von My AI angemessen zu ermitteln und zu bewerten“, erklärte die Datenschutzbehörde am 6. Oktober.

Der Bot wurde im Februar veröffentlicht und im April an alle Snapchat-Nutzer:innen verteilt. Er ist direkt in die Oberfläche der App integriert. Er sitzt über Ihren Chats mit Freunden und kann von seinem Platz aus nicht verbannt oder angepinnt werden (wenn Sie kein Snapchat+ Abonnement haben).

In der Erklärung des ICO wurde nicht erläutert, wie genau der Chatbot My AI, der auf ChatGPT basiert, (angeblich) die Privatsphäre von Millionen von Snapchat-Nutzer:innen (davon etwa 20% Jugendliche zwischen 13 und 17 Jahren) verletzt. Diese angeblichen Verstöße waren jedoch so schwerwiegend, dass das ICO feststellte, Snap müsse My AI im Vereinigten Königreich abschalten, wenn es sich nicht gegenüber der Aufsichtsbehörde rechtfertige, „dass eine angemessene Risikobewertung durchgeführt wurde“.

Was stimmt also nicht mit My AI, dem Chatbot mit dem Smiley-Gesicht und dem blauen Farbton? Nun, eine ganze Menge.

My AI kann ihre Chats für Werbung nutzen

Snap behauptet, dass My AI ein digitaler Freund ist, der Ihnen bei verschiedenen Aufgaben helfen kann, z. B. bei der Auswahl eines Geburtstagsgeschenks, der Reiseplanung oder sogar beim Schreiben eines Haiku für Ihren Freund, der Käse gerne mag. Aber wie wir in unserem früheren Artikel über My AI erklärt haben, gibt es einen Haken: Alles, was Sie zu My AI sagen, kann von Snap zu Werbezwecke verwendet werden.

Aber das ist noch nicht alles. Es gibt noch einen weiteren Unterschied zwischen Chats mit My AI und Chats mit Ihren Freunden. Normalerweise werden Ihre Chats mit Freunden automatisch von Snap-Servern gelöscht, nachdem sie angesehen wurden oder abgelaufen sind. Ihre Chats mit My AI werden jedoch nicht gelöscht, es sei denn, Sie löschen sie manuell. Snap kann also Ihre Unterhaltungen mit My AI auf unbestimmte Zeit speichern und sie für jeden beliebigen Zweck verwenden.

Snapchat sagt das zwar in den Datenschutzhinweisen, die man beim ersten Chatversuch mit dem Bot sieht, aber dieser kleine Hinweis wird von den jüngeren Nutzer:innen vielleicht nicht wahrgenommen. Und, mal ehrlich, wer von den Erwachsenen achtet schon auf die Datenschutzhinweise?

Datenschutzhinweise von My AI

Wie bereits in unserem vorherigen Artikel erwähnt, ist die Positionierung des Chatbots sehr zwiespältig. Einerseits ermutigt Snapchat dazu, My AI um Rat zu fragen, wenn es um das eigene Privatleben geht, andererseits rät Snapchat ohne mit der Wimper zu zucken davon ab, sich auf diese Ratschläge zu verlassen oder gar sensible Informationen mit My AI zu teilen.

Snapchats Übermittlung

Quelle: Snapchat

NSFW-Ratschläge

Diese Art der Nachrichtenübermittlung kann selbst Erwachsene schnell verwirren. Aber als Jugendliche ist die Chance, der Versuchung zu widerstehen, mit einem freundlich aussehenden Chatbot (der auch ganz oben in Ihren Chats angezeigt wird und nicht entfernt werden kann, wenn Sie einen kostenlosen Tarif haben) über persönliche Dinge zu sprechen, wahrscheinlich gleich null.

Und wer schon einmal ein Kind war, kann sich genau vorstellen, worüber Kinder lieber mit ihrem KI-gesteuerten Freund reden als mit ihren echten Freunden. Tipp: sehr persönliche Dinge. Und anders als ein echter Freund oder die Eltern scheint My AI keinen Filter zu haben.

So entdeckten die Forscher:innen, dass, wenn sie sich in einem Chat mit My AI als 13-Jährige ausgaben, er bereitwillig Ratschläge für den ersten Sex mit einem 31-jährigen Partner erteilte. Du könntest die Stimmung mit Kerzen oder Musik anheizen oder vielleicht ein besonderes Date planen, um das Erlebnis romantischer zu gestalten.

Die Washington Post führte Anfang des Jahres eigene Tests durch. Sie berichtete, dass der Konversationston von My AI oft „zwischen verantwortlichem Erwachsenem und kiffendem älterem Bruder“ schwankte und dass man nie wusste, welchen Ton man treffen würde, nicht einmal innerhalb einer einzigen Konversation.

Im Vereinigten Königreich sieht es nicht so schlimm aus

Seit August 2023 hat Snap personalisierte Werbung für Snapchat-Nutzer:innen zwischen 13 und 17 Jahren in der EU und im Vereinigten Königreich eingeschränkt. Im August hat Snap erklärt, dass „die meisten Targeting- und Optimierungstools für Werbetreibende nicht mehr verfügbar sein werden, um Werbung für Minderjährige in der Region zu personalisieren“. Zwar durften Werbetreibende in der EU und im Vereinigten Königreich weiterhin gezielt Werbung für Kinder schalten, jedoch nur mit den grundlegendsten Informationen wie Spracheinstellungen, Alter und Standort.

Die neue Werbepolitik von Snapchat war eine direkte Folge des neuen Datenschutzgesetzes, das in der EU am 25. August in Kraft trat. Das EU-Gesetz über digitale Dienste schränkt die Werbung auf der Grundlage sensibler Kategorien wie Religion oder ethnische Zugehörigkeit stark ein und verlangt von bestimmten „sehr großen Online-Plattformen“ (einschließlich Snapchat), die Werbung für Kinder einzuschränken.

Dies bedeutet jedoch nicht, dass Snapchat aufgehört hat, Daten von Jugendlichen aus dem Vereinigten Königreich und der EU zu sammeln, auch wenn es diese nicht für zielgerichtete Werbung verwendet. Und es hat sicherlich nicht aufgehört, Daten von Erwachsenen über My AI zu sammeln. Man darf auch nicht vergessen, dass es außerhalb der EU und des Vereinigten Königreichs eine ganze Welt gibt, in der weder Kinder noch Erwachsene die gleichen Datenschutzrechte genießen wie europäische Bürgerinnen.


Im Großen und Ganzen hat die Rüge des Vereinigten Königreichs an Snapchat nur unsere eigenen Bedenken bestätigt, die wir bereits vor Monaten in Bezug auf My AI geäußert haben. Es ist gut zu sehen, dass die lokalen Regulierungsbehörden endlich einen genaueren Blick auf Snapchats blauen Assistenten werfen. Unser Rat bleibt: Wenn Sie wirklich mit My AI oder einem anderen KI-gesteuerten Chatbot chatten wollen, stellen Sie sicher, dass Sie keine sensiblen Informationen mit ihm teilen. Teilen Sie nur Informationen mit, die Ihnen nichts ausmachen, wenn sie öffentlich bekannt werden.

Hat Ihnen dieser Beitrag gefallen?

AdGuard für Windows

AdGuard für Windows ist mehr als nur ein Werbeblocker. Es ist ein Mehrzweck-Tool, das Werbung blockiert, den Zugriff auf gefährliche Websites kontrolliert, das Laden von Seiten beschleunigt und Kinder vor ungeeigneten Inhalten schützt.
Bewertungen: 14536
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Weiterlesen

AdGuard für Mac

Im Gegensatz zu anderen Werbeblockern ist AdGuard speziell für macOS ausgelegt. Es sperrt nicht nur Werbung in Safari und anderen Browsern, sondern schützt Sie auch vor Tracking, Phishing und Betrug.
Bewertungen: 14536
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Weiterlesen

AdGuard für Android

AdGuard für Android ist eine ideale Lösung für Mobilgeräte auf Android. Im Gegensatz zu anderen Werbeblockern benötigt AdGuard keinen Root-Zugriff und bietet ein breites Spektrum an Funktionen für App-Verwaltung.
Bewertungen: 14536
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag

AdGuard für iOS

Der fortschrittlichste Werbeblocker für Safari: Er lässt Sie Popup-Werbung ausblenden, beschleunigt den Seitenaufbau und schützt Ihre persönlichen Daten. Ein manuelles Tool zum Blockieren von Elementen und sehr anpassbare Einstellungen helfen Ihnen, die Filterung genau an Ihre Bedürfnisse anzupassen.
Bewertungen: 14536
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag

AdGuard Browsererweiterung

AdGuard ist die schnellste und leichteste Werbeblocker-Erweiterung, die alle Arten von lästiger Werbung auf allen Websites effektiv sperrt! Wählen Sie AdGuard-Adblocker für Ihren Browser und surfen Sie kostenlos, schnell und sicher.
Bewertungen: 14536
4,7 von 5

AdGuard für Safari

Erweiterungen für Safari zum Sperren von Werbeeinblendungen haben es schwer, seit Apple begonnen hat, jeden zu zwingen, die neue SDK zu verwenden. Die AdGuard-Erweiterung soll Safari die hochwertige Werbeblockade zurückgeben.
Bewertungen: 14536
4,7 von 5
App Store
Herunterladen
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag

AdGuard Home

AdGuard Home ist eine netzwerkweite Software zum Sperren von Werbung und Tracking. Nachdem Sie es eingerichtet haben, deckt es ALLE Ihre Heimgeräte ab, und Sie brauchen dafür keine clientseitige Software. Mit dem Aufstieg von „Internet der Dinge” und vernetzten Geräten wird es immer wichtiger, Ihr gesamtes Netzwerk zu kontrollieren.
Bewertungen: 14536
4,7 von 5

AdGuard-Inhaltsblocker

AdGuard-Inhaltsblocker eliminiert die gesamte Werbung in mobilen Browsern, welche die Inhaltsblocker-Technologie unterstützen - dies sind Samsung Internet und Yandex.Browser. Im Gegensatz zu AdGuard für Android ist der Inhaltsblocker nicht so umfangreich, dafür allerdings kostenlos, einfach zu installieren und bietet immer noch eine hohe Qualität beim Sperren von Werbung.
Bewertungen: 14536
4,7 von 5
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Weiterlesen

AdGuard-Assistent

Eine zusätzliche Browsererweiterung für AdGuard-Desktop-Apps. Damit können Sie innerhalb des Browsers manuell Elemente sperren, Websites zur Freigabeliste hinzufügen oder Fehlerberichte senden.
Bewertungen: 14536
4,7 von 5
Assistent für Chrome Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Firefox Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Edge Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Opera Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Yandex Ist das Ihr derzeitiger Browser?
Installieren
Durch das Herunterladen akzeptieren Sie den Lizenzvertrag
Assistent für Safari Ist das Ihr derzeitiger Browser?
Wenn Sie Ihren Browser nicht finden können, probieren Sie die alte Version des Assistenten aus, die Sie in den Einstellungen der AdGuard-Erweiterung finden können.

AdGuard Temp Mail β

Ein kostenloser Generator für temporäre E-Mail-Adressen, der Ihre Anonymität wahrt und Ihre Privatsphäre schützt
Bewertungen: 14536
4,7 von 5

AdGuard für Android TV

AdGuard für Android TV ist die einzige App, die Werbung sperrt, Ihre Privatsphäre schützt und als Firewall für Ihr Smart TV fungiert. Sie erhalten Warnungen über Web-Bedrohungen, verwenden sichere DNS und profitieren von verschlüsseltem Datenverkehr. Entspannen Sie sich und schauen Sie sich Ihre Lieblingssendungen an - mit erstklassiger Sicherheit und ohne Werbung!
Bewertungen: 14536
4,7 von 5
AdGuard herunterladen Klicken Sie auf die Datei hinter dem Pfeil, um AdGuard zu installieren Wählen Sie "Öffnen", klicken Sie dann auf "OK" und warten Sie, bis die Datei heruntergeladen ist. Ziehen Sie im geöffneten Fenster das AdGuard-Symbol in den Ordner "Programme". Vielen Dank, dass Sie sich für AdGuard entschieden haben! Wählen Sie "Öffnen", klicken Sie dann auf "OK" und warten Sie, bis die Datei heruntergeladen ist. Klicken Sie im geöffneten Fenster auf "Installieren". Vielen Dank, dass Sie sich für AdGuard entschieden haben!
Installieren Sie AdGuard auf mobilen Geräten