In diesem Digest: Microsoft kündigt dem KI-Ethik-Team, Plattformen für psychische Gesundheit geben Daten preis, Firefox erweitert den Schutz vor Tracking, und die Deutschen lehnen Chat-Kontrolle ab.

Keine Ethik — kein Problem? Microsoft entlässt sein KI-Ethik-Team

Während Microsoft weiterhin in Windeseile KI in seine Produkte integriert, hat das Unternehmen ein ganzes „Ethik- und Gesellschafts-“ Team entlassen, das dafür sorgte, dass dies auf verantwortungsvolle Weise geschah, berichtete The Platformer.

Ein ehemaliges Teammitglied erzählte Platformer, dass Microsoft zwar immer noch ein Büro für verantwortungsvolle KI hat, die normalen Mitarbeiter aber oft keine Ahnung haben, wie sie die Grundsätze in der Realität anwenden sollen. Die Rolle des Ethik- und Gesellschaftsteams bestehe darin, zu erklären, was diese Grundsätze in der Praxis bedeuten, und Regeln aufzustellen. In einer Erklärung gegenüber Platformer dementierte Microsoft jegliche Änderung seines Ansatzes in Bezug auf KI.

Es ist verständlich, dass Microsoft das KI-Rennen gewinnen will, in dem es derzeit Google überholt, nachdem es gerade seinen KI-gesteuerten Suchmaschinenmodus, Bing Chat, für jedermann zugänglich gemacht hat. Aber wenn die Entlassung eines Ethik-Teams signalisiert, dass Microsoft die Einführung von KI um jeden Preis vorantreiben will, könnte dies Risiken für die Privatsphäre und die Sicherheit der Nutzer:innen mit sich bringen. Besorgniserregend sind auch Berichte, wonach Microsoft in einem Versuch, den Erfolg des neuen Bing zu monetarisieren, plant, kontextbezogene Werbung in die Antworten des Chatbots einzufügen. Bevor ein solcher Schritt unternommen wird, hätte Microsoft wahrscheinlich den Rat des Ethik-Teams einholen können, aber leider ist es bereits entlassen worden.

App für psychische Gesundheit teilt Nutzerdaten mit Facebook

Die beliebte Therapie-App BetterHelp muss 7,8 Millionen Dollar an die Nutzer:innen zahlen, weil sie ihre sensiblen Daten zur psychischen Gesundheit ohne Zustimmung an Werbekunden wie Facebook und Snapchat weitergegeben hat. BetterHelp hatte seinen Nutzern wiederholt versprochen, ihre privaten Gesundheitsdaten nur zu Therapiezwecken weiterzugeben, so die US Federal Trade Commission (FTC).

Das Unternehmen teilte die E-Mail-Adressen der Patienten und die Tatsache, dass sie an einer Therapie teilnahmen, mit Facebook, was es dem Social-Media-Riesen ermöglichte, „ähnliche Verbraucher zu identifizieren und sie mit Werbung anzusprechen“, so die FTC. Die Vorwürfe, BetterHelp habe Nutzerdaten missbraucht, reichen bis ins Jahr 2020 zurück, wurden von dem Unternehmen jedoch immer wieder bestritten. In Zukunft müsste BetterHelp die ausdrückliche Zustimmung der Nutzer:innen einholen, bevor es ihre persönlichen Daten weitergibt.

Es ist beunruhigend zu sehen, dass eine Plattform, die Menschen in psychischen Krisen helfen soll, ihr Vertrauen missbraucht. Dies zeigt auch, dass unabhängig davon, welche Behauptungen eine App zum Datenschutz aufstellt, nichts sie technisch daran hindert, die gesammelten Daten mit Dritten zu teilen. Um sicherzugehen, dass Sie auf der sicheren Seite sind, können Sie eine App für psychische Gesundheit anhand von Mozillas Datenschutzleitfaden überprüfen. Spoiler: BetterHelp schneidet darin sehr schlecht ab.

3,1 Millionen Patientendaten sind durch einen Tracking-Pixel geflossen

Eine weitere Plattform für psychische Gesundheit, Cerebral, hat enthüllt, dass sie von Oktober 2019 bis vor kurzem Patientendaten an Facebook, Google und TikTok gesendet hat. Cerebral ist ein Telemedizin-Startup, das sich auf die Behandlung von psychischen Problemen wie Depressionen, bipolaren Störungen, Schlaflosigkeit und Angstzuständen spezialisiert hat.

Die Zählpixel von Facebook, Google und TikTok waren in die Online-Dienste von Cerebral eingebettet, was dazu führte, dass die personenbezogenen Daten von mehr als 3,1 Millionen Menschen an Dritte weitergegeben wurden. Die Menge der preisgegebenen Informationen über eine Person hing davon ab, was diese Person auf der Plattform tat. Dies könnte von Namen, Telefonnummer, E-Mail-Adresse und IP-Adresse bis hin zu Termin- und Behandlungsdaten reichen, räumte Cerebral ein.

Das Unternehmen erklärte, es habe die Pixel inzwischen deaktiviert, neu konfiguriert und/oder entfernt. Zählpixel sind winzige transparente Bilder, die über Online-Elementen wie Anzeigen, Webseiten und E-Mails platziert werden. Sie helfen Vermarktern dabei, Anzeigenklicks und andere Metriken zu messen. Der Fall Cerebral ist ein weiteres Beispiel für den leichtfertigen Umgang von Gesundheitsdienstleistern mit dem Datenschutz. Mit einer solchen Haltung verstößt ein Gesundheitsdienstleister nicht nur möglicherweise gegen das Datenschutzgesetz für Patienten, sondern könnte auch seine Kunden teuer zu stehen kommen, wenn die Daten in die falschen Hände geraten.

Noch ein Grund, Mozilla zu lieben: Firefox verbessert den Schutz vor Tracking

Es ist kein Geheimnis, dass wir eine Schwäche für Mozilla haben: Schließlich hat Mozilla gerade Werbeblocker vor der Chromacalypse gerettet. Diesmal hat Mozilla wieder etwas Gutes getan, indem es den Schutz gegen Tracking-Cookies in seinem Firefox-Browser auf Android ausgeweitet hat.

Die Funktion, die als Total Cookie Protection (TCP) bekannt ist, blockiert das seitenübergreifende Tracking, indem sie Cookies von Drittanbietern vor allen anderen „versteckt“, außer vor der Website, die sie im Browser des Nutzers platziert hat. Das bedeutet, dass die Tracker die Cookies der anderen nicht sehen und Ihnen keine lästige Werbung anzeigen können, wo auch immer Sie sind. Die Funktion wurde letztes Jahr standardmäßig für Firefox-Benutzer unter Windows, Mac und Linux eingeführt und ist nun endlich auch auf mobilen Geräten verfügbar.

Mozilla kündigte außerdem an, dass sein Firefox Relay-Dienst, mit dem Nutzer ihre echte E-Mail-Adresse vor Trackern und Spammern verbergen können, jetzt direkt im Browser verfügbar ist. Auf einigen Websites werden Firefox Relay-Nutzer automatisch aufgefordert, sich mit einer Maske anstelle ihrer echten E-Mail-Adresse anzumelden.

Quelle: Mozilla

Mozilla hat wieder einmal bewiesen, dass es sich für den Datenschutz einsetzt. Jetzt sind Firefox-Nutzer:innen vor Tracking-Cookies geschützt, unabhängig davon, ob sie mit ihrem Computer oder ihrem Telefon im Internet surfen. Echt toll!

Deutschland widersetzt sich dem Plan der EU-Kommission, Nachrichten clientseitig zu scannen

Der Vorschlag der EU, Nachrichten auf Material zum sexuellen Missbrauch von Kindern (CSAM) zu scannen, stieß bei einer Sonderanhörung im deutschen Parlament auf breite Kritik. Laut einem offiziellen Bericht über die Sitzung des Digitalausschusses des Bundestages wurde der Plan von den Teilnehmern als technisch unrealistisch, „rechtlich fragwürdig“ und eine „immense Bedrohung der Privatsphäre“ bezeichnet.

Die Experten sagten, dass das vorgeschlagene Gesetz, das Meta, Apple und andere große Technologieunternehmen dazu verpflichten würde, den Inhalt der Nachrichten auf ihren Geräten zu analysieren, die Verbreitung von CSAM-Material nicht stoppen würde, sondern nur eine „massive Überwachungsinfrastruktur“ schaffen würde. Das vorgeschlagene Gesetz macht Technologieunternehmen verantwortlich, um nicht nur bekannte CSAM zu finden und zu stoppen, die sie mit einer Datenbank verbotener Inhalte abgleichen könnten, sondern auch neues Material und „Grooming“ in Textnachrichten. Die Experten wiesen auch darauf hin, dass bei einem derartig großen Aufwand selbst eine einprozentige Fehlerquote zu Milliarden falsch positiver Ergebnisse führen könnte, was bedeutet, dass unschuldige Menschen beschuldigt werden könnten.

Wir haben ähnliche Bedenken geäußert. Sollte das Gesetz verabschiedet werden, hat es das Potenzial, den EU-Datenschutz auszuhöhlen und die Ende-zu-Ende-Verschlüsselung zu untergraben. Als Großmacht mit einer Stimme im Europarat hoffen wir, dass Berlin diese Bedenken auf EU-Ebene vorbringen und versuchen wird, die Verabschiedung des Gesetzes in seiner jetzigen Form zu verhindern.