Der Aufstieg der KI-Überwachung, ChatGPTs erstes Leck, und mehr im AdGuards Digest

In diesem Digest: ChatGPT gibt persönliche Daten preis, Instagram fügt noch mehr Werbung hinzu, ein von der CIA finanziertes Unternehmen verwaltet Patientenakten, Frankreich steht kurz davor, KI-basierte Überwachung zuzulassen, ein weiterer US-Bundesstaat erhält sein eigenes Datenschutzgesetz, während die Polizei zunehmend auf Gesichtserkennungstechnologien zurückgreift.

ChatGPT gibt persönliche Daten in der ersten großen Datenpanne preis

ChatGPT, ein mega-populärer KI-gesteuerter Chatbot, hat seinen ersten Verstoß gegen personenbezogene Daten erlitten. Durch die Verletzung wurden die Chat-Titel einiger Nutzer und die anfänglichen Nachrichten ihrer Unterhaltungen mit dem Chatbot anderen Nutzern offengelegt, die sie in ihrem eigenen Chat-Verlauf sehen konnten. Darüber hinaus wurden möglicherweise auch einige zahlungsbezogene Informationen von etwa 1,2 % der aktiven ChatGPT Plus-Nutzer offengelegt. Zu diesen Informationen könnten der vollständige Name, die E-Mail-Adresse, die letzten vier Ziffern der Kreditkartennummer und das Ablaufdatum der Karte gehört haben.

OpenAI, das Unternehmen hinter ChatGPT, machte einen Fehler in einer Open-Source-Bibliothek, die es für ChatGPT verwendet, für das Leck verantwortlich. In einer Erklärung sagte OpenAI, dass der Fehler inzwischen gepatcht worden sei und dass es „kein anhaltendes Risiko für die Nutzerdaten“ gebe.

Die erste Datenschutzverletzung bei ChatGPT geschah ziemlich schnell, aber sie sollte keine große Überraschung sein. Der Datenschutz ist etwas, das die Entwickler von KI-Tools auf die lange Bank geschoben haben, indem sie ihre Modelle auf Daten, einschließlich urheberrechtlich geschützter Inhalte, trainieren die aus dem gesamten Internet zusammengetragen wurden. In der Tat sollten Sie bei der Nutzung von ChatGPT nicht viel Privatsphäre erwarten: In den Nutzungsbedingungen von OpenAI heißt es ganz offen, dass es Ihre Eingabeaufforderungen und Bilder verwenden kann, um seine Dienste zu verbessern, was auch immer das bedeuten mag.

Instagram gibt Ihnen etwas, um das niemand gebeten hat: mehr Werbung

Seitdem Instagram 2013 damit begonnen hat, Anzeigen zu schalten, hat es den Anschein, als sei es auf einer Mission, so viele Anzeigen wie möglich in Ihren Feed zu schieben. Dieser Trend wird sich im Jahr 2023 fortsetzen, denn Instagram hat gerade zwei neue Arten von Anzeigen eingeführt: Anzeigen, die erscheinen, wenn Sie nach etwas suchen, und Anzeigen, die Sie an Produkte erinnern, die Sie bereits angesehen haben.

Die Suchanzeigen werden in Ihrem Feed eingeblendet, nachdem Sie auf einen Beitrag in den Suchergebnissen getippt haben. Dieses Anzeigenformat befindet sich noch im Anfangsstadium der Einführung und soll in den nächsten Monaten weltweit verfügbar sein. Wir können es kaum erwarten. „Erinnerungsanzeigen“ versprechen, weniger aufdringlich zu sein, da man ihnen zustimmen muss, um Benachrichtigungen über den Beginn eines beworbenen Ereignisses zu sehen.

Es ist kein Geheimnis, dass wir keine großen Fans von Werbung sind, vor allem, wenn es um Instagram geht — eine Plattform, die bereits mit Werbung und „gesponserten“ Posts übersättigt ist. Wird die neue Anzeigenplatzierung das Fass zum Überlaufen bringen? Unwahrscheinlich, aber es könnte die Abwanderung von Nutzern, die unter „Werbemüdigkeit“ leiden, zu anderen, saubereren Plattformen wie BeReal beschleunigen.

Britische Krankenhäuser sollen Daten an US-Spionagetechnikfirma weitergeben

Palantir, ein Data-Mining-Unternehmen mit Verbindungen zur CIA, wurde Berichten zufolge beauftragt, „vertrauliche Patienteninformationen“ aus britischen öffentlichen Krankenhäusern zu sammeln und zu verarbeiten, OpenDemocracy berichtete. Einem internen Dokument zufolge, aus dem die Publikation zitiert, wurden Hunderte von Krankenhäusern angewiesen, Patientendaten in eine von Palantir betriebene Datenbank hochzuladen. Die Datenbank verwendet die Software Foundry von Palantir, die Daten aus verschiedenen Quellen integriert und bei deren Analyse hilft.

Palantir hat schon früher für den NHS gearbeitet: Im Jahr 2020 war das Unternehmen für die Einführung des Impfstoffs Covid-19 verantwortlich. Seitdem hat das US-Unternehmen Verträge in zweistelliger Millionenhöhe mit der britischen Regierung abgeschlossen und strebt einen neuen 580-Millionen-Dollar-Vertrag zum Aufbau einer NHS-Datenbank an.

Die britische Regierung versicherte, dass Palantir keinen Zugang zu den Informationen haben würde, die die Identität von Personen preisgeben könnten, da diese durch Pseudoanonymisierung „maskiert“ würden. Dabei handelt es sich um eine Methode, bei der die Informationen, die zur Identifizierung von Personen verwendet werden können, vom Rest der Daten getrennt werden. Diese Methode ist jedoch nicht narrensicher, da die „versteckten“ Informationen wieder mit den bekannten Daten zusammengeführt werden können, was ein ernstes Risiko für die Privatsphäre und die Sicherheit darstellt. Und die Tatsache, dass diese Daten von Palantir verarbeitet werden, einem Unternehmen, das für seine Arbeit mit der Polizei und dem FBI bekannt ist, macht die Sache noch beunruhigender.

Frankreich legalisiert KI-gestütztes Überwachungssystem

Frankreich ist der Legalisierung des Einsatzes von KI-gestützter Überwachung einen Schritt näher gekommen und wird damit das erste EU-Land sein, das dies tut. Beide Kammern des französischen Parlaments haben mit überwältigender Mehrheit dem Gesetzentwurf zugestimmt, der den Einsatz von KI-Software zur Überwachung von Menschen während der Olympischen und Paralympischen Spiele im nächsten Jahr in Paris vorsieht.

Die Maßnahme soll zeitlich begrenzt sein, aber wie das Sprichwort sagt, ist nichts so dauerhaft wie ein zeitlich begrenztes Regierungsprogramm. Die Befürworter des Gesetzentwurfs sind der Ansicht, dass die Kombination aus Kameras und künstlicher Intelligenz erforderlich ist, um Massenpaniken und Anschläge zu verhindern. Die französische Regierung behauptet, dass die Überwachung keine Gesichtserkennung beinhalten würde. Kritiker sagen jedoch, dass die Überwachung zwangsläufig die Erfassung und Verarbeitung anderer biometrischer Daten wie Aussehen, Körperhaltung, Gesten und Gangart umfassen würde, die ausreichen würden, um eine Person zu identifizieren. Bürgerrechtsorganisationen argumentieren, dass das vorgeschlagene System zu einem „totalen Angriff auf die Rechte auf Privatsphäre, Protest und Versammlungsfreiheit“ führen könnte.

In der Tat besteht die Gefahr, dass das Gesetz Frankreich auf einen Weg in Richtung eines umfassenden Überwachungsstaates bringt und weiter davon entfernt, Les Pays des Droits de l'Homme (das Land der Menschenrechte) zu sein, wie es im Volksmund heißt. Außerdem könnte dies auch einen gefährlichen Präzedenzfall für den Rest der EU schaffen.

US-Polizei verlässt sich auf Gesichtserkennungstechnologien

Wenn Sie ein Beispiel dafür brauchen, wohin dieser schlüpfrige Weg führen kann, dann schauen Sie sich nur die USA an, wo die Polizei fast eine Million Abfragen in einer von Clearview AI, einem US-Unternehmen für Gesichtserkennung, zusammengestellten Datenbank durchgeführt hat. Dies wurde vom CEO von Clearview, Hoan Ton-That, selbst enthüllt. Er sagte, das Unternehmen habe inzwischen 30 Milliarden Bilder aus dem Internet gesammelt und in eine Datenbank eingegeben, die von der Polizei durchsucht werden kann. Die Bilder wurden ohne das Wissen oder die Zustimmung der Nutzer gesammelt.

Letztes Jahr wurde Clearview AI der Verkauf seiner Software an private US-Unternehmen und Einzelpersonen untersagt, nicht aber an Strafverfolgungsbehörden. Einige US-Bundesstaaten und Städte haben die Sache selbst in die Hand genommen und die Verwendung von Gesichtserkennungstechnologie durch die Polizei entweder verboten oder stark eingeschränkt. Andere haben dies nicht getan. So erklärte die Polizei von Miami gegenüber der BBC, dass sie Gesichtserkennung für „jede“ Art von Verbrechen verwendet.

Die Art und Weise, wie Clearview biometrische Daten sammelt, ohne dass die Betroffenen davon wissen oder zustimmen, stellt eine Verletzung der Privatsphäre dar. Dies setzt Millionen von Menschen dem Risiko aus, dass ihre persönlichen Daten missbraucht werden. Als privates Unternehmen arbeitet Clearview unter dem Schleier der Geheimhaltung, so dass man sich auch die Frage nach der Genauigkeit seines Algorithmus stellen muss. Es ist bekannt, dass KI zur Gesichtserkennung rassistisch sein und zu falschen Verhaftungen führen kann. KI hat viele positive Verwendungszwecke, aber einen Überwachungsstaat zu ermöglichen, gehört nicht dazu. Um den Einsatz von KI für diese Zwecke zu verhindern, ist eine stärkere Regulierung erforderlich.

Ein weiterer US-Bundesstaat hat jetzt ein umfassendes Datenschutzgesetz

Um unsere Zusammenfassung nicht mit einer schlechten Nachricht zu beenden, hier ist eine gute Nachricht: Iowa wurde gerade der sechste US-Bundesstaat und der erste im Mittleren Westen, der ein umfassendes Datenschutzgesetz erlassen hat. Das Gesetz gibt den Einwohnern des Staates mehr Einfluss auf ihre persönlichen Daten, einschließlich des Rechts, dem Verkauf ihrer persönlichen Daten und deren Verwendung für gezielte Werbung zu widersprechen.

Mit dem Gesetz soll die Lücke geschlossen werden, die durch das Fehlen von US-Bundesgesetzen zum Datenschutz entstanden ist. Es soll 2025 in Kraft treten und für Unternehmen gelten, die personenbezogene Daten von mindestens 100.000 Iowaner:innen im Jahr verarbeiten oder die mehr als 50% ihrer Einnahmen aus dem Verkauf personenbezogener Daten erzielen und gleichzeitig die Daten von mindestens 25.000 Verbrauchern im Bundesstaat verarbeiten. Mit der Verabschiedung dieses Gesetzes tritt Iowa in die Fußstapfen von Kalifornien, Colorado, Connecticut, Utah und Virginia, die alle ähnliche Gesetze verabschiedet haben.

Das neue Gesetz ist zwar ein großer Fortschritt für den Schutz der Privatsphäre in diesem Bundesstaat, aber allein die Tatsache, dass Iowa nur der sechste von 50 Bundesstaaten ist, der ein solches Gesetz hat, zeigt, wie schlecht es um den Schutz der Privatsphäre in den USA insgesamt bestellt ist. Ein Bundesgesetz zum Schutz der Privatsphäre ist längst überfällig, und hoffentlich kommt es eher früher als später.