Wie Tesla-Mitarbeiter Aufnahmen von Autokameras in Memes verwandelten

„Privacy from Day One“ — dies ist eine der ersten Zeilen, die Sie im Datenschutzhinweis für Tesla-Kunden sehen. Darin sagt der Elektroautohersteller, dass „Ihre Privatsphäre für uns enorm wichtig ist und immer sein wird.“ Obwohl Tesla versprochen hat, Ihre Privatsphäre vom Moment des Autokaufs an zu respektieren, hat das Unternehmen offenbar sein Wort nicht gehalten. In einem kürzlich erschienenen Bericht enthüllte Reuters, dass private Videos und Fotos von den Autokameras der Kunden von Tesla-Mitarbeiter:innen in Gruppenchats geteilt und manchmal auch gepostet wurden.

Die Praxis war von 2019 bis mindestens 2022 weit verbreitet, berichtet Reuters und zitiert Interviews mit neun ehemaligen Mitarbeiter:innen, die sich entschieden haben, die Wahrheit zu sagen. Die Bilder, die von beunruhigend bis sehr intim reichten, stammten von mehreren in Teslas Modellen eingebauten Kameras.

Bitte nur Kameras

Im Laufe der Jahre hat sich Tesla immer mehr auf Kameras verlassen, um die Selbstfahrfunktionen des Fahrzeugs zu unterstützen, und andere Sensoren aus dem Verkehr gezogen. Zuerst entfernte Tesla die Radarsensoren aus seinen Fahrzeugen, obwohl sie möglicherweise wieder eingebaut werden, und im letzten Jahr ging man dazu über, die Ultraschallsensoren loszuwerden zugunsten des reinen Kamerasystems „Tesla Vision“.

Das System stützt sich auf 8 Kameras, die strategisch um das Fahrzeug herum angebracht sind: drei vorne, zwei nach vorne und zwei nach hinten blickende an den Seiten und eine hinten. Diese Kameras nutzen KI, um Bilder in Echtzeit zu verarbeiten und zu interpretieren, so dass das Auto seine Umgebung sehen und verstehen kann. Einige Teslas haben auch eine zum Fahrer gerichtete Kamera, die über der Heckscheibe angebracht ist. Die „Kabinenkamera“ überwacht den Fahrer und gibt einen Signalton ab, wenn Sie die Augen nicht auf die Straße und die Hände nicht auf das Lenkrad richten.

Tesla versichert seinen Kunden, dass ihre Privatsphäre geschützt ist und dass Tesla nicht auf Bilder oder Videos der Innenraumkamera oder anderer Kameras zugreift oder diese weitergibt, es sei denn, Sie stimmen dem zu. Aber selbst wenn Sie einer solchen Datenweitergabe zustimmen, sagt Tesla, dass es die Daten nur für drei bestimmte Zwecke verwendet: um mit Ihnen zu kommunizieren, um Ihnen Dienste wie Over-the-Air-Updates zur Verfügung zu stellen und um seine Produkte und Dienste zu verbessern (es ist unnötig zu erwähnen, dass die Daten der Kunden nicht zum Spaß verwendet werden).

Da Kameras die Hauptinformationsquelle für das Autopilot-System von Tesla sind (Fords Active Driving Assist beispielsweise erhält Daten sowohl von Kameras als auch von einem Radarsensor), ist es entscheidend, dass sie Objekte genau erkennen können. Hier kommt die Arbeit menschlicher Datenbeschrifter ins Spiel, und hier beginnen die Probleme.

Memes aus Missgeschicken erstellen

Künstliche Intelligenz mag wie Magie erscheinen, aber sie ist immer noch stark auf menschliche Hilfe angewiesen. Um die KI-Systeme darauf zu trainieren, verschiedene Objekte auf der Straße zu erkennen, z. B. Autos, Verkehrsschilder, Fußgänger und Fahrspuren, beschäftigt Tesla Hunderte von menschlichen Beschreibern. Tesla ist mit dieser Praxis nicht allein; auch andere Autohersteller nehmen die Dienste sowohl interner als auch externer Datenmarker in Anspruch, um Videos und Bilder mit Anmerkungen zu versehen, die dann verwendet werden, um Algorithmen für selbstfahrende Autos zu lernen.

Anfänglich lagerte Tesla die Datenkennzeichnung an ein Unternehmen namens Sama (früher Samasource) aus. Das Unternehmen hat seinen Hauptsitz in San Francisco mit Zentren in Kenia und Uganda und zählt General Motors und Ford zu seinen Kunden. Im Laufe der Zeit wurde Tesla jedoch offenbar unzufrieden mit der Qualität der Beschriftung, die es von externen Auftragnehmern erhielt, und richtete einen eigenen Datenbeschriftungsdienst ein, der auf 1.000 Mitarbeiter:innen anwuchs.

Ein ehemaliger Mitarbeiter von Tesla erzählte Reuters, dass er manchmal „skandalöses Zeug“ zu sehen bekam, darunter „intime Szenen“. Ein anderer Ex-Mitarbeiter sagte, dass er in „viele Dinge eingeweiht war, von denen ich nicht möchte, dass sie jemand über mein Leben sieht“.

Um ihre langweilige Routine aufzupeppen oder ihre Begeisterung zu zeigen, konnten einige Arbeitnehmer offenbar nicht widerstehen, „coole“ Bilder, die sie gesehen hatten, in Gruppenchats mit Kollegen zu teilen. Nach Aussage einiger ehemaliger Mitarbeiter:innen wurde dieses Verhalten nur gelegentlich missbilligt und im Allgemeinen als Zeichen von Spaß und Engagement angesehen. „Leute, die in leitende Positionen aufstiegen, teilten viele dieser lustigen Dinge und erlangten Berühmtheit, weil sie lustig waren“, sagte ein ehemaliger Mitarbeiter gegenüber Reuters. Manchmal sollen die Mitarbeiter:innen die Screenshots mit Photoshop verschönert haben — mit anderen Worten: eine typische Büroatmosphäre, nur dass es sich um private Momente handelte, die zur internen Unterhaltung genutzt wurden.

Die Inhalte, die in Gruppen- und Einzelchats geteilt wurden, reichten von harmlosen Bildern von beliebigen Hunden oder einzigartigen Autos (darunter Berichten zufolge auch Elon Musks eigenes Unterwasserfahrzeug) bis hin zu beunruhigenden Bildern von Menschen.

„Anonymisierte Daten“… oder doch nicht ganz?

Wenn es Ihre Daten sind, die gesammelt (und möglicherweise weitergegeben) werden, kann es ein gewisser Trost sein, zu wissen, dass sie nicht zu Ihnen zurückverfolgt werden können. Das ist das Versprechen der Datenschutzrichtlinie von Tesla. Dort heißt es: „Um Ihre Privatsphäre zu schützen, werden personenbezogene Daten entweder überhaupt nicht aufgezeichnet, unterliegen datenschutzfreundlichen Techniken oder werden aus allen Berichten entfernt, bevor sie an Tesla gesendet werden.“ Klingt beruhigend, nicht wahr?

Laut Reuters verwendeten die Datensammler jedoch ein Programm, mit dem sie den Standort der Aufnahmen auf Google Maps anzeigen konnten. Dies könnte möglicherweise zu einer erneuten Identifizierung führen, z. B. wenn die Aufnahme in Ihrer Einfahrt gemacht wird. Nicht mehr ganz so beruhigend.

„Geschmacklose Unterhaltung“

Tesla, das seit 2020 keine PR-Abteilung mehr hat, hat sich zu den Vorwürfen bedeckt gehalten. Andererseits haben sich Tesla-Besitzer:innen, die über den möglichen Missbrauch ihrer persönlichen Daten besorgt sind, deutlicher geäußert. Einer von ihnen, ein Einwohner von San Francisco und Besitzer eines Model Y, Henry Yeh, verklagte Tesla in Kalifornien wegen der Aufnahme von „hochgradig invasiven Videos und Bildern von Autobesitzer:innen“ und deren Weitergabe zur „geschmacklosen und unerlaubten Unterhaltung von Tesla-Mitarbeiter:innen und vielleicht auch von Personen außerhalb des Unternehmens.“

Yeh möchte mit seiner Klage alle betroffenen Kunden vertreten. Er wirft Tesla vor, „unmoralisch, unethisch, skrupellos oder in erheblichem Maße verbraucherschädigend“ zu sein. Er behauptet auch, dass Tesla seinen Vertrag mit den Kunden gebrochen hat, indem es das Filmmaterial nicht anonymisiert hat, da das von den Mitarbeiter:innen verwendete System Berichten zufolge die Standorte der Aufnahmen preisgeben könnte.

Wie Tesla-Memes mehr als nur Zufall sein können

Auf die Frage von Reuters nach ihrer Meinung zu den Geschehnissen sagten einige ehemalige Tesla-Mitarbeiter:innen, dass die Art und Weise, wie mit den privaten Daten der Kunden umgegangen wurde, falsch war. „Es war ein Verstoß gegen die Privatsphäre, um ehrlich zu sein. Und ich habe immer gescherzt, dass ich nie einen Tesla kaufen würde, nachdem ich gesehen habe, wie sie einige dieser Leute behandelt haben“, wurde ein ehemaliger Mitarbeiter zitiert.

Zwei andere Ex-Mitarbeiter:innen sagten jedoch, dass dies keine große Sache sei, was laut Reuters darauf hindeutet, dass „die Leute schon vor langer Zeit jede vernünftige Erwartung aufgegeben haben, persönliche Daten privat zu halten.“

Letztere Aussage spiegelt die Einstellung zum Datenschutz wider, die kein Geringerer als Tesla-Chef Elon Musk zum Ausdruck gebracht hat. In einem Interview mit dem Podcaster Joe Rogan hinterfragte Musk die Bedeutung der Privatsphäre in der modernen Welt, die bald von der KI beherrscht wird. „Ich denke, es gibt nicht so viel, was die Menschen privat halten, was wirklich relevant ist. Was andere Menschen tatsächlich interessieren würde. Wenn man denkt, dass es andere Leute interessiert, aber es interessiert sie nicht wirklich. Und die Regierungen ganz sicher nicht“, Musk sagte Rogan im Jahr 2018.

Warum Musk und Co. sich irren

Musk scheint zu sagen, dass sich niemand um Ihre privaten Daten kümmert, dass Sie darüber keine schlaflosen Nächte verbringen sollten. Doch die Praktiken seines eigenen Unternehmens verraten eine andere Wahrheit: Gelegentlich ist es den Menschen nicht egal. Im Fall von Tesla haben die Mitarbeiter:innen private Videos und Bilder verwendet, um die Routine zu unterbrechen. Das würde man mit seinen Daten sowieso nicht wollen, aber was ist, wenn jemand anderes ein dunkleres Motiv hat? Jemand könnte diese Daten zur Erpressung oder zur Vorbereitung eines Raubüberfalls verwenden. Und wenn Sie eine Person des öffentlichen Lebens sind, z. B. ein Prominenter oder Politiker, können Ihnen Ihre privaten Daten zum Verhängnis werden, wenn sie in die falschen Hände geraten.

Die Mitarbeiter:innen haben vielleicht keine böswilligen Absichten (wie die vom Staubsaugerhersteller iRobot angeheuerten Dritten, die die intimen Bilder ihrer Besitzer:innen an Facebook und Discord weitergegeben haben), aber die Opfer des Datenmissbrauchs können trotzdem sehr darunter leiden. Die von Reuters beschriebene Arbeitsumgebung in der Kennzeichnungsabteilung von Tesla ähnelt auf unheimliche Weise der Arbeitsmoral (oder dem Fehlen einer solchen) bei der NSA, wie von Edward Snowden enthüllt.

Die Risiken, die Sie nicht vermeiden, aber minimieren können

Der Fall von Tesla ist kein Einzelfall. Solange Unternehmen Menschen einstellen müssen, um Rohdaten zu sichten und KI-Algorithmen zu verbessern, werden Fälle wie der von Tesla nicht ausbleiben. Der Mensch ist das schwächste Glied, wenn es um den Schutz von Daten geht: Es besteht immer das Risiko, dass ein Mitarbeiter sie zu seinem eigenen Vorteil nutzt oder sie weitergibt. Letzteres war beispielsweise bei Google der Fall, dessen Partner mehr als 1.000 Audioaufnahmen von Kundengesprächen mit dem Google Assistant einer Nachrichtenseite übermittelt haben — die Nachrichtenseite konnte daraufhin erfolgreich einige der Personen in den Sprachclips identifizieren.

Wir treten in das Zeitalter der KI ein. Wenn wir dieses Problem nicht bald lösen, wird es immer mehr Raum für Probleme geben. Was die Automobilindustrie betrifft, so sind die meisten modernen Autos bereits bis zum Rand mit Sensoren und Kameras ausgestattet, die auf KI basieren. Der Weltmarkt für Autokameras wird bis 2030 voraussichtlich 69 Milliarden Dollar erreichen, während der Markt für Autosensoren auf dem besten Weg ist, in fünf Jahren 36,53 Milliarden Dollar zu erreichen. Autos brauchen diese Kameras und Sensoren, um selbst zu fahren, zu parken und sicher zu sein, und es ist unmöglich, sich die Zukunft der Automobilindustrie ohne sie vorzustellen.

Das stellt uns vor ein Dilemma: Entweder wir nehmen den technischen Fortschritt und die damit verbundenen Risiken für die Privatsphäre in Kauf oder wir kaufen ein Auto, das nicht so viele Kameras hat. Letzteres wäre wahrscheinlich sicherer, was den Schutz der Privatsphäre angeht, aber es könnte auch weniger bequem sein. Aber selbst wenn wir uns den Früchten des technischen Fortschritts — den mehr oder weniger selbstfahrenden Autos — hingeben, gibt es immer noch Möglichkeiten, die Risiken für die Privatsphäre zu minimieren.

Zumindest können Sie sich vor dem Kauf eines Autos über die Datenschutzrichtlinien der Hersteller informieren und die vorhandenen Datenschutzoptionen nutzen, die sie anbieten. Bei Tesla können Sie beispielsweise die Weitergabe von Daten über den Touchscreen Ihres Fahrzeugs ablehnen (man kann nur hoffen, dass Ihre Ablehnung die Datenerfassung tatsächlich verhindert, aber das ist ein anderes Thema). Und um zu erfahren, was Tesla bereits über Sie weiß, können Sie eine Kopie der mit Ihrem Tesla-Konto verbundenen Informationen anfordern.