Como os trabalhadores da Tesla transformaram as imagens das câmeras de um carro em memes

“Privacy from day one”, ou privacidade desde o primeiro dia, em português. Esta é uma das primeiras linhas do aviso de privacidade do cliente da Tesla. Nele, a fabricante de carros elétricos diz "sua privacidade é e sempre será extremamente importante para nós." Apesar de prometer respeitar sua privacidade desde o momento em que você comprou o carro, a Tesla aparentemente falhou em cumprir sua palavra. Em um relatório recente, a Reuters revelou que videos privados e fotos das câmeras de carros de clientes eram compartilhadas e até mesmo transformadas em memes pelos empregados, acabando em grupos de chat.

A prática ocorreu de forma desenfreada de 2019 até pelo menos 2022, segundo a Reuters, que citou entrevistas com nove ex-empregados que decidiram expor tudo. As imagens, que incluiam conteúdo perturbador e íntimo, vieram de várias câmeras embutidas nos modelos da Tesla.

Câmeras e mais nada

Com o passar dos anos, a Tesla passou a confiar cada vez mais nas câmeras para dar suporte aos recursos de direção autônoma do carro, enquanto aposentava outros sensores. Primeiro, a Tesla removeu os radares de seus veículos, embora possa trazê-los de volta e, no ano passado, eles cancelaram os sensores ultrassom para dar início ao uso do sistema "Tesla Vision", que funciona apenas através de câmeras.

O sistema funciona a partir de oito câmeras localizadas estrategicamente ao redor do carro: três na parte frontal, duas apontadas para a frente, e duas para trás na lateral, e uma na parte anterior do veículo. Estas câmeras utilizam a Inteligência artificial para processar e interpretar imagens em tempo real, fazendo com que o carro entenda o ambiente que o rodeia. Alguns Teslas também contam com uma câmera apontada para o motorista localizada sobre a janela posterior. A "câmera da cabine" monitora o motorista e solta um bipe se ele não mantiver os olhos na estrada ou as mãos no volante.

A Tesla garante a seus clientes que sua privacidade está protegida e que não acessa nem compartilha nenhuma imagem ou vídeo da câmera da cabine ou de qualquer outra câmera, a menos que concordem com isso. Mesmo que você opte por esse compartilhamento de dados, a Tesla afirma que só os utiliza para três finalidades específicas: para se comunicar com você, fornecer serviços como atualizações over-the-air e melhorar seus produtos e serviços (não é preciso dizer que não há menção ao uso dos dados dos clientes para fins de entrenimento).

Como as câmeras são a fonte primária de informação para o sistema de piloto automático da Tesla (por exemplo, o Active Driving Assist da Ford é alimentado por dados tanto de câmeras, como de sensores de radar), é essencial que elas possam detectar objetos com precisão. É então que o trabalho de organizadores de dados humanos entra em ação e é neste estágio que os problemas começam a aparecer.

Acidentes que viram memes

A inteligência artificial pode parecer mágica, mas ainda depende muito da ajuda humana. Para treinar os sistemas de IA a identificar diferentes objetos na estrada, como carros, sinais de trânsito, pedestres e faixas, a Tesla emprega centenas de rotuladores humanos. A Tesla não está sozinha nessa prática: outros fabricantes de carros também utilizam tanto os serviços de seu próprios organizadores de dados, quanto de terceiros para rotular vídeos e imagens, que são posteriormente usados para alimentar os algorítimos dos carros com piloto automático.

No início, a Tesla utilizava os serviços de uma empresa rotuladora de dados chamada Sama (antiga Samasource). A empresa possui sede em São Francisco, possui escritórios no Quênia e na Uganda e conta com clientes como General Motors e Ford. Com o passar do tempo, no entanto, a Tesla aparentemente ficou insatisfeita com a qualidade da rotulagem que estava recebendo de prestadores de serviços externos e criou um serviço interno de rotulagem de dados que chega a 1.000 funcionários.

Um ex-colaborador do laboratório de dados da Tesla disse à Reuters que eles chegavam a ver "coisas escandalosas", incluindo "cenas de intimidade". Outro ex-colaborador disse que tinha entrato em contato com "muitas coisas que eu não gostaria que ninguém visse se fosse parte da minha vida".

Seja para tornar suas rotinas menos monótonas ou para mostrar seu entusiasmo, alguns funcionários aparentemente não resistiam a compartilhar imagens "interessantes" que viam em grupos de chat com colegas de trabalho. De acordo com alguns ex-funcionários, esse comportamento sofria críticas apenas ocasionalmente mas, em geral, era visto como um sinal de diversão e envolvimento com o trabalho. "As pessoas que eram promovidas a cargos de liderança compartilhavam muitos destes vídeos e fotos engraçados e ficavam conhecidos pelo seu senso de humor", disse um ex-rotulador à Reuters. Os funcionários chegavam mesmo a fazer edições em capturas de tela com o photoshop, ou seja, um típico clima de escritório, mas com um problema: eram os momentos íntimos de várias pessoas que estavam sendo usados para o entretenimento interno.

Os tipos de conteúdo compartilhados nos bate-papos em grupo e individuais eram variados: havia tanto coisas inofensivas, como fotos de cães aleatórios ou carros exclusivos (incluindo, segundo informações, o próprio veículo submersível de Elon Musk), quanto pertubadoras, como pessoas caindo, sendo forçadas a entrar em carros e carros batendo em bicicletas.

"Dados anônimos"... ou não?

Quando são os seus dados que estão sendo coletados (e potencialmente vazados), pode haver um certo conforto em saber que eles não podem ser rastreados até você. Essa é a promessa da política de privacidade da Tesla. Ela diz: "Para proteger sua privacidade, os dados pessoais não são registrados, estão sujeitos a técnicas de preservação da privacidade ou são removidos de qualquer relatório antes de serem enviados à Tesla." Parece tranquilizador, né?

No entanto, de acordo com a Reuters, os rotuladores de dados usaram um programa que lhes permitiu visualizar a localização das gravações no Google Maps. Isso poderia levar a uma reidentificação, como, por exemplo, quando a gravação é feita em sua garagem. A situação mão é assim tão reconfortante.

"Entretenimento de mau gosto"

A Tesla, que não tem um departamento de relações públicas desde 2020, tem se mantido calada sobre as alegações. Por outro lado, os proprietários de produtos da Tesla, preocupados com o possível uso indevido de seus dados pessoais, têm se manifestado. Um deles, um morador de São Francisco e proprietário do Modelo Y, Henry Yeh, processou a Tesla na Califórnia por capturar "vídeos e imagens altamente invasivos dos proprietários dos carros" e compartilhá-los para o "entretenimento de mau gosto dos funcionários da Tesla e talvez de pessoas de fora da empresa".

Yeh quer que seu processo represente todos os clientes afetados. Ele acusa a Tesla de ser "imoral, antiética, inescrupulosa ou substancialmente prejudicial aos consumidores". Ele também diz que a Tesla quebrou seu contrato com os clientes ao não tornar anônimas as filmagens, pois o sistema usado pelos funcionários poderia revelar os locais das gravações.

Os memes da Tesla podem ser mais do que um simples acidente

Quando perguntados pela Reuters sobre o que achavam do ocorrido, alguns ex-funcionários da Tesla disseram que a maneira como as informações privadas dos clientes foram tratadas é errada. Foi uma violação de privacidade, para falar a verdade. E eu sempre brincava dizendo que nunca compraria um Tesla depois de ver como eles tratavam algumas dessas pessoas", disse um ex-funcionário.

Mas dois outros ex-funcionários disseram que não era nada demais, sugerindo, de acordo com a Reuters, que "as pessoas já desistiram há muito tempo de qualquer expectativa razoável de manter a privacidade de seus dados pessoais".

Essa última declaração ecoa a atitude em relação à privacidade expressa por ninguém menos que o CEO da Tesla, Elon Musk. Em uma entrevista com o podcaster Joe Rogan, Musk questionou a importância da privacidade no mundo moderno, que em breve será dominado pela IA. Acho que não há muita coisa mantida em sigilo pelas pessoas que seja realmente relevante ou que as pessoas realmente se importem com isso. Você pode até achar que alguém prestará atenção nisso, mas não é bem assim. Os governos também, certamente, não se importam" Musk disse a Rogan em 2018.

Por que Musk e os que concordam com ele estão errados

O que Musk parece dizer é que ninguém se importa com seus dados privados, e por isso você não deve se preocupar. Mas as práticas de sua própria empresa revelam uma verdade diferente: as pessoas, em algumas circunstâncias, se importam sim. No caso da Tesla, os funcionários estavam usando vídeos e fotos particulares para quebrar a rotina. Você certamente não gostaria que isso acontecesse com seus dados, mas a situação pode ficar ainda pior: alguém poderia estar usando esses dados para chantagem ou para organizar um roubo. Se você for uma figura pública, como uma celebridade ou um político, seus dados privados podem representar o fim da sua carreira se caírem nas mãos erradas.

Pode ser que os empregados não estivessem mal intencionados, (como os rotuladores de dados de terceiros contradados pela iRobot ao vazar imagens íntimas no Facebook e no Discord), mas as vítimas do mau uso de dados ainda assim sofrem muito. Pode-se dizer que o ambiente de trabalho da Tesla, conforme descrito pela Reuters, não é tão diferente em questões de ética (ou falta dela) da NSA, conforme relatado por Edward Snowden.

Riscos à privacidade que você não pode eliminar, mas amenizar

O caso da Tesla não é isolado. Enquanto as empresas tiverem que contratar humanos para examinar dados e aprimorar os algoritmos de IA, casos como este estão fadados a acontecer. Os seres humanos são o elo mais fraco quando se trata de proteger dados: sempre há o risco de um funcionário usá-los em benefício próprio ou vazá-los, como ocorreu com o Google, por exemplo. Colaboradores terceiros deste último vazaram mais de 1.000 gravações de áudio de conversas de clientes com o Google Assistant para um site de notícias, que conseguiu identificar algumas das pessoas nas gravações de voz.

Estamos entrando na era da IA, portanto, é seguro apostar que, se não resolvermos esse problema em breve, haverá cada vez mais espaço para que algo dê errado. No que diz respeito ao setor automotivo, a maioria dos carros modernos já está repleta de sensores e câmeras que dependem de IA. Espera-se que o mercado global de câmeras automotivas atinja 69 bilhões de dólares até 2030, ao mesmo tempo que os lucros com sensores automotivos cheguem a 36,53 bilhões de dólares em cinco anos. Os carros precisam dessas câmeras e sensores para que consigam dirigir sozinhos e estacionar, e é impossível imaginar o futuro do setor automotivo sem eles.

Isso nos apresenta um dilema: abraçar o avanço tecnológico e os riscos à privacidade que o acompanham, ou comprar um carro que não tenha tantas câmeras. A última opção provavelmente seria mais segura em termos de privacidade, mas também pode ser menos conveniente. Mas mesmo que sucumbamos aos frutos do progresso tecnológico, ainda há maneiras de minimizar os riscos à privacidade.

O mínimo que pode ser feito é estudar as políticas de privacidade dos fabricantes antes de comprar um carro e aproveitar as opções de privacidade existentes que eles oferecem. Por exemplo, a Tesla permite que você opte por não compartilhar dados por meio da tela sensível ao toque do seu carro (nos resta ter esperança de que essa opção de fato impeça a coleta de dados, mas isso é outra questão). E, para saber o que a Tesla já sabe sobre você, você pode solicitar uma cópia das informações associadas à sua conta Tesla. A informação é a melhor arma.