Vigilância por IA, primeiro vazamento do ChatGPT e mais anúncios. Resumo AdGuard

Nesta edição do resumo de notícias AdGuard: ChatGPT expõe dados pessoais; Instagram mostra ainda mais anúncios; empresa financiada pela CIA administra registros de pacientes; França está perto de permitir a vigilância por IA; outro estado americano recebe sua própria lei de privacidade; e a polícia está recorrendo cada vez mais para a tecnologia de reconhecimento facial.

ChatGPT vaza informações sobre chats e pagamentos na primeira grande violação de dados

O ChatGPT, um popular chatbot alimentado por Inteligência Artificial, sofreu sua primeira violação de dados pessoais. A violação revelou os títulos de chat de alguns usuários e as mensagens iniciais de suas conversas com o chatbot para outros usuários, que puderam vê-los em seu próprio histórico de chat. Além disso, algumas informações relacionadas ao pagamento de cerca de 1,2% dos usuários ativos do ChatGPT Plus também podem ter sido expostas. Essas informações poderiam ter incluído o nome completo dos usuários, endereço de e-mail, os últimos quatro dígitos do número de seu cartão de crédito e a data de validade do cartão.

A OpenAI, a empresa por trás do ChatGPT, culpou o vazamento em um bug em uma biblioteca de código aberto que ela usa para o ChatGPT. Em uma declaração, a OpenAI disse que o bug foi corrigido desde então, e alegou que não havia "nenhum outro risco para os dados dos usuários".

A primeira violação de privacidade do ChatGPT aconteceu muito rapidamente, mas não deveria ter sido uma surpresa tão grande. A privacidade é algo que os desenvolvedores de ferramentas de Inteligência Artificial colocaram em segundo plano ao treinarem seus modelos com dados que incluem conteúdo protegido por direitos autorais, coletados de toda a internet. Na verdade, você não pode esperar muita privacidade ao usar o ChatGPT: em seus termos de serviço, a OpenAI declara abertamente que pode usar suas entradas de texto e imagens para melhorar seus serviços, o que quer que isso signifique.

O Instagram entregou o que ninguém pediu: mais anúncios

Desde que começou a mostrar anúncios em 2013, o Instagram parece ter a missão de mostrar o maior número possível de anúncios em seu feed. Esta tendência continuará em 2023, já que o Instagram acaba de introduzir dois novos tipos de anúncios: anúncios que aparecem quando você procura por algo e anúncios que lembram produtos que você já viu antes.

Os "anúncios de busca" aparecem depois que você tocar em um post a partir dos resultados da busca. Este formato de anúncio ainda está nos estágios iniciais de lançamento, e está programado para ficar disponível globalmente nos próximos meses. Os "anúncios de lembrete" prometem ser menos intrusivos, pois você precisa optar por eles para ver as notificações sobre o início de um evento anunciado.

Não é segredo que não somos os maiores fãs de anúncios, especialmente quando se trata do Instagram, uma plataforma que já está saturada com anúncios e posts "patrocinados". Mas será esta será a gota d'água? Improvável, mas pode acelerar a migração dos usuários que sofrem de "fadiga publicitária" para outras plataformas mais limpas, como o BeReal.

Hospitais britânicos tiveram que compartilhar dados com a empresa americana Spytech

A Palantir, uma empresa de mineração de dados ligada com a CIA, foi contratada para coletar e processar "informações confidenciais sobre pacientes" de hospitais públicos britânicos, informou a OpenDemocracy. De acordo com um documento interno citado pela publicação, foi dito a centenas de hospitais que começassem a carregar registros de pacientes para um banco de dados administrado pela Palantir. O banco de dados utiliza o software da Palantir chamado Foundry, que integra dados de diferentes fontes e ajuda na análise dos mesmos.

A Palantir já ofereceu para o NHS: em 2020, foi responsável pelo lançamento da vacina Covid-19. Desde então, a empresa americana conseguiu dezenas de milhões de dólares em contratos com o governo britânico e está de olho em um novo contrato de 580 milhões de dólares para construir um banco de dados do NHS.

O governo britânico garantiu que a Palantir não teria acesso a informações que poderiam expor as identidades das pessoas porque estas seriam "mascaradas" pela pseudoanonimização. Este é um método onde as informações que podem ser usadas para identificar indivíduos são mantidas separadas do resto dos dados. Entretanto, este método não é infalível, pois as informações "ocultas" podem ser fundidas novamente com os dados conhecidos, o que cria um sério risco à privacidade e à segurança. E o fato de que estes dados estão sendo tratados pela Palantir, uma empresa conhecida por seu trabalho com a polícia e o FBI, torna tudo isso ainda mais preocupante.

Liberdade, igualdade, vigilância: a França está legalizando um sistema de monitoramento alimentado por IA

A França está mais perto de legalizar o uso da vigilância alimentada por IA, e está preparada para se tornar o primeiro país da UE a fazer isso. Ambas as câmaras do parlamento francês aprovaram por esmagadora maioria o projeto de lei que dá luz verde ao uso de um software de vigilância com base em Inteligência Artificial para monitorar as pessoas durante os Jogos Olímpicos e Paraolímpicos do próximo ano em Paris.

A medida deve ser temporária mas, quando se trata de um programa governamental, sempre há riscos de que se torne algo mais permanente. Os apoiadores do projeto de lei dizem que a mistura de câmeras e inteligência artificial é o que é necessário para impedir conflitos e ataques. O governo francês afirma que a vigilância não envolveria o reconhecimento facial. Entretanto, os críticos dizem que envolveria necessariamente a coleta e o processamento de outros dados biométricos, incluindo aparência, postura, gestos e modo de andar, o que seria suficiente para identificar uma pessoa. Organizações defensoras da liberdade civil argumentam que o sistema proposto poderia levar a um "ataque total aos direitos de privacidade, protesto e liberdade de reunião".

De fato, há o risco de que a lei possa colocar a França em um caminho sem volta rumo a um estado de vigilância total, ficando cada vez mais longe de ser Les Pays des Droits de l'Homme (O País dos Direitos Humanos), como é conhecida há tempos. Além disso, isso também pode criar um precedente perigoso para o resto da União Europeia.

Polícia americana confia cada vez mais na tecnologia de reconhecimento facial

Se você precisar de um exemplo de onde isso tudo pode acabar, não é preciso ir muito longe: basta olhar para os EUA, onde a polícia realizou quase um milhão de buscas em um banco de dados compilado pela Clearview AI, uma empresa americana de reconhecimento facial. Isto foi revelado pelo próprio Hoan Ton-that, CEO da Clearview. Ele disse que a empresa já coletou 30 bilhões de imagens da Internet e as colocou em um banco de dados que pode ser pesquisado pela polícia. As imagens foram coletadas sem o conhecimento ou consentimento dos usuários.

No ano passado, a Clearview AI foi proibida de vender seu software a empresas privadas e indivíduos americanos, mas não a agentes da lei. Alguns estados e cidades dos EUA tomaram a questão em suas próprias mãos e proibiram ou restringiram severamente o uso de tecnologia de reconhecimento facial pela polícia. Outros não o fizeram. A polícia de Miami disse à BBC que eles usam o reconhecimento facial para "todos" os tipos de crimes.

A forma como o Clearview coleta dados biométricos sem o conhecimento ou consentimento das pessoas é uma violação da privacidade. Isto coloca milhões de pessoas em risco de que seus dados pessoais sejam mal utilizados. Por ser uma empresa privada, a Clearview opera sob um véu de sigilo, por isso a precisão de seu algoritmo também é questionável. Sabe-se que o reconhecimento facial por Inteligência Artificial pode ser racialmente tendencioso e causar acusações falsas e detenções incorretas. A IA tem muitos usos positivos, mas permitir um estado de vigilância não é um deles. Para evitar o uso da IA para esses fins, é necessária mais regulamentação.

Mais um estado americano ganha uma lei abrangente de privacidade de dados

Para não terminar nosso resumo de notícias com negatividade, aqui estão algumas boas notícias: o Iowa acabou de se tornar o sexto estado americano e o primeiro do Meio Oeste a promulgar uma lei de privacidade abrangente. A lei dá aos residentes do estado maior controle sobre suas informações pessoais, incluindo o direito de optar pela não venda de seus dados pessoais e seu uso para publicidade direcionada.

A lei visa preencher a lacuna deixada pela falta de legislação federal americana sobre privacidade. Ela entraria em vigor em 2025 e se aplicaria a empresas que lidam com dados pessoais de pelo menos 100.000 cidadãos do Iowa em um ano, ou que têm mais de 50% de sua receita com a venda de dados pessoais e ao mesmo tempo processam os dados de pelo menos 25.000 consumidores no estado. Ao promulgar esta lei, Iowa segue os passos da Califórnia, Colorado, Connecticut, Utah e Virgínia, que aprovaram uma legislação semelhante.

Embora a nova lei seja um grande passo adiante em termos de proteção de privacidade no estado, o simples fato de Iowa ser apenas o sexto estado entre 50 a ter tal lei reflete o mau estado de proteção de privacidade nos Estados Unidos como um todo. Uma lei federal de privacidade já é esperada há muito tempo, e esperamos que ela chegue mais cedo do que tarde.