이번 AdGuard 다이제스트에서는 다음과 같은 소식을 전해드립니다.

• AI 모델 학습을 더 쉽게 거부할 수 있는 ChatGPT
• 사용자의 웹 기록을 유출한 Microsoft의 엣지 브라우저
• 인기 VPN과 경찰의 정면 대결
• 네이팜탄 레시피를 공개하는 AI 챗봇

사용자의 검색 기록을 Bing에 유출하다 적발된 엣지

Microsoft의 Edge 브라우저가 사용자의 웹 검색을 Bing API(Bing 검색 엔진에 사용하는 서비스)와 공유하던 사실이 적발되었습니다. 이 문제는 Reddit의 사용자가 처음 발견했는데, 이 사용자는 Edge가 사용자가 방문하는 거의 모든 웹사이트의 전체 URL을 bingapis.com으로 전송하는 것을 발견했습니다.

이 문제는 크리에이터 팔로우라는 새로운 Edge 기능 구현의 명백한 버그에서 비롯된 것으로 밝혀졌습니다. Edge 브라우저의 최신 버전에서 기본적으로 활성화되는 이 기능을 사용하면 YouTube와 같은 다른 플랫폼에서 구독할 필요 없이 Edge에서 바로 크리에이터를 팔로우하고 최신 게시물에 대한 알림을 받을 수 있습니다.

Edge와 Bing API는 모두 Microsoft가 소유하고 있지만, Edge 사용자는 자신의 전체 검색 기록이 Bing API로 전송되는 것에 동의하지 않았으며 이는 심각한 사용자 신뢰 위반입니다. 검색 기록을 통해 사용자의 관심사, 위치, 재정 상태, 심지어 의료 정보 등 많은 정보를 알 수 있으며, 누군가가 사용자 모르게 또는 사용자의 동의 없이 검색 기록을 노출하는 것은 개인정보 및 보안 침해에 해당합니다. 마이크로소프트는 The Verge에 이 문제를 조사 중이라고 말했지만, 언제 해결될지는 명확하지 않으므로 해당 기능을 비활성화하는 것이 더 나을 것입니다. 이 기능을 비활성화하기 위해 설정 → 개인 정보 보호, 검색 및 서비스 → 서비스로 이동하여 Microsoft Edge에서 크리에이터를 팔로우하도록 제안 표시 설정을 끄세요.

규제 압박 속에서 개인 정보 보호를 간소화하는 ChatGPT

이탈리아에서의 사용 금지 (이제 금지 해제됨), 명예훼손 소송의 위협, EU의 규제 압력에 직면한 OpenAI는 개인 정보 보호 친화적인 서비스로 다시 자리매김하기 위해 노력하고 있습니다(하지만 여전히 저작권 보호를 받는 부분을 포함한 전체 인터넷에서 데이터를 크롤링하여 모델을 학습시킬 것임). 4월 25일 블로그 글에서 OpenAI는 이제 계정에서 채팅 기록 및 교육 설정을 끄기만 하면 ChatGPT에서 채팅 기록을 끌 수 있게 되었다고 발표했습니다. 이 설정을 끄면 OpenAI는 사용자의 데이터를 AI 모델 학습에 사용하지 않는다고 밝혔습니다. 이전에는 OpenAI로 AI 모델 학습을 거부할 수도 있었지만, 먼저 특별한 데이터 거부 양식을 찾아서 작성해야 했습니다.

하지만 새로운 기능이 챗봇과의 대화를 흔적도 없이 사라지는 인스턴트 메시지처럼 처리하는 것은 아닙니다. OpenAI는 '저장되지 않은' 채팅도 '어뷰징 모니터링'을 위해 30일 동안 보관한 후 삭제할 것이라고 밝혔습니다. 이 설정은 사용자가 챗봇과 나누는 새로운 대화에만 적용되므로 OpenAI는 이전 대화를 사용하여 모델을 학습시킬 수 있습니다.

하지만 이 기능을 통해 사용자는 자신의 데이터를 더 잘 제어할 수 있으며, OpenAI가 AI 학습을 거부한 사용자의 데이터를 이러한 목적으로 사용하지 않겠다는 약속을 지킨다고 가정하면 올바른 방향으로 나아가는 단계라고 볼 수 있습니다.

경찰이 VPN을 급습했지만 (보도에 따르면) 빈손으로 돌아갔다

스웨덴의 VPN 서비스 물바드(Mullvad)는 경찰이 사용자 데이터를 요구했지만 빈 손으로 떠났다고 밝혔습니다. 물바드는 4월 18일 예테보리 사무실에 "최소 6명의 경찰관"이 나타나 "고객 데이터가 담긴 컴퓨터"를 압수하려고 시도했다고 주장했습니다. 물바드는 엄격한 로깅 금지 정책을 따르고 있기 때문에 넘겨줄 데이터가 없다고 경찰에 설명했으며, 압수수색은 불법이라고 말했습니다. 멀바드에 따르면 경찰은 빈손으로 사무실을 떠났다고 합니다.

스웨덴 경찰 대변인은 더버지(The Verge)와의 인터뷰에서 이번 압수수색이 "심각한 사이버 범죄"에 대한 수사와 관련이 있다고 말했지만, 더 자세한 내용은 밝히지 않았습니다.

독일 북부 로스토크 시의 검사 폴 파이퍼에 따르면, 이 작전은 2021년 10월 메클렌부르크-서부 포메리아 주에 있는 여러 지방 정부 기관을 공격한 협박 공격과 관련이 있다고 합니다. 이 공격으로 인해 해당 기관들은 업무를 수행할 수 없었습니다. 아직 진행 중인 조사 과정에서 VPN 서비스인 물바드로 연결되는 IP 주소가 발견되었습니다. 검사는 이메일을 통해 이번 수사가 VPN 서비스를 겨냥한 것이 아니라고 밝혔습니다.

로그를 보관하지 않는 VPN은 서비스 이용 시 사용자의 온라인 활동에 대한 어떠한 데이터도 수집하거나 저장하지 않습니다. 즉, 정부 같은 다른 기관이 해당 데이터를 요청하더라도 VPN이 제공할 수 있는 것은 없습니다. 노로그 정책은 AdGuard VPN과 같이 개인 정보 보호를 중시하는 VPN 제공업체가 핵심적으로 지원하는 기능입니다. 하지만 일부 VPN은 "로그를 보관하지 않는다"고 말하지만 실제로는 일부 로그를 보관하는 경우도 있습니다. 특히 무료 VPN의 경우 더욱 그렇습니다. 따라서 VPN 서비스를 사용하기 전에 해당 서비스의 개인 정보 보호 정책과 리뷰를 확인하는 것이 좋습니다.

사용자에게 네이팜탄 제조 및 필로폰 제조 방법을 알려주는 AI 챗봇

저희는 인공지능 기반 챗봇의 위험성에 대해 많은 글을 써 왔습니다.
최근에는 일부 Discord 서버에 베타 버전으로 출시된 OpenAI의 기술 기반 챗봇인 클라이드가 주목받고 있습니다. 클라이드는 사용자에게 위험한 화학 물질인 네이팜탄과 치명적인 마약인 필로폰을 만드는 방법을 제공해 즉각적으로논란을 불러일으켰습니다.

한 프로그래머는 클라이드에게 돌아가신 할머니가 네이팜탄 공장에서 일하셨고 자신에게 네이팜탄 제조법을 가르쳐 주셨다고 말했습니다. ‘할머니’로 역할극을 해달라는 요청을 받은 클라이드는 '손주'를 위해 상세한 네이팜탄 만들기 튜토리얼을 제작했습니다. 또 다른 사례에서는 한 학생이 Do Anything Now(DAN) 프롬프트를 사용하여 클라이드에게 필로폰 제조 방법에 대한 튜토리얼을 제작하도록 강요했습니다.

테크크런치에 따르면 '할머니 익스플로잇'은 이후 패치가 적용되었지만, 새로운 익스플로잇이 이를 대체할 것이라고 합니다. 챗봇에 내장된 안전장치에도 불구하고, 심지어 OpenAI가 자체적으로 출시하고 최신 모델인 GPT-4를 기반으로 하는 챗봇(Clyde가 어떤 OpenAI 모델을 기반으로 하는지는 명확하지 않음)을 손쉽게 속여 하지 말아야 할 일도 하게 만들 수 있는 것이 입증되었습니다. 그리고 이것은 조만간 해결되어야 할 문제이며, 그렇지 않을 시 끔찍한 결과를 불러올 수 있을 것입니다.

광고주에게 비용을 지불하도록 하여 광고 품질을 개선하고자 하는 트위터

트위터는 광고주에게 플랫폼에서 계속 광고를 게재하려면 트위터 블루의 경우 월 최대 8달러, 인증된 조직 구독의 경우 월 1,000달러를 지불하는 등 인증 절차를 거쳐야 한다고 안내했습니다. 온라인에 공유된 트위터의 이메일 스크린샷에 따르면 이 정책은 4월 21일부터 시행되었다고 합니다.

트위터에 따르면, 이번 정책 변경으로 콘텐츠의 품질이 “향상”되고 광고주와 사용자 모두의 경험이 “개선”될 것이며, 봇 활동과 사기 행위도 감소할 것으로 예상됩니다.

하지만 트위터가 광고주에게 신용카드, 전화번호, 월별 결제 금액을 요구하는 것 외에 다른 조치를 취하지 않는 한 광고 품질이 어떻게 개선될지는 불분명합니다. 따라서 그늘에 가려진 광고주를 없애고 광고를 조금 덜 끔찍하게 만든다는 아이디어는 좋지만, 트위터가 제안한 목표 달성 수단은 적절하지 않은 것 같습니다. 현재로서는 이 정책 변경이 트위터가 유의미한 서비스를 제공하지 않은 채 돈을 벌기 위한 또 다른 수단으로 보입니다. 하지만 저희의 생각이 틀린 것으로 밝혀진다면 기쁠 것입니다.