TechTok #13. AI는 내 데이터를 정말 학습에 쓰나요?
오늘날 AI는 코딩이나 이미지 처리처럼 당연해 보이는 분야부터, 질병 진단이나 법률 업무처럼 덜 눈에 띄는 영역까지 사실상 우리 삶의 거의 모든 부분에 들어와 있습니다. AI는 어디에나 있습니다. 그리고 AI 작동 원리를 잘 모르는 사람이라도, AI가 실제로 쓰이기 전까지 엄청난 양의 데이터를 학습해야 한다는 말 정도는 한 번쯤 들어 보셨을 것입니다.
이 데이터는 어딘가에서 가져와야 하고, 여기서 오늘 TechTok의 첫 번째 질문으로 자연스럽게 이어집니다.
앱과 웹사이트가 내가 모르는 사이에 내 데이터를 AI 학습에 쓰고 있나요?
이 질문에 딱 잘라 말할 수 있는 짧은 답은 없습니다. 그나마 할 수 있는 가장 솔직한 답을 하자면: “네, 쓰고 있습니다. 다만 아마 여러분이 떠올린 방식과는 조금 다를 수 있습니다.”입니다. 이러한 두루뭉술한 답을 들으려고 여기까지 오신 건 아니라는 것도 알고 있습니다. 그래도 본론으로 들어가기 전에 한 가지를 분명히 짚고 넘어가야 합니다. “AI 학습”과 “데이터 수집”은 같은 말이 아닙니다. 두 개념은 서로 관련이 있지만 완전히 일치하지는 않습니다.
아주 단순하게 말하면, AI를 학습시키려면 데이터가 필요합니다. 그래서 AI 시스템을 만들 때 가장 큰 과제 중 하나가 바로 이 데이터를 확보하는 일입니다. 하지만 누군가 여러분의 정보에 관심을 가질 만한 이유는 그 외에도 무수히 많습니다.
온라인에서 데이터를 수집하는 관행은 AI가 등장하기 훨씬 전부터 존재했습니다. 수년 동안 사용자 데이터를 모으는 가장 큰 이유는 광고였습니다. 사용자 프로필을 만들고, 여러 앱과 웹사이트 전반에서 사용자를 추적하기 위해 매우 복잡한 시스템들이 구축되었습니다. 목적은 단순합니다. “어느 사람에게, 어떤 시점에, 어떤 광고를 보여야 그 사람이 배너를 클릭할 확률이 가장 높은지”를 최대한 정확히 맞추는 것입니다. 디지털 광고 시장 규모는 연간 약 6천억~7천억 달러에 이르는 것으로 추산되며, 이 시장의 토대에 놓여 있는 것이 바로 사용자 데이터입니다. 그래서 데이터를 두고 “새로운 석유”라고 부르는 이유를 쉽게 짐작할 수 있습니다.
물론 기업들이 디지털 데이터를 원하는 이유가 광고뿐인 것은 아닙니다. 개인화, 추천, 사기 탐지, 정산·과금, 이탈 방지, 제품 분석 등 다양한 목적으로 데이터를 사용합니다. 특히 금융, 리테일, 통신, 마켓플레이스 같은 분야에서 중요하게 쓰입니다. 여기서 하고 싶은 말은, 전 세계적인 대규모 데이터 수집이 AI 등장과 함께 갑자기 시작된 것이 아니라는 점입니다. 오히려 오늘날 AI 학습용 데이터를 모으는 방식은 예전부터 다른 목적을 위해 쓰이던 수단과 크게 다르지 않은 경우가 많습니다. 덕분에 많은 AI 기업은 ‘바퀴를 새로 발명’할 필요 없이 이미 구축된 데이터 수집 인프라를 그대로 활용하거나, 그 위에 약간만 얹어서 사용할 수 있었습니다.
광고 추적에 쓰이는 데이터와 AI 학습에 쓰이는 데이터 유형이 크게 겹친다는 점도 눈여겨볼 만합니다. 많은 사람들의 머릿속에서 ‘AI’와 ‘LLM(대규모 언어 모델)’은 사실상 동의어에 가깝습니다. 실제로 일반 사용자 입장에서 가장 자주 접하는 AI가 LLM 기반 챗봇이기도 합니다. 상식적으로 생각하면, 챗봇에 쓰이는 생성형 AI를 학습시키려면 Reddit이나 X 같은 플랫폼에 올라온 글과 댓글, 채팅 입력, 리뷰 등 엄청난 양의 사용자 생성 텍스트가 필요합니다. 이런 LLM은 사람들이 실제로 어떻게 말하는지, 질문에는 어떻게 답하는지, 대화가 어떻게 흘러가는지, 농담·속어·어조 같은 요소를 배워야 하기 때문입니다.
하지만 많은 사람이 잘 인식하지 못하는 부분은, 생성형 AI 외에도 정말 다양한 종류의 AI가 존재한다는 점입니다. 예를 들어 추천 시스템, 검색 결과 순위 매기기, 광고 타게팅 등에 쓰이는 AI는 콘텐츠 자체보다 행동 데이터를 훨씬 더 중요하게 여깁니다. 사용자가 무엇을 언제 클릭했고, 얼마나 오래 머물렀는지가 핵심인 셈입니다. 많은 플랫폼은 두 접근 방식을 함께 사용합니다. 텍스트나 사진 같은 ‘원본 콘텐츠’도 필요하지만, 동시에 “여러분이 무엇을, 언제, 어떻게 눌렀는지”도 알고 싶어 합니다.
처음 질문으로 다시 돌아가 보겠습니다. 일부 AI 기업은 여러분의 데이터를 이용해 시스템을 학습시키고 있지만, 그 방식은 AI 이전부터 다른 목적을 위해 데이터를 모으던 것과 크게 다르지 않은 경우가 많습니다. 여기서 조금 까다로운 문제가 등장합니다. 기술적으로 말하면, 대부분의 회사는 AI 학습이든 다른 목적이든 사용자 몰래 데이터를 수집해서는 안 됩니다. 많은 관할 구역에서 이는 불법이기 때문입니다. 일부 업체는 아예 “우리 서비스는 여러분의 데이터를 AI 학습에 활용할 수 있다”고 공개적으로 밝히기도 합니다. 다만 이를 표현하는 방식은 회사마다 크게 다릅니다. 어떤 곳은 이런 내용을 최대한 포장하여 부드럽게 전달하려 하고, 또 어떤 곳은 비교적 직설적인 문구를 사용합니다.
한편 실제 데이터 수집은 긴 프라이버시 정책, 지루한 서비스 약관, 각종 법률 문서 뒤에 숨겨져 있는 경우가 많습니다. 약간 블랙 코미디처럼 느껴질 수도 있는 점은, AI 학습용 데이터 수집을 다루는 프라이버시 문서가, 광고 추적 목적의 데이터 수집을 설명하는 기존 문서와 놀라울 정도로 비슷한 모호한 표현을 사용한다는 사실입니다.
혹시라도 마음을 다잡고, 설치하려는 앱의 프라이버시 정책을 끝까지 읽어 본 뒤 “이 앱은 내 데이터를 AI 학습에 쓰지 않는다”는 내용을 확인했다 하더라도, 안타깝게도 이것만으로 완전히 안심할 수는 없습니다. 개발사가 그런 사실을 아예 언급하지 않는 경우도 있기 때문입니다. 얼마 전 있었던 OkCupid 사례가 대표적입니다. 유명한 데이팅 앱 OkCupid는 사용자에게 아무 설명도 하지 않은 채, 약 3백만 장의 사용자 사진을 AI 회사와 공유해 얼굴 인식·이미지 처리 도구의 학습에 쓰도록 했습니다. 이런 사례는 AdGuard 블로그에서 이미 자세히 다루었습니다. 이처럼 불투명한 관행은 AI 이전에도 꾸준히 존재해 왔습니다. 안타깝게도 이익이 걸려 있는 곳에는 언제나 법과 약속을 자기에게 유리한 방향으로 돌려 쓰려는 이들이 있기 마련입니다.
여러분의 데이터는 어떻게 AI 학습에 활용되나요?
이제 한 걸음 물러나, “어떤 데이터가 AI 학습에 쓰이는지”를 좀 더 구체적으로 살펴보겠습니다. 앞에서 간단히 언급했듯이, AI 학습에는 텍스트와 사진 같은 원본 콘텐츠도, 클릭과 스크롤 같은 행동 데이터도 모두 사용될 수 있습니다. 많은 분들이 아마 가장 궁금해하는 부분은 “내 데이터 중에서 정확히 무엇이, 어떤 방식으로 AI 학습에 쓰일 수 있나요?”라는 점일 것입니다.
모든 데이터가 똑같은 방식으로 쓰이는 것은 아닙니다. 어떤 데이터는 훨씬 더 민감하며, 출처에 따라 AI에게 주입되는 방식도 달라집니다. AI를 학습시키려 한다면 데이터를 가져올 수 있는 원천은 셀 수 없을 정도로 많습니다. 이 글에서는 수집 방식을 기준으로 네 가지 범주로 나누어 보겠습니다.
- 소셜 미디어(공개 데이터)
- 챗봇 대화(직접 입력)
- 플랫폼 활동(행동 데이터)
- 제3자 앱과 웹사이트
우선 Reddit, YouTube, X, Facebook 등에 공개적으로 올린 게시물이나 댓글을 생각해 보겠습니다. 여기에 무언가를 올렸다는 사실이 곧바로 “누구나 마음대로 AI 학습에 쓸 수 있다”는 뜻은 아닙니다. 하지만 동시에, 대부분의 경우 사용자는 플랫폼이 이런 콘텐츠를 AI 학습에 쓰거나 제3자와 공유하는 것을 명시적으로 막을 수 있는 수단이 거의 없습니다. 세부 내용은 플랫폼마다 크게 다르겠지만, 기본 원칙은 비슷합니다. 한 번 공개된 콘텐츠라면, 그 사용 방식을 여러분이 실제로 통제하기는 어렵습니다. 어떤 플랫폼은 이 데이터를 스스로 활용하고, 또 어떤 곳은 이를 가공하거나 묶어서 다른 업체에 판매·공유합니다.
EU 사용자는 상대적으로 보호 수준이 높은 편입니다. GDPR과 EU AI 법안 같은 규제가 있기 때문입니다. 이런 규제는 EU 시민에게 데이터 처리에 대한 사전 고지, 특정 처리에 대한 거부권, 데이터 열람·삭제 요청권, 그리고 자신의 데이터가 AI 학습에 쓰이는 것에 대해 이의를 제기하거나 제한할 수 있는 권리를 부여합니다.
그렇다면 챗봇과 직접 대화할 때는 어떨까요? 내가 입력한 내용이 AI 학습에 쓰일 가능성은 어느 정도일까요? 물론 서비스마다 다르지만, 일반 소비자용 AI 도구에서는 여러분이 입력하거나 업로드한 내용이 그 서비스를 개선하고 모델을 고도화하는 데 사용된다고 보는 편이 안전합니다. 유료 요금제 사용자인 경우에도, 기업/엔터프라이즈용이 아닌 이상 데이터 처리 방식이 크게 다르지 않은 경우가 많습니다.
다행이라면, 많은 AI 챗봇이 최소한 “학습에 사용하지 않도록 설정(옵트아웃)” 기능을 제공한다는 점입니다. 다만 이런 옵션은 대부분 설정 메뉴 깊숙한 곳에 숨어 있어 직접 찾아 들어가야 합니다. 이 부분은 이 글을 읽는 분들이 가장 궁금해하실 만한 지점이기도 합니다. 많은 분들이 “챗봇이랑 얘기할 때, 내 대화가 학습에 쓰이지 않도록 하려면 어떻게 해야 하나요?”라는 질문을 가지고 계실 것입니다.
ChatGPT
ChatGPT를 열고 프로필에서 설정 → 데이터 제어로 이동한 뒤 ‘모두를 위한 모델 개선’ 옵션을 끕니다. 이 설정을 끄면 앞으로의 대화 내용은 ChatGPT 모델 학습에 사용되지 않는다고 OpenAI는 설명합니다(일정 기간 보관은 여전히 적용될 수 있습니다). 과거에는 고객 지원에 직접 연락해 “내 데이터를 학습에 쓰지 말아 달라”고 요청하면 계정 전체를 학습에서 제외해 주기도 했지만, 이 경로는 이제 신규 사용자에게는 제공되지 않습니다.Perplexity
계정 설정 → 환경설정에서 ‘AI 데이터 보관’을 끕니다. 이 설정은 설정 이후에 수집되는 데이터에만 영향을 주며, 이전에 수집된 데이터는 Perplexity가 AI 학습에 사용할 수 있고 삭제할 수 없습니다.Gemini
Google 계정에서 데이터 및 개인정보 보호로 이동해 ‘Gemini 앱 활동’ 항목을 찾은 뒤 ‘사용 중지’ 또는 ‘사용 중지 및 활동 삭제’를 선택합니다. 이 설정은 앞으로의 샘플링을 막을 뿐, 과거 대화에는 영향을 주지 않습니다. Gemini를 사용하는 Google 제품이 여러 개인 만큼, 실제 학습·프라이버시 동작은 서비스마다 조금씩 다를 수 있습니다.Claude
Claude는 기본적으로 사용자의 대화를 학습에 사용하지 않으며, 원할 경우에만 직접 옵트인할 수 있도록 하고 있습니다. 사용자가 대화를 삭제하면, Anthropic은 약 30일 이내에 해당 데이터를 시스템에서 제거한다고 안내합니다.
행동 데이터 수집에 대해 조금 더 단순하게 생각해 보자면, 플랫폼이 클수록 사용자 행동 데이터에 더 많이 의존하는 경향이 있다고 볼 수 있습니다. 기능이 매우 좁고 작은 앱이나 서비스는 복잡한 행동 분석을 거의 하지 않는 경우가 많습니다. YouTube, TikTok, Netflix 같은 대형 콘텐츠 플랫폼, 검색 엔진, Amazon이나 eBay 같은 이커머스 플랫폼은 예외 없이 여러분의 활동에 관한 데이터를 최대한 많이 수집해 추천과 랭킹 알고리즘을 고도화합니다. 그렇다고 작은 앱이 이런 추적을 전혀 하지 않는다는 뜻은 아니지만, 이들에게는 그러한 정교한 트래킹이 상대적으로 덜 핵심적인 경우가 많습니다.
그렇다면 우리가 매일 사용하는 평범한 앱과 웹사이트는 어떨까요? 모든 서비스가 거대 플랫폼이거나 챗봇인 것은 아닙니다. 그날 우연히 설치한 게임 앱, 특정 기능 하나만 제공하는 도구, 작은 커뮤니티 웹사이트 등이 좋은 예입니다. 이 수많은 서비스에 대해 하나의 답만을 내리기는 어렵습니다. 다만 일반적인 경향은 이렇습니다. 이런 앱과 웹사이트 자체는 직접 AI를 만들기 위해 데이터를 수집하는 경우가 드뭅니다. 또한 사용자 데이터를 곧바로 다른 회사에 판매하는 경우도 상대적으로 적은 편입니다.
하지만, 이들 앱·웹사이트 개발자가 분석 SDK, 광고 네트워크, 기타 트래킹 도구를 포함시키는 것은 거의 당연한 관행이 되었습니다. 수익화와 제품 개선이 필요하기 때문입니다. 이런 도구들은 행동 데이터, 기기 정보, 사용 패턴 등을 수집합니다. 이렇게 모인 데이터가 광고 네트워크, 데이터 브로커, 분석 회사로 넘어가면, 묶이고 가공되어 다양한 모델링에 쓰이고, 거래되며, 그 과정에서 여러 용도와 함께 AI 학습에 간접적으로 기여할 수 있습니다.
이렇게 다양한 경로를 통해 내 데이터가 AI 학습용 데이터셋으로 흘러 들어갈 수 있다고 생각하면, 걱정거리가 너무 많다고 느끼실 수도 있습니다. 어느 정도 맞는 말입니다. 하지만 동시에, 여러분이 제공하는 모든 정보가 다 학습에 쓰이는 것은 아니며, 모든 기업이 같은 방식으로 행동하는 것도 아닙니다. 그리고 무엇보다, 수집되는 데이터 양을 줄이는 방법도 존재합니다. 여기서 오늘 TechTok의 두 번째 질문으로 이어집니다.
광고 차단기나 VPN을 쓰면 AI 추적과 데이터 수집을 막을 수 있나요?
앞에서 본 것처럼, AI가 데이터를 수집하는 방식은 너무나 다양하기 때문에 이 질문에도 “예” 또는 “아니요”라고만 답하기는 어렵습니다. 광고 차단기와 VPN은 각자의 방식으로 도움이 될 수 있지만, 어떤 도구도 모든 종류의 수집을 전부 막아 주지는 않습니다.
먼저, 둘 다 공통적으로 여러분이 스스로 제공한 데이터는 막지 못합니다. 챗봇과 나눈 대화, SNS에 올린 게시글, 직접 작성한 댓글 등은 이미 여러분이 플랫폼에 직접 넘긴 정보입니다. 광고 차단기나 VPN이 이런 데이터를 다시 회수하거나 플랫폼이 이용하는 것을 막을 수는 없습니다. 이 경우에는 프라이버시 설정, 옵트아웃 스위치, 프라이버시 보호 법제가 그나마 여러분의 편이 될 수 있는 수단입니다. 사용하는 앱과 서비스의 프라이버시 정책과 설정 메뉴를 확인하고, 그 내용이 마음에 들지 않는다면 다른 대안을 선택하는 것이 좋습니다.
광고 차단기가 특히 잘하는 것은, 제3자 추적기가 오용 목적으로 여러분의 데이터를 수집하는 일을 막는 것입니다. 또한 일정 부분에서는 행동 데이터 수집을 줄이는 데도 도움을 줍니다. 웹사이트에서 제3자 분석 스크립트와 광고 네트워크 도메인을 차단하는 것은, 데이터 유출을 줄이는 데 있어 광고 차단기의 가장 큰 장점 중 하나입니다. AdGuard 같은 광고 차단기는 대부분의 웹 기반 제3자 트래킹 도메인을 효과적으로 걸러낼 수 있습니다. 앱 내부에서는 Android와 iOS가 다른 앱의 트래픽 차단에 엄격한 제한을 두고 있기 때문에 상황이 조금 더 복잡합니다.
광고 차단기는 행동 데이터 수집도 어느 정도 줄여 줄 수 있지만, 완전히 막지는 못합니다. 대형 플랫폼 대부분은 퍼스트파티 추적에 크게 의존하며, 제3자의 도움 없이도 추천, 모델 학습, 행동 분석을 수행할 수 있습니다. 특히 이런 퍼스트파티 추적을 과감하게 막으면 서비스가 제대로 작동하지 않는 경우도 있습니다. 예를 들어, YouTube에서 퍼스트파티 추적을 강하게 차단하면 영상이 아예 재생되지 않는 상황이 생길 수 있습니다. 이런 문제는 특히 모바일 앱에서 더 두드러지게 나타나는 편입니다.
그럼에도 불구하고, AI 학습용 데이터로 쓰일 수 있는 정보를 가능한 줄이고 싶다면, 광고 차단기는 현재 우리가 사용할 수 있는 가장 강력한 도구 중 하나입니다. 그렇다면 VPN은 어떨까요?
VPN은 프라이버시 보호 측면에서 매우 유용한 도구이며, 어떤 사람들은 사실상 필수에 가깝다고 평가하기도 합니다. 다만 “내 데이터를 AI 학습에 쓰지 못하게 하겠다”는 목적에 한정하면 VPN의 역할은 비교적 제한적입니다. 그래도 간접적인 방식으로 도움은 줄 수 있습니다. VPN은 여러분의 IP 주소를 숨기고 위치 정보를 가립니다. 그 결과 웹사이트나 제3자 추적기는 여러분의 활동을 여러 사이트에 걸쳐 엮거나, 네트워크 정체성을 기반으로 한 정교한 프로파일을 만드는 것이 더 어려워집니다. 하지만 VPN이 여러분이 이용 중인 서비스가 여러분의 활동을 보는 것 자체를 막아 주지는 않습니다. 로그인한 상태에서 서비스를 이용하거나, 단순히 웹사이트나 앱에서 무언가를 검색하고 클릭하고 입력하는 순간, 그 정보는 여전히 그 서비스를 운영하는 곳에 직접 기록됩니다.
또한 VPN은 제3자 추적기가 데이터를 수집하는 것 자체를 완전히 막지는 못합니다. 다만 IP를 숨기고 위치를 변경하기 때문에, 추적이 덜 정밀해지는 효과는 있습니다. 실제로 제3자 스크립트와 도메인을 차단하는 일은 여전히 광고 차단기의 역할입니다.
정리하자면, 광고 차단기와 VPN은 프라이버시를 지키기 위한 매우 좋은 도구이고, 여러분의 데이터가 AI 학습에 쓰일 가능성을 줄이는 데도 분명 도움이 됩니다. 특히 광고 차단기는 제3자 추적을 막는 데 있어 큰 역할을 합니다. 하지만 그럼에도 불구하고, 데이터 안전의 핵심은 결국 여러분 자신의 주의와 습관입니다. 앱과 서비스를 이용하기 전에 최소한 프라이버시 정책을 한 번이라도 확인하고, 온라인에 올리는 내용과 챗봇에게 전달하는 정보를 한 번 더 고민해 보는 것만으로도, 여러분의 개인정보가 어느 날 모르는 사이에 어떤 AI 모델의 학습 샘플로 편입될 가능성을 크게 낮출 수 있습니다. 강력한 도구를 갖추는 것은 중요하지만, 결국 마지막 방어선은 언제나 사용자의 신중함입니다.
