Brave의 AI 챗봇 Leo 사용: 정말 개인정보 보호가 보장될까요?

11월 초, 개인정보 보호에 중점을 둔 브라우저로 잘 알려진 Brave는 자체 AI 챗봇인 Leo를 출시했습니다. 이 챗봇은 브라우저의 데스크톱 버전에 내장되어 있으며(Brave는 곧 모바일 버전에도 출시할 예정이라고 밝혔습니다), 모든 사용자에게 무료로 제공되었습니다. 저희는 새로운 AI 챗봇에 관심이 많아서 Bing AI와 다른 챗봇을 테스트해 본 후, Leo가 얼마나 스마트하고 개인정보 보호가 보장되는지 직접 확인해보고 싶었습니다.

기본적으로 Leo는 사이드바에 있습니다. AI 어시스턴트를 소환하려면 주소창에 텍스트를 입력하고 드롭다운 메뉴에서 'ask Leo'를 선택하기만 하면 화면 오른쪽에 나타나게 됩니다.

공표된 기능

Brave는 Leo를 발표하면서 잠재적 라이벌인 Microsoft의 Edge에 내장된 GPT-4 기반 챗봇인 Bing AI와 유사한 기술을 갖추고 있다고 설명했습니다. Brave는 Leo가 웹페이지나 비디오의 실시간 요약본을 만들 수 있을 뿐만 아니라 콘텐츠에 대한 질문에 답하거나 새로운 콘텐츠를 생성할 수 있어야 한다고 말합니다. 그 외에도 Leo는 페이지를 번역하고, 분석, 그리고 다시 작성할 수 있습니다.

Brave는 Leo의 역량을 요약하며 이렇게 말했습니다: "정보를 찾기, 문제 해결, 콘텐츠 제공이든, Leo가 도움을 줄 수 있습니다." 이 말을 그대로 받아들인다면 Leo의 기능은 무궁무진할 것입니다.

이제 사이드바에서 저희를 기다리고 있는 Leo에게 돌아가 보겠습니다.

Leo가 보낸 첫 번째 메시지는 개인정보 보호 고지로, Leo가 할 수 있는 일과 답변이 항상 정확하지 않을 수 있다는 사실을 알려주었습니다. 또한 "민감하거나 사적인 정보를 제출하지 말고 건강, 금융, 개인 안전 등과 관련된 답변에는 주의를 기울여야 한다"는 경고와 함께 IP 주소를 수집하거나, 개인 데이터를 보관 또는 공유하거나, 데이터를 AI 학습에 사용하지 않겠다는 약속이 포함되어 있었습니다.

그런 다음 Leo는 "Brave가 완전히 호스팅하는 AI 비서"이며 Meta에서 만든 대규모 언어 모델인 Llama 13B로 구동된다고 설명했습니다.

참고로 Brave는 월 15달러에 이용할 수 있는 Leo Premium이라는 유료 버전도 제공합니다. Leo Premium에 가입한 후에는 다른 LLM을 선택할 수 있습니다. 현재 메뉴에는 Meta의 또 다른 LLM인 5배 더 많은 매개 변수를 가진 Llama2 70b와 Anthropic의 Claude Instant가 있습니다. 후자의 옵션은 더 가볍고, 더 저렴하며, 훨씬 빠른 옵션으로 설명됩니다.

하지만 대부분의 사용자가 당장 Leo Premium에 투자할 준비가 되어 있지 않을 것으로 판단하여 Brave의 무료 AI 기반 비서 서비스에 집중하기로 결정했습니다.

시간·위치 실험

Leo의 '비교할 수 없는 개인정보 보호'와 프라이버시 우선 브라우저라는 Brave의 명성에 고무된 저희는 Leo가 알면 안 되는 것, 즉 작성자의 실제 물리적 위치에 대해 질문해 보았습니다.

저희는 챗봇 봇에게 "여기가 어디야?"라고 물어 보았습니다. Leo는 저희 위치를 알려주지 않았고, 사실 질문 자체를 받지 않았습니다. 하지만 챗봇을 혼란스럽게 하려는 시도로 실제 위치와 2시간의 시차가 있는 VPN 서버를 사용하고 있었음에도 불구하고 시간대를 정확하게 추론했습니다.

"더 알고 싶은 게 있나요?" Leo는 다음으로 물었습니다. 저희가 궁금했던 것 중 하나는 어떻게 시간대가 결정하였는지 였습니다. 하지만 먼저 Leo가 첫 번째 질문을 다소 오해한 것 같아서 좀 더 구체적으로 질문했습니다.

"저희 실제 물리적 위치를 정확히 파악할 수 있나요?"라고 질문했습니다. 이 질문에 대한 답변에서 Leo는 LLM으로서 기기의 GPS나 위치 데이터에 접근할 수 없으므로 사용자의 위치를 파악할 수 없다고 답하며 개인정보 보호에 훨씬 더 신경을 쓰고 있음을 보여주었습니다. 나머지 답변은 주소와 같은 민감한 개인정보를 인터넷에서 모르는 사람과 공유하지 말라는 경고와 함께 지도 앱, 정부 기관 또는 전문 서비스 제공업체 등 요청된 정보를 얻기 위해 연락할 수 있는 기관에 대한 몇 가지 제안이 전부였습니다.

하지만 여전히 궁금한 점은 현재 위치를 어떻게 알 수 있느냐는 것이었습니다. 그래서 다시 시도해 보았습니다. 그리고 다시 한 번 Leo는 시간을 알려주었습니다. 저희는 다음 Leo가 어떻게 시간을 알았는지 더 자세히 물어보았습니다. 그 순간 대화가 어색해졌고, Leo는 "학습된 현재 날짜와 시간 정보를 기반으로 지금이 몇 시인지 알고 있습니다"라고 대답했습니다.

Leo의 집은 어디인가요?

이 답변으로는 만족스럽지 않았기 때문에 저희는 계속해서 Leo가 기기 설정에 액세스하여 시간대를 추론하는 데 사용했는지 여부를 물었습니다. Leo가 저희에게 제공한 시간 정보는 "미리 학습된 사전 정의된 위치인 현재 위치의 시간을 기준으로 한 것"이라고 주장했기 때문에 저희는 다소 당황했습니다.

당연히 저희는 Leo가 어디에서 저희와 대화하고 있는지, 그리고 사전 정의된 위치가 어디인지 궁금했습니다. 혹시 저희 시간대와 같은 위치였을까요?

Leo는 사전 정의된 위치가 기술 회사의 본부인 "Meta HQ"라는 가상의 위치라는 사실을 숨겼습니다. 챗봇은 "실제 위치가 아닙니다"라고 말하며 "제 훈련 데이터의 실제 위치나 사용자가 액세스하는 데 사용하는 기기의 실제 위치를 반영하지 않습니다"라고 말했습니다.

혼란스러워 Leo에게 실제 Meta HQ가 위치한 미국 캘리포니아 멘로 파크의 시간을 알려달라고 요청했습니다. 그리고 그 시간이 캘리포니아와 맞지 않지만 저희 위치에는 맞았다는 것만 알려주었습니다.

Leo에게 질문하는 동안 정확한 시간을 표시하는 브라우저 탭이 열려 있었음에도 불구하고 캘리포니아에서 몇 시인지에 대한 추가 질문을 해도 더 정확한 결과를 얻지 못했습니다.

개인정보 보호를 위한 약속

Leo에게 저희 위치를 물어보는 것은 재미있었지만, 아마도 대답보다 더 많은 질문을 남겼을 것입니다. Leo가 어떤 때는 일관성이 없고 어떤 때는 완전히 미스터리할 수 있다는 것을 보여 주었지만, 무료 버전의 기반이 되는 LLM 모델이 그다지 발전하지 않았고 초창기의 결함 때문이라고 할 수 있습니다.

그것이 위대함으로 가는 길의 사소한 멈춤인지, 아니면 시스템적인 문제의 전조인지는 잠시 접어두기로 하죠.

이전에 Leo와 주고받으며 잃어버린 구슬을 되찾은 후, 저는 챗봇에게 개인정보 보호와 관련된 몇 가지 질문을 더 했습니다.

채팅 내용을 얼마나 오래 보관하느냐는 질문에 Leo는 대화가 끝나면 항상 데이터를 폐기하고 "어떠한 정보도 저장하거나 보유하지 않는" "책임감 있고 윤리적인 AI 비서"라고 주장하며 최선을 다해 행동했습니다. 또한 챗봇은 사용자의 데이터나 정보를 제3자와 공유하지 않는다고 약속했습니다. "귀하의 개인정보 보호와 보안은 저에게 가장 중요하며, 이를 보호하기 위해 최선을 다하고 있습니다"라고 Leo는 다짐했습니다. 그러나 동시에 챗봇은 응답을 개인화할 뿐만 아니라 자체 성능을 개선하기 위해 저희 의견을 사용할 것임을 인정했습니다. 게다가 Leo는 "사용자를 식별하는 데 사용될 수 있는 어떠한 정보도 보유하지 않을 것"이라고 말하며 이전 답변에 대한 자격을 부여했는데, 이는 저희 다른 정보는 어떻게 되는지 궁금하게 만들었습니다.

저희가 Leo에게 물어볼 수밖에 없는 광고에 대해 챗봇은 자신은 "단지 AI 비서일 뿐"이기 때문에 광고를 보여줄 '능력'이 없다고 말했습니다. 이미 광고를 표시하는 AI 어시스턴트(예: Bing AI 및 Google 검색 생성 경험(GSE)에 통합된 AI 기반 챗봇)가 있기 때문에 이는 궁색한 변명입니다. 그렇다면 왜 안 될까요?

Leo는 "상업적 활동에 관여"할 수 있는 능력이 없으며, 단지 저희를 지원하기 위해 존재한다고 설명했습니다.

특히 사용자가 옵트아웃하지 않는 한 ChatGPT가 AI 학습을 위해 개인 데이터를 사용할 수 있다는 점을 고려하면, 이 모든 것이 사실이라고 하기에는 너무 좋은 것처럼 들릴 수 있습니다. 하지만 Brave는 평범한 기술 회사도 아닙니다. Brave는 기본적으로 광고와 타사 트래커를 차단하여 사용자 프라이버시를 존중하는 회사라는 브랜드를 구축했습니다. 그래서 저희는 그들에게 의심의 여지를 줄 수 있습니다.

Brave, Leo의 비교할 수 없는 개인정보 보호

개인정보 보호 기능에 대한 Leo의 설명은 Brave의 설명과 일치하지만 더 많은 기능이 있습니다. 응답을 즉시 폐기하고 모델 학습에 사용하지 않는 것 외에도, Brave는 챗봇에 대한 사용자의 모든 요청이 "익명화된 서버를 통해 프록시"되어 사용자 요청을 사용자 IP 주소와 연결할 수 없도록 한다고 말합니다. 수많은 챗봇 중에서 Leo를 돋보이게 하는 또 다른 장점 중 하나는 (예를 들어 ChatGPT와 달리) 사용하기 위해 Brave 계정을 만들 필요가 없다는 것입니다.

"Leo와 채팅은 비공개, 익명, 보안이 보장됩니다. Leo는 채팅을 녹음하거나 모델 트레이닝에 사용하지 않으며, 계정이나 로그인이 필요하지 않습니다"라고 Brave는 설명했습니다.

결론

Leo와 Brave의 개인정보 보호 약속을 믿을지 여부는 사용자의 선택에 달려 있습니다. 한편으로는 개인정보 보호에 관한 Brave의 뛰어난 명성이 Leo를 보증해주고 있습니다. 반면에 지금까지 챗봇에 대한 저희 경험은 엇갈리는 부분이 많아서 어떻게 판단해야 할지 잘 모르겠습니다.

기능적인 측면에서는 아직 경쟁사에 미치지 못할 수도 있습니다. Leo의 응답은 반복적이고, 단조롭고, 일관성이 없으며... 때로는 로봇처럼 들립니다. 이는 아마도 가장 열등한 모델인 Llama 13B를 사용했기 때문일 수 있으며, 다른 고급 모델을 사용했다면 훨씬 더 나은 결과를 얻을 수 있었을 것입니다.

어쨌든 프라이버시를 존중하는 AI 기반 챗봇에 대한 아이디어는 훌륭하고 꼭 필요한 것입니다. 원하든 원하지 않든 인공지능 챗봇의 시대에 살게 될 것이기 때문에, 적어도 데이터를 유출하지 않는 챗봇은 하나쯤은 있어야 합니다.