메뉴
한국어

당신의 개인 데이터는 AI 교육 매뉴얼이 되어 되돌릴 수 없습니다.

아시다시피 예술은 삶을 모방합니다. 그러나 예술이 당신의 개인적인 삶을 너무 잘 모방하여 현실과 초현실 사이의 경계가 흐려진다면 어떨까요?

우리는 인터넷상에서 스크랩한 테라바이트의 데이터를 훈련하는 최첨단 AI(인공지능) 기술의 모델이 되고 있습니다. 이 데이터에는 개인 사진, 의료 이미지, 저작권이 있는 콘텐츠 등 기본적으로 온라인에 게시된 모든 콘텐츠가 포함될 수 있습니다.

DALLE-E 2, Midjourney 및 Stable Diffusion과 같은 텍스트 또는 이미지를 처리하는 딥 러닝 모델은 이 데이터를 인식, 해석 및 용도 변경하는 데 점점 더 능숙해지고 있습니다. 텍스트 프롬프트가 표시되면 학습한 내용을 기반으로 자세한 이미지를 생성합니다. 이러한 이미지는 아직 완벽하지는 않지만 점점 사실적으로 변하고 있습니다.

평범한 사람에게 이런 일이 일어날 확률은 당연히 낮습니다. 그러나 공인은 속기 쉬운 사람들을 오도하는 데 자신의 초상을 이용하고 사용할 가능성이 더 높습니다. AI는 공개적으로 사용 가능한 데이터를 인식했으며 이미 얼굴을 알고 있습니다. 따라서 공인의 이미지를 만들기 위해 고유한 텍스트 프롬프트를 작성하기만 하면 됩니다.

AI를 통해 공인의 모습을 더 정확하게 복제할 수 있음

Stability AI가 제공한 이미지에서 모네 스타일로 그린 Elon Musk와 차 근처에서 총을 들고 있는 Bill Gates의 모습을 볼 수 있습니다.

현재로서는 AI 데이터 피드에 빨려 들어가지 않도록 자신을 보호할 방법이 없습니다. 이미 AI용 학습 샘플로 사용된 후에만 데이터를 제거할 수 있습니다. 데이터를 제거하기 위해 ‘Have I Been Trained’와 같은 사이트에서 자신의 이미지를 찾아보고 요구 사항을 충족하는지 확인하고 불만을 제기해야 합니다.

기술 현재 발전 상태

AI 이미지 생성기는 최신이라 지금까지 규제를 피해왔습니다. 텍스트에서 이미지를 생성하는 가장 잘 알려진 고급 도구 중 하나는 DALL-E입니다. 텍스트-이미지 인코더는 지난 1월 대기자 명단을 통해 처음 출시되었으며 올 9월 일반 대중에게 제공되었습니다. 도구 배후에 있는 회사인 OpenAI에 따르면 약 150만 명이 이미 이 서비스를 사용하고 있으며 하루에 200만 개 이상의 이미지를 생성하고 있습니다.

대기자 명단과 함께 OpenAI는 사람 얼굴 편집에 대한 제한을 없앴습니다. 그러나 대부분의 경쟁사와 달리 OpenAI는 몇 가지 안전 장치를 마련했습니다. OpenAI는 성적, 정치적, 폭력적, 혐오 콘텐츠를 차단하기 위해 AI의 필터링 알고리즘을 개선했다고 밝혔습니다. DALLE-E의 정책은 또한 사용자가 동의 없이 다른 사람의 이미지와 사용자에게 권한이 없는 이미지를 업로드하는 것을 금지합니다.

그러나 DALLE-E가 사용자의 말을 그대로 받아들이는 것 외에는 특정 정책을 시행할 수 있는 실질적인 방법이 없는 것 같습니다. 잠재적인 오용의 위험을 최소화하기 위해 개발자들은 이전에 DALL-E의 훈련 과정을 미세 조정하여 얼굴을 기억하는 능력을 제한했다고 말했습니다. AI가 공인의 닮은꼴을 생성하거나 오해의 소지가 있는 맥락에 두는 데 도움이 되지 않도록 하기 위한 것입니다. OpenAI의 콘텐츠 정책은 특히 정치 과정에 영향을 미치거나 캠페인에 사용될 수 있는 정치인, 투표함 또는 기타 콘텐츠의 이미지를 금지하고 공인의 이미지를 만들려는 시도에 대해 경고합니다. 사용자들은 DALLE-E가 유명인사 및 정치인을 언급하는 프롬프트에 응답하지 않는 것으로 보인다고 보고했습니다.

OpenAI의 텍스트-이미지 생성기는 오픈 소스가 아니지만 그럴만한 이유가 있습니다. OpenAI는 시스템의 원시 구성 요소를 무료로 사용할 수 있게 하면 음란물 및 노골적인 폭력과 같이 주관적으로 부적절한 콘텐츠에 대해 교육할 수 있는 나쁜 행위자에게 문이 열려 있다고 주장합니다.

DALL-E에서 영감을 받은 AI 애호가 그룹은 무료 오픈 소스 AI 텍스트-이미지 생성기인 Crayion(이전 DALLE-E mini)을 만들었습니다. 그러나 인터넷에서 필터링되지 않은 데이터의 상대적으로 적은 양의 샘플(약 1,500만 쌍의 이미지와 해당 대체 텍스트)에 대해 훈련되기 때문에 결과 그림(특히 사람의 그림)은 훨씬 덜 현실적으로 보입니다.
더 많은 데이터를 제공할수록 AI 모델이 더 좋아집니다

올해 8월 StabilityAI라는 스타트업이 오픈 소스 모델인 Stable Diffusion을 출시했습니다. Stable Diffusion은 Crayon보다 훨씬 더 발전했으며 DALL-E 2보다 훨씬 덜 제한적입니다. Stable Diffusion은 한 번도 일어나지 않았으며 잠재적으로 허위 정보 캠페인에 사용될 수 있는 시위 및 사고뿐만 아니라 공인의 이미지를 생성할 수 있습니다.

AI 모델은 허위 정보 캠페인에 사용될 수 있습니다
Stability AI가 제공한 이미지에서 Stable Diffusion이 생성한 백악관에서 연기가 피어오르는 모습과 디즈니랜드의 시위를 볼 수 있습니다.

Stable Diffusion은 규칙 목록에 동의하는 경우 출력물을 배포하고 판매할 수 있는 권한을 부여합니다. 예를 들어, 모델을 사용하여 법을 위반하거나, 미성년자에게 피해를 주거나, 타인에게 피해를 줄 목적으로 허위 정보를 유포하거나, 저작권을 침해할 수 없습니다. 그러나 회사가 위반자를 어떻게 잡을 수 있는지 말하기는 어렵습니다.

AI 모델은 인간의 손길을 모방하는 데 점점 능숙해지고 인간 관찰자를 속이는 데 점점 더 가까워지고 있습니다. 올해 비전문 예술가가 텍스트에서 이미지로 변환하는 AI 도구인 Midjourney를 사용하여 만든 작품으로 Colorado State Fair의 디지털 아트 콘테스트에서 1등상을 받았습니다.

AI 기반 도구는 시간이 지날수록 더 좋아질 것입니다. 구글의 자체 인공지능 모델인 Imagen의 연구원들은 이미지 정확도와 품질에서 이미 최신 버전의 DALLE-E(DALLE-E 2)를 능가한다고 주장합니다.

AI 기반 이미지 합성기가 예술과 현실에 어떤 영향을 미칠지에 대한 많은 추측과 불확실성이 있습니다. 주로 개발자가 AI를 제한할 수 있는지 여부와 AI가 수집할 데이터에 따라 달라집니다.

데이터의 출처

DALLE-E 및 Stable Diffusion과 같은 AI 모델은 인터넷상에서 가져온 거대한 데이터 세트에서 학습합니다.

따라서 DALLE-2는 이미 인터넷에서 사용할 수 있는 6억 5천만 개의 텍스트-이미지 쌍을 제공받았습니다. Stability AI는 주로 LAION-5B 데이터 세트의 영어 하위 집합에서 훈련되었습니다. LAION 5B(Large-scale Artificial Intelligence Open Network)는 웹에서 가져온 56억 개의 이미지를 포함하는 오픈 소스 데이터 세트로, 공개적으로 액세스할 수 있는 세계 최대의 이미지-텍스트 데이터 세트입니다. LAION 5B의 전신인 LAION-400에는 4억 1,300만 쌍이 포함되어 있으며 Google에서 Imagen을 교육하는 데 사용되었습니다. (그 데이터 세트는 연구원들이 원래 공개되지 않은 OpenAi 데이터 세트를 복제하기 위해 만들었습니다.)

LAION은 대규모 멀티모달 모델 학습 분야에서 연구와 실험을 민주화하는 것을 사명으로 하는 비영리 조직으로 자리매김하고 있습니다. 임무는 고귀하지만 개인 정보 보호에 많은 비용이 듭니다. 연구원들이 이미지-텍스트 쌍을 찾기 위해 분석한 데이터는 매달 웹을 크롤링하고 페타바이트 규모의 데이터를 대중에게 무료로 제공하는 비영리 단체인 Common Crawl에서 가져옵니다.

데이터의 출처를 고려하면 개인 식별 정보, 민감한 이미지 및 저작권이 있는 콘텐츠가 데이터 세트에 스며드는 것은 놀라운 일이 아닙니다. ArtTechnica는 지난달 AI 아티스트가 LAION-5B 데이터 세트에서 자신의 의료 사진을 발견했다고 보고했습니다. 사진은 아티스트의 의사가 촬영했으며 해당 의사의 개인적인 용도로만 사용되었습니다.

LAION은 이미지를 호스팅하지 않고 이미지를 다운로드할 수 있는 URL만 제공합니다. 따라서 LAION은 귀하의 개인정보 유포에 대해 책임을 질 수 없는 것으로 보입니다. 또한 법적 관점에서 잠재적인 데이터 오용에 책임이 있는 사람을 식별하기 어렵다는 것을 의미합니다. 또 다른 문제는 AI 훈련에서 제외하는 것이 불가능하고, AI가 데이터를 수집했다면 제거하기 어렵다는 것입니다.

또 다른 문제는 AI 교육을 거부하는 것이 불가능하다는 것입니다.

AI 피드에서 개인 데이터를 제거하는 방법

우선, AI 훈련 데이터 세트에서 이미지 제거를 요청하려면 그곳에서 이미지를 찾아야 합니다. 그러나 이미지를 수동으로 찾을 필요가 없습니다. 왜냐하면 지난 달 Spawning AI라는 회사는 'Have I Been Trained?'라는 사이트를 시작했기 때문입니다. 이 사이트에서 이미지 또는 텍스트 프롬프트를 입력하여 LAION-5B 데이터베이스를 검색할 수 있습니다.

AI 알고리즘은 학습한 데이터의 용도를 변경할 뿐이며 항상 올바른 것은 아닙니다.

이미지를 찾으면 LAION의 GDPR 페이지에서 양식을 작성해야 합니다. 그런 다음 LAION이 조사하고 해당 이미지가 EU 데이터 보호법을 위반하는 것으로 확인되면 LAION이 관리하는 모든 데이터 저장소 및 향후 릴리스에서 해당 이미지를 제거합니다.

Spawning은 아티스트가 대규모 AI 모델의 교육을 선택하거나 선택 해제하고, 스타일과 모양이 사용되는 방식에 대한 권한을 설정할 수 있는 도구를 개발하고 있습니다. 이 도구를 사용해 보려면 회사 웹 사이트에서 신청할 수 있습니다.

DALLE-E는 자신의 작품이 동의 없이 사용된 것을 발견한 아티스트가 OpenAI 메일에 위반 사항을 신고할 수 있도록 허용합니다.

인공지능이 당신의 정확한 모습을 뱉을 것이고 당신의 모습을 '학습'시킬 수 있을까요?

AI가 당신의 외모를 정확하게 뱉어내고 당신의 외모를 '제거'할 수 있나요?

충분한 훈련을 받은 AI는 실제 사람의 인식 가능한 이미지를 생성할 수 있습니다.

OpenAI는 DALLE-E2가 사람의 정확한 이미지를 생성할 수는 없지만 훈련 데이터의 누군가와 유사한 이미지를 생성할 수 있다는 것을 인정합니다. 다른 AI 모델도 마찬가지입니다. 연구에 따르면 다른 종류의 딥 러닝 모델인 GAN(Generative Adversarial Networks)에서 생성된 이미지가 실제 사람과 닮았다는 사실이 밝혀졌습니다. 한 논문에서 연구원들은 사람들의 이미지 생성에 기여한 원래의 정체성을 재식별하는 것이 가능하다는 것을 보여주었습니다.

Stability AI CEO인 Emad Mostaque는 AI 모델이 사용자에 대해 이미 학습한 내용을 취소할 수 있는지 여부에 대해 Ars Technica에 가능하지만 약간의 조정이나 추가 작업이 필요하다고 말했습니다.

AI 문제를 해결할 방법이 있나요?

이러한 AI 선구자가 달성한 결과가 훌륭하다는 사실을 부인할 수 없습니다. 이러한 회사 중 일부가 코드를 오픈 소스로 만든다는 사실은 연구원, 제작자 및 추가 발전에 도움이 될 것입니다.

그러나 공격자가 오픈 소스 모델을 사용하는 것을 막는 것이 매우 어렵기 때문에 역효과를 낼 수도 있습니다. 가장 중요한 것은 현재 아티스트와 일반 사람들이 본질적으로 AI 생성 최종 제품의 일부가 되는 것을 거부할 방법이 없다는 것입니다. 또한 훈련 데이터에서 이미지를 제거하려는 경우 회사 자체에서만 데이터를 제거할 수 있습니다.

이러한 기술이 주류가 되면 더 많은 사람들에게 영향을 미칠 것입니다. 최근 Microsoft는 두 개의 앱을 DALL-E 2와 통합한다고 발표했습니다. 앱 중 하나인 Image Creator는 Microsoft 검색 엔진 Bing 및 Edge에서 무료로 사용할 수 있습니다.

현재로서는 이미지를 텍스트로 변환하는 AI 생성기가 개인 정보 위협으로 남아 있기 때문에 상황을 규제해야 합니다.

이 게시물을 좋아하시나요?
댓글은 Disqus에서 제공됩니다. 댓글을 다운로드하면 Disqus의 약관 및 정책에 동의하게됩니다

Windows용
AdGuard

Windows용 AdGuard는 단순한 광고 차단기가 아니라 광고를 차단하고 위험한 사이트에 대한 액세스를 제어하는 다목적 프로그램입니다. 또한 페이지 로딩 속도를 높이고 유해한 사이트로부터 어린이를 보호합니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
자세히 알아보기

Mac용
AdGuard

다른 광고 차단기들과 달리, AdGuard는 macOS에서 최적화되도록 디자인되었습니다. 앱과 브라우저의 광고뿐만 아니라 추적, 피싱 및 사기로부터 사용자를 보호합니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
자세히 알아보기

Android용
AdGuard

Android용 AdGuard는 Android 모바일 기기를 위한 이상적인 해결책입니다. AdGuard는 대부분의 다른 광고 차단기와 달리 AdGuard는 루트 권한이 필요하지 않으며 다양한 앱 관리 옵션을 제공합니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.

iOS용
AdGuard

최고의 Safari용 광고 차단기: 성가신 팝업 광고를 없애 버리고, 페이지를 불러오는 속도를 높이고, 개인 데이터를 보호해줍니다. 수동 요소 차단 도구나 사용자 마음대로 바꿀 수 있는 설정을 통하여 필터링을 필요에 맞게 정확히 조정할 수 있습니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.

AdGuard 브라우저 확장프로그램

AdGuard는 웹 모든 페이지에 있는 온갖 종류의 광고를 효과적으로 차단하는 확장 프로그램이며 빠르고 가볍습니다! 빠른 브라우저를 위해 AdGuard를 선택해서 광고를 제거하고 안전하게 이용하세요.
사용자 리뷰: 18895
최대 5점 중 4.7점

Safari용 AdGuard

Apple 사가 모든 사용자에게 새로운 SDK를 사용하게끔 강요한 후부터 확장형 Safari 광고 차단 프로그램들은 좋은 효과를 내지 못했습니다. AdGuard는 다시 Safari에 뛰어난 성능의 광고 차단 기능을 제공해 줄 것입니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
App Store
에서 다운로드 가능
다운로드
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.

AdGuard Home

AdGuard Home은 광고 및 추적을 차단하는 네트워크 전반에 걸친 소프트웨어입니다. 설정한 후에는 모든 가정용 기기에 적용되므로 클라이언트 소프트웨어가 필요하지 않습니다. 사물인터넷(IoT)의 확산과 인터넷과 연결된 장치의 증가로 전체 네트워크를 제어하는 것이 점점 더 중요해지고 있습니다.
사용자 리뷰: 18895
최대 5점 중 4.7점

AdGuard 콘텐츠 차단기

AdGuard 콘텐츠 차단기는 Samsung Internet, Yandex.Browser와 같이 콘텐츠 차단 기술을 지원하는 모바일 브라우저의 모든 종류의 광고를 제거합니다. Android용 AdGuard보다 제한적이기는 하지만, 설치가 간편하며 무료로 높은 광고 차단 품질을 제공합니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
자세히 알아보기

AdGuard Assistant

AdGuard 데스크톱 앱와 함께하는 브라우저 확장 프로그램입니다. 브라우저 내부에서 사용자 지정 요소 차단, 사이트를 화이트리스트에 추가, 리포트 전송과 같은 기능을 제공합니다.
사용자 리뷰: 18895
최대 5점 중 4.7점
Chrome용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Firefox용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Edge용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Opera용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Yandex용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Safari용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
브라우저를 찾을 수 없는 경우, AdGuard 확장 설정에서 찾을 수 있는 구버전의 어시스턴트를 사용해보세요.
AdGuard 다운로드 시작 AdGuard를 설치하려면 화살표가 가리키는 파일을 클릭하세요 "열기"를 선택한 다음 "확인"을 누른 후, 다운로드가 완료될 때까지 기다리세요. 창이 열려있다면, AdGuard를 "애플리케이션" 폴더에 드래그해주세요. AdGuard를 선택해주셔서 감사합니다! "열기"를 선택 후 "확인"을 클릭한 다음, 다운로드가 완료될 때까지 기다리세요. 열렸으면, "설치"를 눌러주세요. AdGuard를 선택해 주셔서 감사합니다!
모바일 기기용 AdGuard도 설치할 수 있습니다