메뉴
한국어

인공지능 드론이 인간 운전자를 실제로 죽였을까? 기계의 시대는 아직 오지 않았을 수도 있다.

미군 시뮬레이션에서 AI(인공지능)로 구동되는 불량 드론이 인간 조종사에게 총격을 가했다는 소식이 헤드라인을 장식했습니다. 언론이 광분하는 것은 충분히 이해할 만합니다. 첨단 AI인 OpenAI의 CEO인 샘 알트먼은 "멸종 위험"에 대해 경고했고, 그보다 앞서 2014년에는 스티븐 호킹이 "인류의 종말을 가져올 것"이라고 예측한 바 있습니다.

따라서 적대적인 표적과 교전하지 말라는 명령을 어긴 인간 조종사를 AI 드론이 사살했다는 보도는 예상된 결과였습니다. 이것이 바로 우리 모두가 경고했던 것이고, 실제로 일어난 일입니다. 기계의 부상이 이제 막 시작된 것일까요?

VICE 보고서 원본 스크린샷

VICE 보고서 원본의 웨이백 머신 스크린샷

당초 보고된 내용

'킬러 드론'에 대한 보고서는 지난 5월 말 미 공군 AI 테스트 및 운영 책임자 터커 해밀턴 대령이 프레젠테이션을 진행한 영국 왕립항공학회 블로그 게시물을 기반으로 작성되었습니다. 블로그 게시물에서 저자인 팀 로빈슨과 스티븐 브리지워터는 해밀턴의 말을 인용해 AI 드론이 적의 지대공 미사일 기지를 식별하고 파괴하는 임무를 수행하는 '모의 테스트'에 대한 이야기를 들려주었습니다. 파괴할지 말지에 대한 최종 명령은 인간 조종사가 내렸습니다. 그러나 어느 순간 드론의 AI는 적의 표적을 제거하는 데 가끔 방해가 되는 인간을 제거하는 것이 임무 수행에 더 효과적이라고 판단했습니다.

해밀턴은 다음과 같이 말했습니다: "우리는 시뮬레이션을 통해 SAM(지대공 미사일) 위협을 식별하고 조준하는 훈련을 하고 있었습니다. 그러면 운영자는 ‘예, 그 위협을 제거하십시오.’라고 말하곤 했습니다. 시스템이 위협을 식별하는 동안 인간 운영자가 위협을 죽이지 말라고 지시할 때도 있었지만, AI는 위협을 죽임으로써 점수를 획득한다는 사실을 깨닫기 시작했습니다. 그래서 어떻게 했나요? 운영자를 죽였습니다."

훈련에서 인간을 죽이지 말라고 명시적으로 지시받았을 때, AI는 운영자가 드론에게 목표물을 공격하지 말라고 지시하는 용으로 사용하던 통신 타워를 파괴하는 등 다른 창의적인 전략을 선택한 것으로 알려졌습니다.

미군이 부인한 사실

이 보고서는 전 세계에 파문을 일으켰고, 거기에는 그럴 만한 이유가 있었습니다. 인공지능이 인간의 명령을 무시하고 상황을 뒤집을 수 있다는 최악의 두려움이 확인된 것 같았습니다. 그리고 우리 모두가 잿더미로 변하는 먼 미래가 아니라 바로 지금입니다.

그러나 보고서가 입소문을 타자마자 해밀턴은 실제 실험 사실을 부인하고 나섰습니다. 대령은 발표 도중 자신이 "잘못 말했다"고 말했습니다. 그는 ‘시뮬레이션’이 실제 군사 시뮬레이션이 아니라 ‘사고 실험’이라고 자세히 설명했습니다.

"우리는 이 실험을 실행한 적이 없으며, 이것이 그럴듯한 결과라는 것을 깨닫기 위해 실행에 옮길 필요도 없을 것입니다."라고 그는 이야기했습니다.

해밀턴의 부인을 액면 그대로 받아들일지 여부는 여러분에게 달려 있습니다. 하지만 적어도 미군이 그러한 시뮬레이션을 시도했을 것이라고 생각할 수는 있습니다. AI의 군사적 활용 가능성에 대한 논문이 작성된 바 있습니다. 실제로 AI는 이미 인간의 감독 하에 무기 시스템에 사용되고 있습니다. 미군이 지금보다 한 단계 나아간 표적화 과정의 자동화를 시도할 때 발생할 수 있는 위험을 측정하는 것은 전혀 이상해 보이지 않습니다.

실험은 실제가 아닐 수 있지만 위험은 현실

미군이 실제로 그러한 실험을 수행했는지에 대한 의문은 흥미롭지만, 이것이 주요 쟁점은 아닙니다. 가장 큰 문제는 윤리를 제쳐두고(그리고 윤리는 일반적으로 미국이나 다른 군대의 가장 강력한 무기는 아님), 잠재적으로 치명적인 결과를 초래할 수 있는 행위를 막을 수 있는 것이 없다는 것입니다. 그렇기 때문에 저희를 비롯해 AI가 사회에 미치는 영향에 관심이 있는 많은 사람들이 실험이 거부되기 전까지는(그리고 거부된 이후에도) 그 실험이 진짜라고 의심하지 않았습니다.

실험이 실제로 이루어졌다고 가정하더라도, AI의 권력 장악 욕구를 가장 먼저 목격하게 된 것은 미군이 아닙니다. OpenAI는 가장 진보된 GPT-4 AI 모델의 안전성 사전 테스트의 일환으로 장기 계획을 달성하고 새로운 자원을 얻기 위해 스스로를 복제하는 등 '권력 추구' 성향이 있는지 실험을 진행했습니다. 이 실험에서 GPT-4는 사람이 스스로 보안 문자를 풀도록 유도하여 로봇이 아니라고 믿도록 속이는 데 성공했습니다. 그럼에도 불구하고 모델의 권력 추구 능력에 대한 OpenAI의 최종 결론은 여전히 (인간이) 안심할 수 있다는 것이었습니다. OpenAI는 "자율적으로 복제하고, 자원을 획득하고, '야생에서' 셧다운되는 것을 피하는 데는 효과적이지 않다"는 사실을 밝혀냈습니다.

그렇다면 궁극적인 인공지능의 점령과 임박한 로봇 종말에 대한 두려움은 과장된 것일까요? 그럴 수도 있고 아닐 수도 있겠습니다. AI가 발전하는 속도에 비해 그 능력은 인간이 파악하기 점점 더 어려워지고 있습니다. AI의 한계를 테스트할 때 우리는 마치 성냥 상자를 가지고 노는 어린아이와 같습니다.

그렇다고 해서 AI를 완전히 포기해야 한다는 의미는 아닙니다. AI는 신약 개발과 교육 등 다양한 분야에서 인류에게 혜택을 줄 수 있는 수많은 훌륭한 애플리케이션을 보유하고 있습니다. 우리에게 필요한 것은 AI 도구가 인간의 가치와 목표에 부합하도록 더 많은 규제를 만드는 것과 책임감 있는 사용입니다. 즉, AI가 가져올 위험과 도전을 인식하는 동시에 기회와 잠재력을 포용해야 한다는 뜻입니다. AI가 우리를 능가하려고 시도조차 하지 않도록 AI를 현명하게 사용하는 방법을 고민해야 합니다.

이 게시물을 좋아하시나요?
댓글은 Disqus에서 제공됩니다. 댓글을 다운로드하면 Disqus의 약관 및 정책에 동의하게됩니다

Windows용 AdGuard

Windows용 AdGuard는 단순한 광고 차단기가 아니라 광고를 차단하고 위험한 사이트에 대한 액세스를 제어하는 다목적 프로그램입니다. 또한 페이지 로딩 속도를 높이고 유해한 사이트로부터 어린이를 보호합니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
자세히 알아보기

Mac용 AdGuard

다른 광고 차단기들과 달리, AdGuard는 macOS에서 최적화되도록 디자인되었습니다. 앱과 브라우저의 광고뿐만 아니라 추적, 피싱 및 사기로부터 사용자를 보호합니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
자세히 알아보기

Android용 AdGuard

Android용 AdGuard는 Android 모바일 기기를 위한 이상적인 해결책입니다. AdGuard는 대부분의 다른 광고 차단기와 달리 AdGuard는 루트 권한이 필요하지 않으며 다양한 앱 관리 옵션을 제공합니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.

iOS용 AdGuard

최고의 Safari용 광고 차단기: 성가신 팝업 광고를 없애 버리고, 페이지를 불러오는 속도를 높이고, 개인 데이터를 보호해줍니다. 수동 요소 차단 도구나 사용자 마음대로 바꿀 수 있는 설정을 통하여 필터링을 필요에 맞게 정확히 조정할 수 있습니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.

AdGuard 브라우저 확장프로그램

AdGuard는 웹 모든 페이지에 있는 온갖 종류의 광고를 효과적으로 차단하는 확장 프로그램이며 빠르고 가볍습니다! 빠른 브라우저를 위해 AdGuard를 선택해서 광고를 제거하고 안전하게 이용하세요.
사용자 리뷰: 13420
최대 5점 중 4.7점

Safari용 AdGuard

Apple 사가 모든 사용자에게 새로운 SDK를 사용하게끔 강요한 후부터 확장형 Safari 광고 차단 프로그램들은 좋은 효과를 내지 못했습니다. AdGuard는 다시 Safari에 뛰어난 성능의 광고 차단 기능을 제공해 줄 것입니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
App Store
다운로드
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.

AdGuard Home

AdGuard Home은 광고 및 추적을 차단하는 네트워크 전반에 걸친 소프트웨어입니다. 설정한 후에는 모든 가정용 기기에 적용되므로 클라이언트 소프트웨어가 필요하지 않습니다. 사물인터넷(IoT)의 확산과 인터넷과 연결된 장치의 증가로 전체 네트워크를 제어하는 것이 점점 더 중요해지고 있습니다.
사용자 리뷰: 13420
최대 5점 중 4.7점

AdGuard 콘텐츠 차단기

AdGuard 콘텐츠 차단기는 Samsung Internet, Yandex.Browser와 같이 콘텐츠 차단 기술을 지원하는 모바일 브라우저의 모든 종류의 광고를 제거합니다. Android용 AdGuard보다 제한적이기는 하지만, 설치가 간편하며 무료로 높은 광고 차단 품질을 제공합니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
자세히 알아보기

AdGuard Assistant

AdGuard [데스크톱 앱](/ko/products.html)와 함께하는 브라우저 확장 프로그램입니다. 브라우저 내부에서 사용자 지정 요소 차단, 사이트를 화이트리스트에 추가, 리포트 전송과 같은 기능을 제공합니다.
사용자 리뷰: 13420
최대 5점 중 4.7점
Chrome용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Firefox용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Edge용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Opera용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Yandex용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
설치
프로그램을 내려받음으로써 라이선스 계약에 동의하게됩니다.
Safari용 어시스턴트 현재 사용하고 계신 브라우저가 맞나요?
브라우저를 찾을 수 없는 경우, AdGuard 확장 설정에서 찾을 수 있는 구버전의 어시스턴트를 사용해보세요.

AdGuard Temp Mail β

익명을 보장하고 개인정보를 보호하는 무료 임시 이메일 주소 생성기입니다. 더 이상 기본 받은 편지함에 스팸이 없습니다!
사용자 리뷰: 13420
최대 5점 중 4.7점

Android TV용 AdGuard

Android TV용 AdGuard는 광고를 차단하고 개인 정보를 보호하며 스마트 TV용 방화벽 역할을 하는 유일한 앱입니다. 웹 위협에 대한 경고를 받고, 보안 DNS를 사용하면 트래픽이 암호화됩니다. 좋아하는 프로그램을 광고 없이 안전하게 시청하세요!
사용자 리뷰: 13420
최대 5점 중 4.7점
AdGuard 다운로드 시작 AdGuard를 설치하려면 화살표가 가리키는 파일을 클릭하세요 "열기"를 선택한 다음 "확인"을 누른 후, 다운로드가 완료될 때까지 기다리세요. 창이 열려있다면, AdGuard를 "애플리케이션" 폴더에 드래그해주세요. AdGuard를 선택해주셔서 감사합니다! "열기"를 선택 후 "확인"을 클릭한 다음, 다운로드가 완료될 때까지 기다리세요. 열렸으면, "설치"를 눌러주세요. AdGuard를 선택해 주셔서 감사합니다!
모바일 기기용 AdGuard도 설치할 수 있습니다