로봇 청소기가 찍은 사적인 사진이 유출되었다

최근에 대부분의 사람들은 집에 몇 가지 스마트 기기를 가지고 있습니다. 현대 주부는 아마도 청소기 없이는 살 수 없을 것입니다. 로봇 청소기는 바닥을 청소하고, 머리카락과 개털을 집고, 먼지를 제거할 뿐만 아니라 개인 데이터도 수집합니다.

대부분의 로봇 청소기의 개인 정보 보호 정책에는 제조업체가 사용자가 동의하는 경우, 제품 및 서비스를 개선하기 위해 사용자로부터 정보를 수집할 수 있다고 명시되어 있습니다. 그러나 강아지 배설물과 전선을 피하고 침대 아래에 갇히지 않도록 청소기의 기능을 개선하고 싶지 않은 사람이 있을까요? 그리고 '동의'를 클릭하기 전에 개인 정보 보호 정책을 읽는 사람이 있나요? 또한 일반 사용자는 수집된 모든 데이터가 알고리즘에 의해 처리될 것이고, 적어도 회사에서 보관해 네트워크에 유출되지 않을 것이기 때문에 걱정할 필요가 없다고 생각할 수 있습니다. 하지만 안심해서는 안 됩니다.

로봇 청소기가 사적인 사진을 유출했다

AI는 분명 인간을 대체하는 과정에 있지만 아직은 그렇지 않습니다. MIT 테크놀로지 리뷰(MIT Technology Review)는 지난 달 선도적인 로봇 청소기 제조업체인 아이로봇(iRobot)이 타사 계약자를 고용하여 Roomba j7 시리즈 로봇의 개발 버전에서 수집한 원시 데이터를 선별하고 라벨을 붙였다고 밝혔습니다. iRobot은 Scale AI라는 스타트업과 데이터를 공유했고, 그들은 베네수엘라의 독립적인 하청업체와 이 데이터를 공유했으며, 이후 Facebook과 Discord에서 사용자의 데이터를 공유했습니다.

이 저임금 근로자들은 Roomba의 카메라에 포착된 가구를 인식하고 정확하게 이름을 붙이는 임무를 받았습니다. MIT Technology Review가 민간 소셜 미디어 그룹에서 얻은 15개의 이미지 대부분은 출입구, 선반, 주방 장치, 조명 기구 및 조리대를 보여줄 정도로 무해했습니다. 그러나 여러 장의 사진은 훨씬 더 끔찍했습니다. 다른 각도에서 찍은 일련의 이미지는 변기에 앉아 있는 여성을 보여줍니다. 일부 스틸에서는 그녀의 얼굴이 선명하게 보입니다. 또 다른 이미지에는 바닥에 드러누운 채 카메라를 똑바로 응시하는 아이의 얼굴도 담겼습니다.

사용자 데이터 유출 후 내부 조사가 진행되었습니다. iRobot은 Scale AI가 이미지 게시를 허용함으로써 계약을 위반으로 고발했습니다. 그리고 Scale AI는 베네수엘라 하청업체가 계약을 위반으로 고발했습니다.

누군가는 아이로봇이 나쁜 하청업체의 희생양이 되었다고 주장할 수도 있습니다. 실제로, 그 사진들이 SNS에 올라오지 않았다면 아무것도 밝혀지지 않았을 것입니다. 그러나 원인은 사생활 보호의 중요성을 인지하지 못했던 베네수엘라 하청업체의 직원들이 아닙니다. 문제는 기술 회사가 사용자에 대해 수집하고 공유하는 데이터의 양이 증가하고 있다는 것입니다.

동의의 문제

아이로봇 측은 해당 사진을 촬영한 청소기 모델이 매장에서 판매되지 않고 참여비를 지급받은 연구 참여자와 회사 직원에게만 배포됐다고 변호했습니다. iRobot에 따르면 이러한 사람들은 AI 교육을 위해 데이터를 사용하는 데 동의했습니다. 그러나 아이로봇은 그들의 사적인 사진이 다른 사람들에게 보여질 수 있다는 것을 알고 있는지에 대한 사실 여부는 명시하지 않았습니다. MIT 리뷰에 따르면 동의서에는 데이터가 서비스 제공자와 공유될 것이라고만 언급되어 있습니다.

아이로봇은 청소기로 수집한 시각적 데이터(총 200만 개 이상의 이미지)를 Scale AI외에도 여러 계약자와 공유한 사실을 인정했습니다. iRobot에 따르면 데이터를 넘기기 전에 사용자의 나체 사진이나 부적절한 이미지를 필터링한다고 주장했습니다. 다만 변기에 앉아 있는 여성의 모습이 삭제되지 않은 이유는 밝히지 않았습니다.

당신의 로봇 청소기는 당신에 대해 무엇을 알고 있나요?

iRobot은 일반 소비자를 감시하지 않는다고 주장하지만, 정보 유출에 대해 아무것도 의심하지 않는 사용자의 집에서 특정한 정보를 수집하는 것을 막을 방법은 없습니다.

로봇 청소기는 초기 청소 중에 집안의 상세한 지도를 만들 때 사용자에 대한 데이터를 수집합니다. 청소기가 같은 장소를 두 번 청소하지 않고 구석에 부딪히지 않도록 스마트 지도가 필요하기 때문입니다. 매핑 기술이 발전할수록 지도가 더 정확해지며 청소 프로세스가 더 효율적이고 빨라집니다.

아이로봇의 j7 모델의 경우 저가 모델이 사용하는 자이로스코프와 가속도계 기반 매핑 기술에서 한 단계 더 발전된 전면 AI 카메라 덕분에 청소기가 관련 데이터를 수집할 수 있습니다. 카메라가 장착된 로봇 청소기는 카메라가 없는 경쟁사보다 우위에 있지만 개인 정보 유출 위험도 수반합니다. 주변 상황을 보고 사진을 찍을 수 있기 때문입니다.

따라서 iRobot의 Roomba j7+ 모델은 반려동물 배설물과 케이블을 스스로 인식하고 사진을 찍어 스마트폰 앱으로 보낼 수 있습니다. iRobot과 데이터를 공유하도록 선택할 수도 있습니다. 이 경우 이미지는 암호화되어 직원이 검토하는 회사로 전송됩니다. 사람의 이미지에 관한 한, 청소기의 소프트웨어는 사람이나 사람의 사진이 시야에 들어오면 자동으로 카메라를 차단하도록 설계되어 있습니다. 그러나 MIT 리뷰 보고서에서 알 수 있듯이 보호 기기가 항상 작동하는 것은 아닙니다.

사진: YoonJae Baik/Unsplash

이미 존재하는 기술을 통해 로봇 청소기 제조업체는 사용자의 삶에 대한 귀중한 정보를 많이 수집할 수 있으며 이는 광고주와 같은 제3자에게 유용할 수 있습니다. 침실이 2개인지 1개인지, 집 어디든지에 배설물을 싸는 반려동물이 있는지와 같은 것 이상의 정보를 알아낼 수 있습니다. 로봇 청소기는 소비자의 일상 생활에 대한 정보도 얻을 수 있습니다. 로봇 청소기용 클라우드 기반 운영 체제인 아이로봇 OS를 사용하면 아이로봇 청소기가 집을 나갈 때 자동으로 청소를 시작하고 돌아오면 자동으로 청소를 멈추도록 설정할 수 있습니다. 로봇은 Amazon Alexa, Apple Siri 및 Google Assistant와 같은 음성 비서와 연결되어 음성 명령에 응답할 수도 있습니다.

iRobot OS는 클라우드 기반이므로 이 정보는 부도덕한 직원이 액세스하거나 경찰과 같은 제3자에게 공유될 수 있습니다. 그리고 진공 로봇이 축적할 수 있는 정보의 양은 엄청납니다. iRobot CEO인 Colin Angle은 지난 5월 Verge에 j7 청소기가 지금까지 사람들의 집에서 4,300만 개 이상의 물체를 감지했으며 80개의 개별 물체를 식별하고 피하는 방법을 배웠다고 말했습니다. 이는 데이터의 보물창고가 제조업체의 손에 있음을 의미합니다. 문제는 그가 그것을 열 것인지 그리고 누구를 위해 열 것인지 입니다.

Amazon과 iRobot — 개인 정보 보호 지옥에서 이루어진 매치인가?

아마도 iRobot이 내비게이션 시스템을 개선하고 클라우드 기반 소프트웨어를 개선한 후 Amazon의 관심을 불러일으킨 것은 우연이 아닐 것입니다. 올해 8월 두 회사는 아마존이 아이로봇에 17억 달러를 지불하는 합병 계약을 체결했습니다. 아직 규제 당국의 승인을 받지 못한 이 거래는 개인 정보 보호 문제를 일으켰습니다.

Electronic Frontier Foundation을 포함한 많은 데이터 개인 정보 보호 기관은 Amazon과 iRobot의 데이터가 혼합되어 소비자 개인 정보를 위태롭게 할 수 있다고 주장하면서 미국 규제 기관에 인수를 탈선시킬 것을 촉구했습니다.

“iRobot 기기를 이미 방해가 되는 Amazon 홈 시스템에 연결하면 더 많은 연결된 홈 기기에서 더 많은 데이터 수집을 장려할 수 있습니다. 잠재적으로 인권과 안전을 위협할 수 있는 우리의 습관과 건강에 대한 개인 정보를 포함할 수 있다”라고 활동가들이 서명한 편지에 나왔습니다.

사실, iRobot은 Amazon에 정착하기 오래 전부터 거대 기술 기업과 데이터를 공유한다는 아이디어를 구상했습니다. 2017년 아이로봇 CEO 앵글은 앞으로 고객의 동의를 얻어 아마존이나 애플, 구글과 같은 회사와 고객의 집 지도를 무료로 공유할 수 있다고 말했습니다.

Amazon의 보류 중인 iRobot 인수는 더 크고 걱정스러운 추세의 일부일 뿐이라는 점에 유의해야 합니다.

작년에 Google은 피트니스 추적 회사인 Fitbit을 21억 달러에 인수하여 유사한 개인 정보 보호 문제를 촉발했습니다. 결국 구글은 Fitibit 데이터를 별도로 저장하고 최소 10년 동안 Google 광고에 사용하지 않기로 합의하여 인수 거래가 유럽 위원회 소집을 통과하도록 했습니다. Google을 신뢰할지 여부는 여러분에게 달려 있지만, 구글은 과거에 이미 반복적으로 개인 정보 보호 약속을 어겨온 바 있습니다.

센서는 좋아지고 개인 정보 보호 문제는 악화되다

카메라 기반 로봇 청소기과 마찬가지로 회전하는 보이지 않는 레이저를 사용하여 방의 크기와 장애물에 대한 자세한 정보를 수집하는 레이저 기반 로봇 청소기도 있습니다. 이 최첨단 기술을 LiDAR(Light Detection and Ranging)라고 하며 로봇 진공 탐색의 표준으로 간주됩니다. 레이저 기반 로봇 청소기는 카메라를 갖춘 로봇 청소기보다 더 정확한 경향이 있으며 일반적으로 훨씬 더 빠릅니다. 그리고 많은 시각적 데이터를 수집할 수는 없지만 개인 정보 위협도 내포하고 있습니다.

연구원들은 LIDAR를 사용하는 기기를 해킹하여 가정에서 오디오 데이터를 수집할 수 있음을 발견했습니다. 물리적 마이크가 설치되어 있지 않더라도 이 로봇 청소기는 대화를 감시하고 잠재적으로 개인 정보를 공개하도록 용도를 변경할 수 있다고 메릴랜드 대학과 싱가포르의 연구원들은 결론지었습니다. 로봇 청소기로 염탐하기: Lidar 센서를 통한 도청(Spying with Your Robot Vacuum Cleaner: Eavesdropping via Lidar Sensors)이라는 논문에서 연구원들은 Xiaomi Roborock 청소기를 사용하여 90% 이상의 정확도로 음성과 음악을 성공적으로 녹음하는 방법을 설명했습니다.

사진: Elena Mozhvilo/ Unsplash

청소하는 동안 더 높은 정밀도와 효율성에 대한 요구가 증가하기 때문에 시간이 지남에 따라 센서가 더 좋아질 것이라는 사실을 예상할 수 있습니다. 청소기가 코드에 걸리거나 개 밥그릇에 부딪히거나 반려동물 배설물이 흩어지기를 원하는 사람이 어디 있을까요? 즉, 가정에서 데이터를 수집하는 청소기의 능력도 향상됩니다. 게다가 정확도를 높이기 위해 제조업체는 한 번에 여러 대의 카메라(예: 천장 및 전면)를 설치하거나 내비게이션에 레이저와 카메라를 모두 사용하는 것을 고려할 수도 있습니다. 그러면 잠재적으로 더 많은 데이터를 수집할 수 있게 될 것입니다.

위험 균형

인터넷에 연결된 기기는 개인 정보를 심각하게 위협하며 로봇 청소기도 예외는 아닙니다. 고정 기기인 음성 비서나 스마트 초인종과 달리 청소기는 스스로 움직일 수 있고 집 안의 사진을 찍을 수 있기 때문에 사생활 보호 측면에서 훨씬 더 위험합니다.

제조업체는 기밀 사용자 정보가 유출되지 않도록 모든 예방 조치를 취한다고 확언할 수 있겠지만 Roomba의 경우에서 본 것처럼 안전 장치가 실패할 수 있습니다. 그렇기 때문에 한편으로는 프라이버시와 보안 또는 편의성 사이에서 선택하게 되는 경우가 많습니다.

가장 프라이버시 친화적인 옵션은 스마트 홈을 낮추고 로봇 청소기를 소켓에 수동으로 연결하고 바닥을 가로질러 끌어야 하는 좋은 구식 유선 로봇 청소기로 교체하는 것입니다. 이 옵션은 프라이버시 친화적이고 비용 효율적이지만 노동력이나 시간을 거의 절약하지 못합니다. 그리고 만약 사용자가 편의를 위해 개인 정보와 보안을 희생할 의향이 있다면 그 위험을 인지하고 몇 가지 기본 규칙을 따라야 합니다.

• 판매 후 지원을 제공하는 신뢰할 수 있는 공급업체를 선택하여 잠재적인 감독으로 인한 데이터 유출 위험을 줄이세요.

• 개인 정보 보호 정책 및 서비스 약관(ToS)을 읽고 개인 정보 설정을 주의 깊게 선택하십시오. 특정 수준의 데이터 공유에 동의하지 않으면 일부 기능이 작동하지 않을 수 있지만 기기가 작동하는 데 필요한 것보다 더 많은 데이터 공유에 동의하지 마십시오.

• 일반적으로 DNS 필터링을 사용하여 광고 서버 및 추적 사이트에 대한 액세스를 차단하는 것이 좋습니다. 그러나 데이터 수집이 기기의 핵심 기능인 경우 해당 기기의 작동을 손상시키지 않고는 데이터 수집을 제한할 수 없습니다. 이는 로봇 청소기뿐만 아니라 스마트 스피커와 같은 다른 IoT 기기에도 해당됩니다.