바디캠, 7000명 얼굴을 감시하다: AI의 윤리적 딜레마와 개인 정보 보호의 그림자

AI 바디캠, 위험 감시의 새로운 도구?

캐나다 애드먼턴 경찰이 인공지능(AI)으로 훈련한 바디캠으로 약 7000명에 달하는 ‘고위험 ’ 감시 대상자를 자동 식별하도록 해 논란이 불거졌다. 7일(현지시간) AP통신에 따르면 애드먼턴 경찰은 감시 대상자들의 얼굴을 감지하도록 AI로 훈련한 바디캠을 경찰관들의 몸에 장착하는 시범 사업을 지난주부터 시작했다. 에드먼턴 경찰청(EPS)은 이 시범 사업이 경찰관들의 안전을 높이는 데 목적이 있다고 밝혔다.

 

 

 

 

바디캠, 무엇을 감지하는가?

바디캠은 경찰청이 무장했거나 폭력적이며, 도주 위험이 있는 고위험 범죄자를 감지한다. EPS의 커트 마틴 경무대행은 고위험 감시 목록에 약 7000명이 등록돼 있다고 밝혔다. 약 50명의 경찰관이 참여하는 이 시범사업은 12월 말까지 일광 시간 동안만 진행된다. 현재로서는 경찰관이 현장에서 안면 인식 일치 여부를 알 수 없다.

 

 

 

 

개인 정보 보호를 위한 노력?

경찰은 수사가 시작되거나 신고에 대응하는 경우에만 카메라를 고화질의 ‘활성 녹화 모드’로 전환해 개인의 권리와 사생활 보호에 유의하려 한다고 밝혔다.

 

 

 

 

윤리적 문제와 반발

시범사업은 윤리적 문제로 강하게 비판받고 있다. 캐나다에서는 이미 6년 전 바디캠 제조업체 액슨 엔터프라이즈가 제작한 바디캠을 도입하려고 했으나 역시 윤리적인 이유로 도입이 취소된 바 있다. 이번 시범사업에도 액슨이 생산한 바디캠이 사용되고 있다.

 

 

 

 

기술의 위험성, 충분한 검증 필요

2019년 액슨의 AI 윤리위원회 의장직을 맡아 안면 인식 도입 보류를 이끌었던 배리 프리드먼 뉴욕대 법학 교수는 회사가 충분한 공론화, 테스트, 전문가 검증 없이 기술을 추진하는 것에 대해 우려를 표했다. 그는 “기술이 가진 실제 비용과 위험에도 불구하고 명확한 이점을 가졌다고 입증되지 않는 한 이 기술들을 사용하는 것은 필수적이지 않다”고 주장했다.

액슨의 입장: 연구와 안전 장치 마련

반면, 액슨의 창립자이자 최고경영자(CEO)인 릭 스미스는 “이번 에드먼턴 시범사업은 제품 출시가 아닌 초기 현장 연구”라며 “기술의 성능을 평가하고, 책임 있는 사용에 필요한 안전장치를 파악하는 것이 목적”이라고 반박했다. 그는 미국 외 지역에서 테스트함으로써 얻은 데이터를 분석해 향후 미국 내 시범사업에 적용할 계획이라고 덧붙였다.

국가별 안면 인식 기술 활용 현황

미국과 유럽은 사용 제한...영국은 적극 활용안면 인식 기술은 인종, 성별, 연령에 따른 편향된 결과를 보여주고, 실시간 영상에서 식별 정확도가 낮다는 연구 결과 때문에 미국 내에서는 시민 자유 옹호자들의 반발을 샀다. 이에 따라 미국 여러 주와 도시 경찰은 사용을 제한하고 있다. 유럽연합(EU)은 납치나 테러 같은 심각한 범죄를 제외하고 27개 회원국 전체에서 실시간 공공 안면 스캔 기술 사용을 금지했다. 그러나 EU를 탈퇴한 영국은 런던 거리에서 10년 전부터 이 기술을 시험해왔으며, 지난 2년 동안 1300건의 체포에 사용했다고 밝혔다.

AI 바디캠 논란: 기술 발전과 윤리적 책임 사이의 균형

캐나다 경찰의 AI 바디캠 도입 시도가 개인 정보 보호와 기술 윤리 문제로 뜨거운 감자가 되었다. 7000명에 달하는 고위험 감시 대상자 식별을 위한 이 기술은 경찰의 안전을 도울 수 있지만, 충분한 검증과 사회적 합의 없이는 심각한 반발에 직면할 수 있다. 기술의 발전과 함께 개인의 권리를 어떻게 보호할 것인지에 대한 끊임없는 고민이 필요하다.

자주 묻는 질문

Q.AI 바디캠은 정확도가 얼마나 될까요?

A.실시간 영상에서 안면 인식의 정확도가 낮다는 연구 결과가 있으며, 현재 시범 사업 단계이므로 정확성은 추가적인 검증이 필요합니다.

 

Q.개인 정보 보호를 위한 대책은 무엇인가요?

A.경찰은 수사 시작 또는 신고 대응 시에만 고화질 녹화 모드를 사용하고, 시범 사업 결과를 분석하여 안전 장치를 마련할 계획입니다.

 

Q.다른 국가의 안면 인식 기술 활용은 어떤가요?

A.미국은 사용을 제한하는 반면, 영국은 런던에서 10년 이상 이 기술을 활용하여 체포에 사용하고 있습니다. 유럽 연합은 심각한 범죄를 제외하고는 실시간 공공 안면 스캔 기술 사용을 금지하고 있습니다.