아마존이 인공 지능(AI)을 이용한 얼굴 인식 서비스를 경찰에 제공하는 것에 대해 비난의 목소리가 높아지고 있다. 미국 시민 자유 연맹(ACLU)은 수개월에 걸친 조사 결과, 아마존의 화상 인식 시스템 "Rekognition"이, 미국의 여러 수사 기관에서 이용되고 있는 것을 발견했다.
Rekognition의 분석 서비스를 이용하면, 인물 사진을 즉시 데이터 베이스와 비교하는 것이 가능하다. 영국의 방송국 "Sky News"는 이 서비스를, 얼마 전 열린 로얄 웨딩 장소에서 참석자를 식별하는 데 이용했다.
ACLU에 따르면 미국 경찰은 플로리다 올랜도와 오레곤의 워싱턴 카운티 등에서 이 시스템을 이용하고 있다. 워싱턴 카운티에서는 Rekognition을 이용한 앱이 경찰용으로 만들어져, 30만명에 이르는 인물의 인물 데이터베이스와 일치하고 있다고 한다.
워싱턴 카운티 보안관 사무실의 Chris Adzima는 블로그에서, 이 시스템을 이용하여 도둑을 가려내는데에 성공했다고 밝혔다. 거리의 감시 카메라의 영상을 신용 카드 절도범의 이미지와 비교 한 결과, 인력으로는 분석이 어려운 낮은 해상도의 이미지에서도 아마존의 Rekognition은 95% 이상의 정확도로 정확한 결과를 도출한다.
아마존 직원 Ranju Das는 유튜브에 공개 된 컨퍼런스 영상에서 Rekognition의 구조를 이용하면, 감시 카메라 영상에서 거기에 비친 개인의 특성과 관심을 분석 가능하며, 특정 인물의 행방도 추적 가능하게된다고 밝혔다.
ACLU가 입수 한 자료에 따르면, 아마존은 이 시스템을 초기 비용을 최소화하면서 도입하려고하고 있으며, 올랜도 경찰서가 약 3만건의 이미지 분석에 치른 대가는 불과 30.99 달러였다고 한다.
ACLU의 Matt Cagle은 포브스와의 인터뷰에서 "이것은 매우 낮은 비용으로 도입 할 수있는 대규모 감시 시스템이며, 심각한 우려를 야기 할 것이다. 아마존은 회사의 고객 중심주의를 감시 카메라 시장에도 적용하려고하고 있다"고 말했다. Cagle은 앞으로 Rekognition의 구조가 정치 운동가와 이민의 감시에 이용 될 가능성이 있다고 지적하고 있다.
ACLU는 이미 아마존의 CEO 제프 베조스에게 경찰에 대한 Rekognition 시스템의 판매를 중지하도록 요청했다.
■ 아마존 대변인의 반응은?
얼굴 인식 시스템의 윤리적 문제에 대해서는 이전부터 지적되고 있었으며, 세계 최대의 모니터링 시스템 기업의 한 회사 인 이스라엘의 "Verint"는, 페이스북의 사진 데이터를 얼굴 인식에 활용하고 있는 것으로 조사되었다.
아마존의 대변인은 포브스와의 인터뷰에서 만일 이 시스템이 남용되고 있다고 판단된 경우, 그 고객은 Rekognition 서비스에서 배제된다고 말하고 있다.
"아마존의 Rekgonition은 매우 유용한 도구로 활용 가능하다. 납치 된 인물의 검색 및 미아의 발견도 있다. 또한 최근 영국의 로열 웨딩에서 참석자의 신원 확인에 사용 되었다"라고 담당자는 E-Mail로 답변을 보내왔다고...
"남용의 가능성이 있다고해서 새로운 기술에 브레이크를 거는 것은, 인류의 생활에 불이익을 초래한다. 예를 들어 컴퓨터를 사고 싶은 사람이, "그것이 불법적 인 용도로 사용될 가능성이 있다"는 이유로 구입을 금지하는 사태를 상상해보라. Rekognition을 이용하는 고객에게 아마존은 다른 AWS 서비스와 마찬가지로 법에 따라 책임있는 서비스 운용을 추고하고 있다"
