안면인식 금지시킨 최초의 도시

샌프란시스코, 올해 말부터 규제 시행

#1 뉴욕에 거주하는 대학생 아우스만 바는 지난해 11월 갑자기 경찰에 체포됐다. 애플 스토어에서 상습적으로 물건을 훔쳤다는 혐의였다. 경찰이 그를 범인으로 지목한 이유는 애플의 안면 인식 소프트웨어가 제시한 증거 때문이었다. 하지만 조사 결과 그는 실제 범인이 아닌 것으로 밝혀졌고, 아우스만 바는 애플 사를 상대로 무려 10억 달러(약 1조 1500억 원)에 이르는 소송을 진행 중이다.

#2 지난 2014년 샌프란시스코에 거주하는 데니스 그린이라는 여성은 자동차를 운전하다 순찰차에 둘러싸였다. 경찰에 의해 차 밖으로 끌려 나온 그녀는 무려 6명의 경찰관들이 총을 겨눈 상태에서 무릎을 꿇어야 했다. 그런데 이 사건 역시 안면기술 시스템의 오류에 의해 빚어진 해프닝이었다. 자동차 번호 판독을 잘못해 그녀가 몰던 렉서스를 도난차량으로 인식했던 것. 샌프란시스코 시는 이 사건과 관련된 소송 및 판결을 해결하는 데 50만 달러 이상의 비용을 지출해야 했다.

올해 5월 중순 샌프란시스코 시는 데니스 그린 사건과 관련된 안면인식 도구들의 사용을 금지하기 위한 투표를 실시했다. 그 결과 8대 1의 압도적인 표 차이로 경찰관들의 안면인식 도구 사용을 금지한다는 결론을 냈다. 이로써 샌프란시스코는 안면인식 도구 사용을 금지한 최초의 미국 도시가 됐다. 이 규정은 180일 후에 시행될 예정이다.

최근 들어 안면인식기술이 지닌 오류 및 편견과 규제 미흡 등으로 인해 논란이 일고 있다. ⓒ Pixabay Free photo

샌프란시스코 시 관계자는 데니스 그린 사건의 안면인식 시스템 결함은 빅브라더 방식의 감시 기능이 남용될 수 있음을 보여준 대표적인 사건이라고 밝혔다. 미국 법무부도 안면인식 기술의 경우 항상 정확한 것은 아니며, 시민들의 사생활 보호에 중대한 도전이 되고 있다는 내용의 보고서를 낸 바 있다.

최근 일고 있는 안면인식기술에 대한 또 다른 논란은 이 시스템이 가진 편견이다. 구글 사의 클라우드컴퓨팅 담당자인 다이앤 그린은 안면인식기술에 다양성이 결여되어 있으며 편견이 내재되어 있다고 주장했다.

이와 관련된 대표적인 사례가 아마존 사의 유색인종 오류 건이다. 지난해 미국의 한 시민단체가 아마존의 안면인식 소프트웨어에 대해 테스트해본 결과, 미국의 흑인 연방 의원 28명을 범죄자라고 인식하는 것으로 나타난 것. 이에 따라 해당 기술은 유색인종에 대해 편견이 있는 것으로 추정됐다.

‘민주주의의 비소’ 같은 기술이라고 비난

서구사회에서 CCTV 카메라 설치 밀도가 가장 높은 영국에서는 인권 단체 리버티(Liberty)가 나서서 안면인식기술이 ‘민주주의의 비소’ 같은 존재라고 비난했다. 이들은 안면인식기술이 전체주의적이며 흑인 및 소수민족에 차별적으로 사용될 수 있다고 주장한다.

이와 관련해 대표적으로 거론되는 국가가 중국이다. 사람 얼굴 및 자동차 번호판의 식별이 가능한 스마트 안경을 중국과 함께 공동으로 개발하는 책임자인 데이비드 반두르스키는 지난해 로이터 사와의 인터뷰를 통해 중국은 공산당 정권의 체제 유지에 대한 불안감으로 인해 이런 신기술을 사회 및 정치적 통제의 수단으로 보고 있다고 주장했다.

실제로 중국의 안면인식기술 개발 의지는 대단하다. 중국 과학기술부의 공식 보도에 의하면 2초 내에 안면을 인식하고 블랙리스트에 이름이 오른 개인의 데이터를 중앙 서버로부터 비교할 수 있는 기술에 투자를 단행한 것으로 밝혀졌다.

최근 중국 정부는 신장 지역에 거주하는 소수 무슬림들의 얼굴, 키, 신체 특징, 휴대전화 고유 주소 등에 대한 정보를 기록하기 위한 스캐닝 시스템을 사용하고 있는 것으로 밝혀져 논란이 되고 있다. 이렇게 취합된 정보는 중국의 중앙정부가 활용하는 주요 시스템 중 하나로 보내져 관리되는 것으로 알려졌다.

안면인식기술은 기업들의 마케팅 전략에도 매우 유용한 도구다. 다양한 사물인터넷 기기들로 수집된 개인의 얼굴 데이터들이 광고업계에서 만들어놓은 세부적인 디지털 정보와 만나게 되면 기업들은 소비자의 얼굴 정보를 이용해 그들이 어떤 상품을 선호하는지에 대한 지도를 만들 수 있기 때문이다.

얼굴 사진만으로 정치 성향 알아낼 수 있어

문제는 얼굴 사진으로부터 알아낼 수 있는 정보가 상품의 선호도뿐만이 아니라는 데 있다. 지난 2017년 스탠퍼드 대학의 마이클 코신스키 교수는 안면인식기술을 이용해 그 사람이 동성애자인지의 여부를 파악하는 연구결과를 발표했다. 온라인 만남 사이트의 사진을 이용한 그의 동성애자 식별 프로그램은 남자는 91%, 여자는 83%의 정확도로 동성애자를 구별했다.

코신스키는 동성애뿐만 아니라 얼굴 사진만으로 그 사람의 정치적 성향, IQ, 범죄를 저지를 가능성, 특정 성격, 사회성 등의 개인적 특징을 알아낼 수 있다고 주장했다. 실제로 그는 사람의 얼굴에서 그들의 정치관을 읽을 수 있음을 확인한 예비연구 결과를 가지고 있다고 밝혔다.

얼굴만으로 그 사람에 관한 여러 정보를 알아낼 수 있다는 코신스키의 주장은 살인을 저지를 가능성이 높은 사람들을 미리 체포하는 내용의 영화 ‘마이너리티 리포트’를 연상시킨다. 그는 얼굴 사진에 대한 정보가 많이 축적될수록 그 사람이 사이코패스인지 혹은 범죄를 저지를 가능성이 높은지를 더욱 쉽게 판별할 수 있다고 주장한다.

코신스키는 이 같은 미래가 어떤 면에서는 경비원들이 자신의 판단하에 위험해 보이는 사람을 입장시키는 않는 것과 크게 다르지 않다는 입장이다. 하지만 이는 매우 위험한 발상이다. 범죄를 저지를 가능성이 상대적으로 높은 사람이라 할지라도 그가 반드시 행동으로 이를 옮기는 것은 아니라는 점에서 문제가 된다.

안면인식기술이 이처럼 논란의 쟁점으로 떠오른 가장 큰 이유는 규제가 아직 기술을 따라오지 못하고 있기 때문이다. 즉, 다른 사람의 얼굴을 이용해 그의 프라이버시를 침해할 수 있을 정도의 정보를 도출하는 것을 방지할 수 있는 법이 아직 없기 때문이다.

출처 : https://www.sciencetimes.co.kr/?news=%ec%95%88%eb%a9%b4%ec%9d%b8%ec%8b%9d-%ea%b8%88%ec%a7%80%ec%8b%9c%ed%82%a8-%ec%b5%9c%ec%b4%88%ec%9d%98-%eb%8f%84%ec%8b%9c