자율차, 보행자 피부 검을수록 인식 못해

- 조지아 공대 연구팀, 자율차 AI 시스템 짙은 피부색이 옅은 피부색보다 정확도 떨어져

2019년 3월 10일

얼굴을 인식하는 인공지능(AI)이 피부색이 짙은 사람을 정확히 식별하는 데 어려움이 많다는 것은 이미 알려져 있다. 

구글은 2015년 5월 사진의 사물과 얼굴들을 자동으로 분류하여 서비스하는 구글 포토(Google Photos)에 올라온 까만 피부색 여성을 고릴라(Gorillas)로 분류하는 실수를 했다. 페이스북도 마찬가지로 검은색(사람과 원숭이 구별)과 노랑색(빵과 고양이 구별) 등 특정 색을 잘 구분하지 못했다.  

 

▲ 2015년 6월 28일 잭키 앨신(Jacky Alcine)의 여자 친구를 고릴라(Gorillas)로 분류하는 실수를 했다. 이에 대해 잭키 앨신은 "Google Photos, y'all fucked up. My friend's not a gorilla'이라는 트윗을 했다. [잭키 앨신 트위터 화면 캡처]

자율주행차에 탑재된 인공지능 시스템도 비슷한 문제를 안고 있는 것으로 드러났다. 조지아 공과대학 연구팀 자율주행차에 사용되는 최첨단 물체 인식 시스템에서 사용되고 있는 8개의 AI 모델의 정확도를 조사 연구한 결과 피부색이 짙은 보행자가 자율주행차에 의해 사고가 발생할 확률이 높아지는 것으로 나타났다. 연구 결과는 공개형 물리학 논문 저장소 '아카이브(arXiv.org)'에 논문명 'Predictive Inequity in Object Detection'으로 게재됐다. 

▲ 아카이브(arXiv.org) 캡처

사물 인식 인공지능 시스템은 자율주행차가 도로 표지판이나 보행자 및 사물을 인식하기 위해 사용된다. 

연구팀은 사물 인식 시스템에 보행자 사진을 사람의 피부색을 분류하는 데 사용되는 '피츠 패트릭(Fitzpatrick)' 유형 분류에 따라 피부색이 옅은 카테고리와 피부색이 짙은 카테고리 2가지로 나누었다. 피츠 패트릭 피부 분류는 1975년 미국의 피부과 의사 토마스 피츠패트릭이 태양에 의한 일광 화상을 설명하기 위해 피부색에 따라 피부 유형을 6개로 나눈 분류로 지금까지도 널리 사용되고 있다.

테스트 결과 피츠 패트릭 분류에서는 피부색이 짙은 '밝은 갈색'과 '갈색' '검은색'을 가진 보행자를 사물 인식 시스템이 매번 인식하는 데 낮은 수치를 나타내는 것으로 밝혀졌다. 

연구팀은 "낮이나 밤과 같은 시간에 촬영한 사진의 변수를 고려하더라도 피부색이 짙은 보행자의 이미지를 포함하는 그룹의 사물인식 시스템의 정확도가 평균 5%나 떨어졌다"고 말했다. 이어 "하지만 데이터 세트에 피부색이 짙은 보행자의 이미지를 더 학습시켜 지금보다 정확도를 높일 수 있다"고 강조했다. 

결국 조지아 공대 연구 결과에 따르면 자율주행차의 사물 인식 시스템이 현재 상태로 보급되면 피부색에 의해 교통사고가 발생할 확률이 달라진다는 뜻이다. 

출처 : http://www.itnews.or.kr/?p=30176