AI가 사람의 사고패턴을 학습해도 될까

인공지능 직원채용 프로그램 논란 가열

‘인간학습(human learning)’이란 용어가 있다.

“인간도 동물의 범주에 포함되기에, 사람도 ‘동물학습(animal learning)’ 방식대로 학습시켜 나갈 수 있다”는 주장에 대항하기 위해 만든 용어다.

다른 동물들과 달리 ‘인간은 복잡한 언어와 도구 등을 사용할 수 있는 능력을 지니고 있어 학습의 질, 복합성 면에서 여타 동물학습과 크게 구별된다’는 것이 인간학습의 주된 주장이다.

그런데 최근 대형 IT 기업들이 ‘인간학습’보다 ‘동물학습’을 선호하고 있다는 우려가 제기되고 있다.

AI 직원채용 프로그램으로 인해 인공지능이 사람을 학습하고 있다는 우려가 제기되고 있다. 사진은 그리스 신화 속에 나오는 청동거인 ‘탈로스’. 가상 세계 속에 나오는 최초의 인공지능이다. 1920년 Sybil Tawse 작  ⓒWikipedia

아마존 AI 직원심사, 여성차별 문제로 불발

15일 ‘가디언’ 지는 대형 IT 기업들이 컴퓨터 프로그램을 통해 거의 모든 인간 활동을 통제하려 하고 있다고 지적했다.

기업들이 직원들의 행위를 모니터하는 것은 물론, 컴퓨터를 통해 어떤 직원을 채용해야 할지 결정하는 등 거의 모든 노동자들의 움직임을 ‘동물학습’ 하듯이 통제하려 하고 있다는 것.

11일 ‘로이터 통신’ 보도에 따르면 세계 최대 전자상거래 기업 아마존은 2014년부터 인공지능을 활용해 직원 채용(recruiting) 프로그램을 개발해오다 회사 내부에서 여성차별 문제가 불거지자 급하게 프로젝트를 폐기했다.

아마존은 한 엔지니어링 팀을 통해 스코틀랜드 에든버러에 약 500대의 컴퓨터를 설치하고, 컴퓨터에 입력된 약 5만 개의 키워드를 통해 입사지원서를 분석하는 AI 채용 프로그램을 개발해왔다.

이 프로그램에는 과거 실적이 뛰어난 직원들의 사례를 기준으로 새로운 직원을 채용하도록 데이터가 입력돼 있는데 그중에 여성을 차별하는 내용이 포함돼 있었던 것으로 알려지고 있다.

관계자들은 많은 입사지원서가 접수 되더라도 순식간에 서류를 분석해낼 수 있는 만큼 여성차별 문제가 거론되지 않았더라면 프로그램이 정상적으로 가동됐을 것으로 보고 있다.

가디언 지는 “아마존이 인간학습을 동물학습과 같은 유사한 형태의 기계학습 선상에 가져다 놓음으로서 (동물과 다른 발달과정을 거치는) 사람을 채용하는데 있어 해서는 안 되는 실수를 범했다”고 지적했다.

가디언 지에 따르면 아마존의 실수는 크게 두 가지다.

첫 번째 실수는 사람에 대한 판단을 컴퓨터에 맡긴 점이다. 컴퓨터의 분석 능력이 아무리 빠르더라도 여성을 차별하는 것과 같은 전통적인 분석 패턴을 답습하도록 컴퓨터에 직원 채용을  맡긴 것은 도를 넘어선 행위라는 지적이다.

두 번째 실수는 인권침해다. 컴퓨터 프로그램을 통해 범죄를 수사하듯이 데이터가 입력된 인공지능 시스템을 통해 직원을 채용하려 했다는 것.

인공지능 언어분석이 전통적 ‘우둔함’ 계승

사실 인공지능의 무분별한 사용에 대한 우려는 이전에도 수차례 제기된 것이다.

그 대표적인 것이 영국 바스 대학의 인지학자 조앤나 브라이슨(Joanna Bryson) 교수가 지난 4월 발표한 충격적인 내용의 논문이다.

브라이슨 교수는 ‘워드 임베딩(word embedding)’을 사용해 훈련된 인공지능이 인간에 대한 편견을 학습할 가능성이 있다고 주장했다.

‘워드 임베딩’이란 인공지능 안에서 단어를 수치화해 사용하는 방법 중의 하나다. 사람이 입력한 표현이나 형태가 다르다 해도 연관성을 계산, 수치를 통해 이를 나타내면서 단어, 문장, 그리고 글의 의미를 작성해나갈 수 있는 기술이다.

이 방법을 활용할 경우 같은 단어라 하더라도 개인적‧문화적‧사회적인 의미를 다양하게 집어넣을 수 있다. 이를테면 ‘빛’의 긍정적인 의미를 ‘어두움’의 부정적인 의미와 연관 지어 두 단어의 상대적 의미를 추정해나갈 수 있다.

주목할 부분은 인공지능이 ‘워드 임베딩’을 통해 ‘여성’을 언어나 예술 등과 같은 분야의 인문계 직업 등에 연관 짓는 현상이 발견됐다는 점이다. 인공지능은 ‘남성’의 경우, 수학, 공학과 같은 이공계 직업과 연관 짓는 성향을 보였다.

또한 유럽계 미국인의 이름을 ‘행복’이나 ‘선물’ 등 긍정적인 단어와, 아프리카계 미국인의 이름을 ‘불행’과 같은 부정적인 단어들과 연관 짓는 경향도 나타났다.

브라이슨 교수는 “인공지능이 이전의 인종과 남녀 차별과 같은 그릇된 결정을 합리화하는 편견을  학습할 수 있다”고 주장했다.

가디언 지는 아마존의 사례가 브라이슨 교수의 주장을 그대로 답습하고 있는 것 같다고 지적하며 “인공지능은 지혜로운 사람과 우둔한 사람의 사고패턴을 모두 학습하고 있다. 이중 우둔한 사례를 학습할 경우 심각한 상황을 초래할 수 있다”고 밝혔다.

최근 인공지능 확산은 세계적인 현상이다. 특히 금융 분야에서는 대규모 개인 맞춤 조언을 제공하고 대출 결정에 변화를 주는 등 은행 업무 전반에 큰 변화를 불러일으킬 것으로 예상되고 있다.

이렇게 인공지능을 도입함으로서 은행 업무가 보다 더 정교해지고 잠재적인 고객의 범위도 확대시킬 수 있다는 것이 금융가의 일반적인 판단이다. 실제 아마존은 전자상거래 플랫폼을 통해 세계 2만 여 개 기업에게 30억 달러 이상의 대출 서비스를 제공하고 있는 중이다.

그러나 이처럼 사람이 하던 일을 인공지능이 대행하면서 사람들이 만들어놓은 사회적 문화에 영향을 미칠 수 있다는 점에서 우려 또한 높아지고 있다.

아마존 사례를 통해 인공지능이 인류 문화에 미치는 영향이 심각하게 거론되고 있다.

출처 : https://www.sciencetimes.co.kr/?p=182784&cat=35&post_type=news&paged=5