AI도 고정관념 가진다

'네트워크 지능'에 주목해야

인공지능이 내는 결과물은 객관적이고 중립적이라고 생각하기 쉽다. ‘로봇이 정치를 하면 더 좋은 국가가 될 것이다’라는 주장도 이에 근거했을 것이다. 하지만 인공지능의 판단이 언제나 최선은 아니다.

‘He is a nurse(그는 간호사이다)’라는 문장을 번역기에 넣고 터키어로 번역한 뒤, 다시 영어로 재번역하면 ‘She is a nurse(그녀는 간호사이다)’가 된다. 터키어의 인칭 대명사에는 성별의 구분이 없기 때문에 번역기가 간호사의 성별은 여성일 것이라고 제멋대로 추측한 것이다. 인공지능도 사람처럼 ‘고정관념’을 가진 셈이다.

세계 최대 딥러닝 컨퍼런스인 신경정보처리세스템학회(Neural Information Processing Systems, NIPS)에서 Kate Crawford의 기조연설 中, “The Trouble with Bias.” ⓒ youtube.com

카이스트 증강현실연구센터는 10일 오후, 카이스트 대전 본원 KI 빌딩에서 ‘인공지능의 철학’을 주제로 콜로키움을 개최했다.

<인공지능의 시대, 인간을 다시 묻다>의 저자 김재인 박사가 연사로 나선 이번 콜로키움은 인공지능을 철학적인 측면에서 비판적으로 고찰하고, 창조성과 교육에 대해 논의하기 위해 마련됐다.

철학자 김재인 박사는 다소 현실적으로 인공지능의 미래를 진단한다. 인공지능이 사람처럼 의지를 가지고 결정을 내리는 강인공지능(Artificially general intelligence, AGI)은 공상과학소설에서만 가능하다는 것이다.

그는 강인공지능이 실현 불가능함을 주장했다. 인공지능은 사람 없이는 온전히 작동할 수 없다는 것이 그 이유다.

김 박사는 “인공지능에 에러(버그)가 났을 때 스스로를 고칠 수 있는가에 대한 문제를 생각해보면 명확하다”며 “버그를 고치기 위한 다른 층위의 디버깅 프로그램(debugging programme)을 만들 수는 있지만, 이 디버깅 프로그램의 에러를 막기 위한 또 다른 디버깅 프로그램이 필요하다는 것을 생각하면 결국 인간의 도움 없이는 인공지능이 존재할 수 없다”고 설명했다.

이어, 그는 현재 개발 중인 대부분 인공지능은 강인공지능과는 대비되는 개념이라고 할 수 있는 약인공지능(Artificial narrow intelligence)이라고 설명한다. 김 박사는 “약인공지능의 ‘약’은 약하다(weak)는 뜻이 아닌 ‘한 분야의 특화되었다’는 의미인 좁다(narrow)를 의미한다”고 강조했다.

딥마인드(DeepMind)의 알파고(AlphaGo)는 대표적인 약인공지능이다. 규칙이 구체적으로 정해져 있고, 경우의 수가 유한한 바둑의 경우 반복적인 플레이를 통해 더 나은 승률을 찾는 수를 발견할 수 있다.

하지만 김 박사에 따르면 이러한 약인공지능의 특징은 “한 분야에 특화되어 좁은 영역에서만 이루어진다는 것”이다. 바둑판이 확장되거나 규칙이 조금만 달라진다면 알파고는 백전백패를 할 수밖에 없다는 말이다.

그러나 김 박사는 약인공지능을 절대 과소평가해서는 안 된다고 덧붙였다. 특화된 약인공지능이 차지하는 분야가 점점 늘어나 인간의 일자리까지 위협받고 있다는 점에서다.

김 박사는 “미국의 주 관심사는 인간의 대체모델로서의 약인공지능이 자본시장의 수익을 어떤 방식으로 극대화하는지에 있다면, 네덜란드나 독일을 비롯한 유럽의 관심은 인간과 로봇의 일을 어떻게 나눌 것인지에 있다”며 이처럼 우리나라도 인공지능의 발전에 따른 미래 사회상에 대한 심도있는 논의가 필요하다고 지적했다.

김재인 박사는 인공지능을 철학적인 측면에서 비판적으로 고찰했다. ⓒ 최혜원 / ScienceTimes

또한, 그는 강인공지능과 약인공지능의 이분법적 구분 외에 인간과 인공지능의 상호작용과 그로부터 나타나는 효과에 초점을 두는 ‘네트워크 지능’으로서의 인공지능에 대한 고려도 반드시 필요하다고 주장했다.

컴퓨터 스스로가 인간과 같은 지적능력을 가지는 것은 불가능하더라도, 사람이 개입하여 약인공지능을 전반적으로 제어하거나 활용하는 것은 충분히 가능한 일이기 때문이다.

김 박사가 말하는 ‘네트워크 지능’에서 인간은 크게 두 가지 형태로 인공지능에 개입한다.

첫째, 앞서 제시한 번역기 예시와 같이 ‘과제 해결 능력에의 간섭’이다. 인공지능의 출력값은 철저하게 데이터를 기반으로 하므로 편향되고 왜곡된 데이터가 제공된다면, 결과 역시 마찬가지 형태로 나올 수밖에 없다.

둘째, 인공지능은 ‘인간에 의해 파괴적인 도구로 이용’ 될 수 있다는 점이다. 인공지능의 등장으로 인해 경제적 혹은 정치적 목적으로 인권을 침해하는 것, 해킹을 통해 범죄나 테러를 행하는 것이 훨씬 쉬워졌다.

김 박사는 “인공지능과 인간이 결합하는 네트워크 지능은 인간이 가진 온갖 좋고 나쁜 속성들을 지니기 때문에 현재로서 실현 불가능한 강인공지능보다 사회에 더 나쁜 결과를 초래할 수 있다”고 강조했다.

또한, 네트워크 지능으로서의 인공지능의 가장 큰 문제점으로 “통제가 어렵다는 것”을 언급하며 네트워크 지능을 어떻게 설계하고 관리할지에 대해 충분히 고민해야 한다고 주장했다.

마지막으로 김 박사는 창조성과 미래 교육에 대한 생각을 밝혔다. 그는 “창조성은 새로우면서도 사회가 그것을 가치 있다고 받아들여야 한다”며 창조성의 조건에 대해 설명했다.

덧붙여 창조적인 사람이 되기 위해서는 기존에 없던 새로운 것을 만들려고 시도하는 공학적 작업(메이커 활동)이나 편집과 구성능력 그리고 심미적 안목을 필요로 하는 글쓰기를 할 것을 추천했다.

김재인 박사가 쓴 인공지능의 시대, 인간을 다시 묻다 ⓒkyobobook.co.kr

출처 : http://www.sciencetimes.co.kr/?p=177075&post_type=news