AI가 자살도 예방… 中서 1년간 1000여명 목숨 구해

中 트리홀, 자살 암시 글 골라 자원봉사자들에 위험 징후 알려

美 비컨, 교내 컴퓨터 기록 스캔… 1년간 자살 조짐 2000여건 찾아
현재 학교 1만여 곳서 서비스

"더 이상 살아갈 의미가 없어. 나 그냥 포기할래."

중국 난징에 사는 대학생 리판은 올 초 중국판 트위터인 웨이보에 이런 짧은 글을 남겼다. 빚을 진 리씨는 최근 가족과 관계가 틀어지며 심한 우울증을 앓고 있었다. 마음을 나눌 친구 하나 없던 리씨는 이날 웨이보에 글을 남긴 뒤 극단적 선택을 시도했다. 이런 리씨의 상황을 알아차린 건 가족도, 친구도 아니었다. 대신 리씨 집에서 약 8000㎞ 떨어진 네덜란드 암스테르담의 한 컴퓨터에 경고가 떴다. 인공지능(AI) 검색 기술로 자살을 예방하는 '트리홀(Tree Hole)' 시스템이었다. 트리홀은 리씨의 웨이보를 '위험 징후'로 인식하고 상황을 중국 현지에 있는 자원봉사자들에게 알렸다. 결국 이들이 경찰에 신고해 리씨를 살릴 수 있었다.

최근엔 인공지능이 소셜미디어 분석으로 자살 위험 가능성 있는 사람들을 미리 파악하는데 활용되고 있다. 사진은 영국에서 열린 AI행사에서 한 관람객이 스마트폰으로 AI로봇의 사진을 촬영하는 모습. /블룸버그

홍콩 사우스차이나모닝포스트(SCMP)에 따르면, 작년 7월 시작된 트리홀 프로그램은 1년 사이 1000여 명의 목숨을 구했다고 한다. 이 시스템은 네덜란드 암스테르담 자유대학교 컴퓨터공학과의 중국계 연구원 황즈성과 베이징 수도의과대학 뇌연구센터가 함께 개발했다. 이 시스템은 중국 웨이보 글에서 자살을 암시하거나 심각한 우울증을 호소하는 글을 골라낸다. 그다음 해당 게시 글을 올린 사용자에게 전문 심리 상담자가 접촉해 말을 건다. 연구팀은 자살 위험도를 판별하기 위해 0~10으로 위험 지수를 설정하고, AI가 그중 6 이상의 글을 선별해내도록 했다.

최근 들어 이런 '착한 AI'가 주목받고 있다. 미국의 학교 관리 소프트웨어 개발 업체인 '고가디언'은 자살 위험 징후가 있는 학생을 감지해 학교에 해당 정보를 전달하는 경보 시스템 '비컨'을 선보였다. 학교 컴퓨터에 장착된 이 시스템은 평소 학생들의 인터넷 검색 기록, 대화 내용, 소셜미디어 게시물 등을 실시간으로 스캔한다. 특정 단어 또는 자살을 암시하는 내용 발견 시 학교에 알린다. 비컨은 지난 1년 동안 2000여 건의 자살 징후를 찾아냈다. 현재 이 업체는 미국 현지의 1만여 학교, 530만여 학생에게 서비스하고 있다. 페이스북도 '생명을 구하는 AI'라는 자살 방지 프로그램을 운영 중이다. 페이스북 이용자의 게시 글과 동영상 등 콘텐츠를 AI가 살피다가, 자살 충동이 의심되는 콘텐츠를 감지하면 사용자의 친구나 해당 지역 유관 기관에 경고를 보낸다. 

다만 이들이 소셜미디어 게시글 등 '개인 정보'를 침해한다는 비판도 나온다. IT 업계 관계자는 "자살을 방지하는 의도는 좋지만, 결국은 개인의 일거수일투족을 감시하는 것"이라며 "해킹에 따른 개인 정보 유출 같은 피해 가능성이 있는지 검토해봐야 한다"고 말했다. 

출처 : http://biz.chosun.com/site/data/html_dir/2019/12/12/2019121200008.html