[뉴스비전e 정윤수 기자] 인공지능이 잘못된 편견까지 흡수 학습하고 있다는 의견이 제시돼 관심이 모아진다. 

인공 지능 (AI - Artificial Intelligence)은 컴퓨터가 인간처럼 '생각하고' '학습하고' '판단하는' 논리적인 방식을 사용하는 인간지능을 본 딴 고급 컴퓨터프로그램을 말한다.

AI는 컴퓨터가 여러 데이터를 이용해 마치 사람처럼 스스로 학습할 수 있도록 인공 신경망(ANN: artificial neural network)을 기반으로 한 기계 학습 기술인 ‘딥러닝’(deep learning)' 개발을 이끌어내면서 4차 산업혁명의 핵심 요소가 됐다. 

딥러닝, 러닝머신, 자기학습 등으로 표현되는 AI는 빅데이터를 통해 많은 데이터를 빠른시간에 소화한다. 

그런데 인공지능에게 인종차별 등 좋지 못한 데이터를 제공한다면?

◆영국 대학교의 연구, AI업계에 다시한번 문제의식 필요성 제기

AI의 사회적 편견, 왜곡된 역사 등의 학습결과는 그간 사례로 나타나 왔지만, 영국 대학의 분석 결과는 이 문제 의식을 한번더 꺼내보고 했다. 

영국 배스대(University of Bath) 컴퓨터 과학자 조안나 브라이슨 (Joanna Bryson) 교수는 지난 5월, AI의 기계 학습에서 이용하는‘word embedding’ 프로그램이 인간의 언어사용 패턴에 숨어 있는 깊숙한 성⋅인종적 편견을 흡수하고 있다고 분석했다.

AI는 인간의 편견에 의식적으로 대응할 수 있는 능력이 없기 때문에 편견도 지식으로 그대로 받아들이고 더 나아가 강화해 표현할 수 있다는 것이다.

기존 영어 텍스트에 기반한 AI 학습은 그 문장 내에 반영되어 있는 인간의 편견을 반영할 확률이 높으며 그 예로 꽃은 유쾌한 단어, 벌레는 불쾌한 단어와 연결하고, 여성을 인문학 직업, 남성을 이공계 직업과 연결하는 경향이 나타나고 있다는 지적이다.

지난 2016년 5월, 공익목적의 비영리 언론인 프로파블리카(ProPublica)도 편견을 학습하는 AI에 대한 사회적 문제에 대해 보도한 바 있다.

일예로, 지난해 9월, 뷰티AI(Beauty.AI)가 100여 개국의 6천여명을 심사한 결과에 의하면 대부분의 미인은 백인으로 선정했다.

미국 법무부는 소프트웨어 ‘콤파스(COMPAS)’를 이용해 피고인이나 기결수의 보석금 액수, 형량에 대해 판단을 내리는데 이 프로그램은 흑인을 백인보다 훨씬 더 위험 하다고 평가했다.

프로파블리카의 분석에 의하면 미국 플로리다 주의 1만 명 범죄자를 조사한 결과, 실제로는 흑인과 백인의 재범 발생 가능성은 비슷하게 나타났지만 콤파스의 잘못된 예측으로 인해 흑인은 2배 이상 재범 가능성이 높다고 평가된 것으로 나타났다.

AI 기반 사진 보정앱 ‘페이스앱(FaceApp)’의 ‘인기(Hotness)’ 필터도 사용하면 자동으로 어두운 피부톤을 환하게 보정해 백인이 더 인기 있다는 인식을 갖고 있다는 논란이 제기되기도 했다.

물론 이러한 문제가 해결 불가능 한 것은 아니다.

구글의 AI 연구팀인 구글 브레인(Google Brain)은 편견을 극복하는 방법에 대한 ‘지도학습에서의 기회평등(Equality of Opportunity inSupervised Learning)’이라는 논문을 통해 편견은 수학적으로 보정가능 하다고 발표했다.

또한 프로파블리카의 AI 편견 지적에 대해서도 사회적으로 많은 논란이 발생했으며, 콤파스 개발회사와 프로파블리카의 측정 방법의 기준이 다르다는 지적도 있다.

알고리즘 워치(Algorithm Watch) 대표 마티아스 스필캄프(Matthias Spielkamp)는 2017년 6월 12일 MIT Technology Review 기고글을 통해 인간은 AI보다 더 편견적일 수 있으므로 콤파스와 같은 자동 의사결정 도구를 맹신하지 않고 적절히 잘 사용한다면 유익할 수 있음을 강조했다.

사회와 산업 각 분야에서 미래의 최대 성장 동력이 될 것으로 전망되고 있는 인공지능.

공상과학 영화에서 처럼 인류의 적이 되지 않도록 철저한 관리 감독이 필요하다는 지적도 제기된다.