페이스북, 인공 지능 사용해 자살 방지 강화...AI 패턴인식 도입
2017-11-28 이미정 기자
[뉴스비전e 이미정 기자] 페이스북이 자살 의도가 있는 사용자를 탐지하기 위해 미국에서 성공적인 테스트를 거친 후 패턴 인식 소프트웨어를 다른 국가로 확대 할 계획이라고 밝혔다. 페이스북 내의 자살 징후를 더욱 효율적으로 감지하고, 빠르게 대응하기 위함이다.
27일(현지시간) 포브스 등 다수의 외신에 따르면, 페이스북이 인공지능 ‘패턴인식’ 기술을 기반으로 페이스북의 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지하는 시스템을 도입한다고 전했다.
페이스북은 지난 3월 미국에서 페이스북 게시물의 텍스트를 스캔하고 자살의 신호가 될 수있는 문구를 검색하는 소프트웨어 테스트를 진행했다. 페이스북은 이 프로그램의 많은 기술적 세부 사항을 밝히지 않았지만,이 소프트웨어는 "Are you ok?"와 "Can I help?"와 같은 단서가 될 수있는 특정 구문을 검색한다고 밝혔다.
이 소프트웨어는 AI를 통해 자살 충동 패턴이 보이는 게시물을 검색해 의심 행동이 감지되면 해당 사용자에게 경고를 보내거나 주변 지역에 사는 페이스북 이용자에게 이 사실을 알린다. 또한, 해당 지역 구조단체에도 경고 메시지를 보낼 수 있다.
콘텐츠를 검토하는 직원들의 신속한 대응에도 AI가 사용된다. 신고가 접수된 콘텐츠에 우선순위를 매기고 자살 신호로 판단되는 부분을 선별해 담당자에게 알린다. 접수 내용을 파악하고, 유관기관에 신고해 조치를 취할 수 있도록 하는데 드는 시간을 단축할 수 있다.
가이 로젠 (Guy Rosen)은 "테스트가 성공적이었기 때문에 미국 이외의 국가에서 소프트웨어를 출시하기 시작했다"며, "지난 한 달 동안 페이스북 소프트웨어가 자살 의도를 감지 한 후 100건이 넘는 안전체크를 했다"고 말했다.
페이스북은 자살 예방과 같은 사건을 방지하기 위해 얼굴 인식과 같은 패턴 인식 기술에 계속 투자 할 것이라고 밝혔다.
마크 저커버그 페이스북 최고경영자(CEO) “AI는 앞으로 언어의 미묘한 차이를 더 잘 이해할 수 있을 것이고 자살을 넘어서 다른 문제를 식별 할 수 있을 것”이라고 말했다.