아이폰의 인공지능 기능이 가짜 뉴스 알림을 생성하여 잘못된 정보를 퍼뜨리는 기술에 대한 우려를 불러일으키고 있다.

지난주 Apple이 최근 출시한 AI를 사용하여 사용자 알림을 요약하는 기능으로, PDC 월드 다트 챔피언십 준결승에 대한 방송사의 이야기에 부정확하게 요약된 BBC 뉴스 앱 알림을 밀어내고 영국 다트 선수 루크 리틀러가 우승했다고 거짓 주장했다고 8일 미국 CNBC가 보도했다.

동 사건은 실제 토너먼트 결승전 하루 전에 일어났고, 리틀러는 이 경기에서 승리했다.

그런 다음 이 사건이 발생한 지 불과 몇 시간 만에 이 거대 기술 기업의 AI 시스템인 Apple Intelligence에서 테니스의 전설 라파엘 나달이 게이로 나왔다고 허위로 주장하는 별도의 알림이 생성되었다.

BBC는 약 한 달 동안 애플이 문제를 해결하도록 노력해 왔다고 덧붙였다.

이 영국 국영 방송사는 12월에 AI 기능이 뉴욕에서 건강 보험 회사 유나이티드헬스케어 CEO 브라이언 톰슨을 살해한 후 체포된 루이지 망지오네가 스스로 총을 쐈다는 허위 헤드라인을 생성하자 애플에 불만을 제기했다.

애플은 CNBC의 연락을 받았을 때 즉시 논평하지 않았다. 

6일 애플은 BBC에 알림에 표시된 텍스트에 대해 애플 인텔리전스가 책임이 있는 시점을 보여주는 설명을 추가하여 문제를 해결하기 위한 업데이트를 진행 중이라고 밝혔다. 

현재 생성된 뉴스 알림은 출처에서 직접 오는 것으로 표시된다고 밝혔다.

“Apple Intelligence 기능은 베타 버전이며 사용자 피드백을 통해 지속적으로 개선하고 있습니다.”라고 BBC와 공유한 성명에서 밝혔다. 

애플은 사용자가 ”예상치 못한 알림 요약”을 볼 경우 우려 사항을 신고하도록 권장한다고 덧붙였다.

애플 인텔리전스의 영향을 받아 뉴스 알림을 부정확하게 요약한 뉴스 기관은 BBC뿐만이 아니다. 

11월에 이 기능은 베냐민 네타냐후 이스라엘 총리가 체포되었다고 잘못 주장하는 AI 요약 알림을 보냈다.

차승민 기자 smcha@nvp.co.kr