생성 인공지능 기술이 범죄자들에 의해 남용되면서 사이버 범죄가 크게 증가하여 2023년 상반기 상업 사기 사건이 2022년 같은 기간에 비해 거의 두 배로 증가했다.

닛케이아시아는 1월 7일 미국 이메일 보안 플랫폼 Abnormal Security의 데이터에 따르면 2023년 상반기 전 세계 상업 사기 이메일 수는 전년 동기 대비 89% 증가했으며, 이메일 1000개당 주 당 평균 2.5통의 사기 이메일이 수신 돼 2022년 동기 대비 46% 증가했다고 보도했다.

플랫폼 최고 정보보안 책임자인 브리튼은 "생성형 인공지능(AI) 툴의 등장으로 사이버 범죄자들에게 편리함을 제공했다"고 말했다. 과거에는 사기 이메일의 철자와 문법이 자주 틀렸지만, 이제는 AI의 도움으로 일일이 피할 수 있어 범죄자들이 대규모로 복잡한 이메일 공격을 감행하는 데 더 유리하다.

미국 오픈AI가 개발한 챗GPT는 2022년 11월 첫 선을 보여 본격적인 생성 AI 시대를 열었다. 이 기술은 빠르게 발전하고 사용 비용이 높지 않아 사용자가 보다 효과적으로 업무를 수행할 수 있도록 도울 수 있다.

동시에 불법 행위자들도 이 기술에 눈독을 들이면서 각종 사이버 범죄가 기승을 부리고 있다.

생성형 AI는 현재 매우 '개인화'되어 있으며, 일본 인터넷 회사의 기술자가 테스트한 결과 AI가 전형적인 일본 작문 스타일로 비즈니스 이메일을 작성할 수 있으며, 일본인의 방법에 따라 자동으로 암호를 보내 전자 메일 첨부 파일을 열 수 있음을 발견했다.

일본 국가경찰청에 따르면 2023년 상반기 중 인터넷뱅킹을 통한 무허가 송금은 2322건으로 전년 동기 대비 16배 급증했다. 불법 이체 건수와 금액 모두 30억엔 이상 최대치를 기록했다.

AI로 가짜 사이트를 만들어 피싱 사기를 치고 다른 사람의 비밀번호와 신용카드 정보를 빼내 이익을 챙기는 범죄자를 식별하기는커녕 단속도 어렵다.

사기범들의 AI 남용으로 가짜 이미지 사이트가 급증하고 있다. 2023년 1월부터 3월까지 이스라엘의 한 연구 회사는 소아성애증을 대상으로 한 다크웹에서 AI에 의해 생성될 수 있는 68개의 이미지를 발견했는데, 이는 이전 3개월보다 3배 가까이 증가한 수치이다.

독일 데이터 기업 스태티스타에 따르면 2030년까지 글로벌 생성 AI 시장은 올해보다 5배 가까이 성장한 2070억 달러(271조 6461억 원)에 이를 것으로 전망된다.

점점 더 시급해지는 생성적 AI 기술 남용 위협에 직면하여 규제 당국은 최근 잇달아 조치를 취하기 시작했다.

이와 관련 주요 7개국(G7)과 유럽연합(EU)은 12월 더 많은 AI 관련 네트워크 혼란을 막기 위해 허위 정보 유포 방지 등 통제 조치를 포함한 포괄적인 AI 규제 규칙을 제정하기로 잇따라 합의했다.