유럽의회, EU 회원국, 위원회는 8일(현지시간) 생체인식 도구에 대한 정부의 AI 사용을 제한하는 방법과 ChatGPT와 같은 생성 AI 시스템을 규제하는 방법을 포함하여 세계 최초의 인공지능(AI) 규제 규칙에 합의했다.

브뤼셀에서 열린 협상대표들은 36시간의 마라톤 회담 끝에 유럽에서의 AI 사용 제한 조치를 확정했다.이들은 새로운 규칙이 AI의 혁신을 해치지 않고 향후 유럽 AI가 리더가 될 것이라는 전망을 훼손하지 않는다고 지적했다.

브레통 EU 내부시장위원은 "EU는 AI 사용을 위한 명확한 규칙을 설정한 첫 번째 지역이 됐으며 AI 법안은 규칙서일 뿐 아니라 EU 스타트업과 연구자들이 글로벌 AI 경주를 이끄는 부스터가 될 것"이라고 말했다.

계약에 따라 ChatGPT 및 GPAI(일반 인공지능 시스템)와 같은 기본 모델은 기술 문서 작성, EU 저작권법 준수, 교육 내용에 대한 자세한 요약 공개를 포함하여 출시 전에 투명성 의무를 준수해야 한다.

시스템 리스크가 있는 고영향력 기반 모델은 모델 평가, 시스템 리스크 평가 및 완화, 적대적 테스트, 심각한 사고 보고, 네트워크 보안 보장, 에너지 효율성 등을 EU 위원회에 보고해야 한다고 전했다.

또한 정부는 특정 범죄 유형의 피해자 찾기, 테러와 같은 예측 가능한 위협 예방, 가장 심각한 범죄에 연루된 용의자 찾기 등 공공 장소에서만 실시간 생체 특성 감시를 수행할 수 있도록 합의했다.

프로토콜은 또한 인지 행동 조작에 AI를 사용하고 생체 인식의 민감한 특성을 기반으로 사람들의 정치 또는 종교적 신념, 성적 지향 또는 인종 등을 추론하는 것을 금지한다.

소비자는 불만을 제기하고 합리적인 설명을 요구할 권리가 있다.위반자는 750만 유로 또는 회사 전 세계 매출의 1.5%에서 3500만 유로 또는 전 세계 매출의 7%에 이르는 벌금을 내야 한다.

그러나 모든 사람이 EU의 새로운 AI 규제 규칙을 환영하는 것은 아니다.

상업단체 디지털유럽은 기업에 대한 또 다른 부담이라고 지적했다.

본필드 달(dal) 디지털유럽 사무총장은 "우리는 합의에 도달했지만 그 대가는 무엇인가.우리는 AI 기술 자체가 아닌 AI 사용에 따른 위험 기반 규제 방식을 전적으로 지지하지만, 마지막 순간에 이뤄진 규제 기반 모델 합의는 전혀 그렇지 않다.”고 언급했다. 

EU 회원국과 의회의 공식 비준을 받아야 하는 이 협정은 이르면 내년 초 발효돼 2년 뒤 시행될 전망이다.

최규현 기자 kh.choi@nvp.co.kr