▲ 양부남 국회의원

AI 기술 악용 허위 영상·음성 유포시 처벌 강화

[동아경제신문=유경석 기자] 양부남 국회의원(더불어민주당/광주 서구을)은 생성형 인공지능(AI)과 딥페이크 기술을 악용해 정교하게 조작된 영상이나 음성으로 타인의 명예를 훼손하는 경우, 기존 명예훼손죄보다 형량을 무겁게 매겨 엄벌하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안’을 11일 대표 발의했다.

11일 국회 의안정보시스템에 따르면, 이번 개정안은 눈으로 보고도 진짜인지 가짜인지 구분하기 힘든 고도화된 AI 조작 기술이 단순한 일상의 편의를 넘어 영혼을 파괴하는 신종 범죄 무기로 돌변하는 사회적 폐해를 막기 위해 마련됐다.

최근 생성형 AI 기술의 급격한 발전으로 타인의 얼굴이나 목소리, 행동을 완벽하게 재현한 딥페이크 결과물을 누구나 손쉽게 만들어낼 수 있게 됐다. 

문제는 이러한 기술적 진보의 이면에서 특정인의 명예를 가차 없이 짓밟을 목적으로 정교하게 짜깁기된 허위 영상·음성을 유포하는 악질적 범죄가 급증하고 있다는 점이다. 

교묘하게 조작된 가짜 영상은 인터넷과 SNS 등 정보통신망을 타고 순식간에 전방위로 확산돼 피해자에게 사실 여부와 상관없이 회복 불가능한 치명적인 인격권 침해를 가한다. 

그럼에도 불구하고 기존의 법적 처벌 수위는 아날로그식 허위사실 유포나 일반적인 글·사진 형태의 명예훼손 잣대에 머물러 있어 대중의 인식을 통째로 마비시키는 AI 범죄의 강력한 파급력과 위험성을 억제하기엔 한계가 있다는 지적이 지속적으로 제기돼 왔다.

개정안은 디지털 인공지능 기술의 치명적인 악용 가능성을 차단하고, 기술을 범죄 도구로 삼은 가해자에게 가중처벌의 철퇴를 내리는 조항을 골자로 한다.

인공지능 기술 등을 악용해 허위의 영상물, 음성물 또는 사진을 제작·배포함으로써 타인의 명예를 훼손한 경우, 해당 범죄에 규정된 본래의 형량보다 가중하여 처벌할 수 있도록 구체적인 법적 근거를 신설했다(안 제70조제3항 신설).

기존 정보통신망법 제70조(벌칙)는 사람을 비방할 목적으로 거짓의 사실을 드러내 명예를 훼손한 자를 7년 이하의 징역, 10년 이하의 자격정지 또는 5,000만 원 이하의 벌금에 처하도록 규정하고 있다. 

이번 개정안이 통과되면 단순 글로 쓴 거짓말보다 타인의 신뢰를 완벽하게 속여 넘기는 'AI 기반의 딥페이크 및 음성 변조 조작물' 유포 행위에 대해 사법부가 원칙적으로 한 단계 더 높은 형량을 선고하게 된다. 기술을 다루는 가해자들에게 법률상의 확실한 경고등을 켜는 셈이다.

본 법안은 표현의 자유 논란이나 단순 명예훼손의 온건한 처벌 관행을 뛰어넘, '생성형 AI 기술의 악성 진화'라는 시대적 위험성을 형벌 체계에 다이렉트 반영한 선제적 입법이라는 점에서 차별성을 지닌다.