새 디지컬 마케팅시대 연 '생성형 AI' 

개인정보 유출 등 소비자 피해 속출

AI발전 맞춰 안정적 효과적 규제 필요

이용자에 AI시스템 이용 사실 알리고

위법한 콘텐츠생성 방지케 설계·개발

저작권보호 데이터이용시 공개 등 필요

[동아경제신문=이은실 기자] 생성형 AI로 인한 개인정보 유출, 부정적 콘텐츠 생산, 가짜뉴스 등 피해가 발생하고 있어 소비자 보호가 절실한 상황이다. 특히 AI 기술은 향후 소비자의 삶에 더욱 녹아들 것으로 예상 돼 소비자의 권익 보호를 위해 안정적이고 효과적인 규제가 필요하다는 주장이다.

15일 오전 10시 국회 의원회관 제8간담회의실에서 '생성형 AI와 소비자 보호 이슈 및 과제' 토론회가 개최됐다.

이번 토론회는 생성형 AI가 진화하면서 다양한 사회적 부작용을 낳음에 따라 소비자의 권익을 보호할 수 있는 방안을 다각도로 논의하기 위해 마련됐다.

강정화 한국소비자연맹 회장은 "생성형 AI와 자율자동차의 결합, 스마트폰, 문화예술분야까지 각 분야에서 앞으로의 변화와 미래를 준비하고 있다"며 "아직까지 소비자에게 어떤 영향이 올 수 있을지, 어떻게 수용해야 할 지에 대한 논의는 없는 상황"이라고 지적했다.

박성중 국민의힘 국회의원은 "생성형 AI의 진화로 새로운 디지털 마케팅 시대가 열렸지만 동시에 개인정보 유출과 알고리즘 편향에 따른 부정적 콘텐츠 생산, 가짜뉴스 등으로 인한 피해가 딜레마로 작용하고 있다"며 "우리나라 역시 인공지능의 발전 속도에 맞춘 안정적이고 효과적인 규제가 필요하다"고 말했다.

최경진 가천대학교 법학과 교수와 허승진 법무법인 율촌 변호사가 각각 '생성형 AI 시대의 소비자 이슈와 바람직한 규율 방안', '생성형 AI 발전에 대응하는 소비자 보호 법제의 쟁점과 개선방안'을 주제로 발제했다.

최경진 가천대학교 법학과 교수는 "생성형 AI로 인한 소비자 피해가 발생해 보호가 필요한 상황"이라며 "생성형 AI 규제에 대한 접근 방식이 달라져야 한다"고 강조했다.

최경진 교수는 "2023년 EU 의회 수정안을 살펴보면 생성형 AI에 대한 강력한 입법을 위해 노력하고 있다"며 "파운데이션 모델은 대규모 데이터 학습을 통해 출력의 범용성을 고려해 설계돼 다양한 작업에 적용될 수 있는 AI모델로 공급자의 데이터 관리, 환경보호, 품질관리 시스템 구축, 모델 신뢰성 확보, 데이터베이스 등록 등 다양한 의무를 가진다"고 말했다.

최 교수는 "생성형 AI의 파운데이션 모델은 이용자에게 AI시스템 이용 사실을 알려야 하고, 위법한 콘텐츠 생성을 방지할 수 있도록 설계·개발·학습해 저작권으로 보호받는 학습데이터 이용 시 관련 정보를 문서화해 공개하는 등 추가 의무가 부여된다"고 밝혔다.

최 교수는 "고위험 AI시스템 목록에 해당되더라도 사람의 건강, 안전 또는 기본권에 상당한 위험을 야기하는 경우에만 고위험으로 간주하고 있다"고 말했다.

최 교수는 "위험 및 사례 기반 접근과 선의·자발성 유도를 촉진하고 명확한 책임과 비례적 차등을 규제하는 등 정확한 현상 및 문제점을 분석해 현행 규제의 적용·해결 가능성을 검토해야 한다"고 강조했다.

▲ 법무법인 율촌 허승진 변호사가 15일 오전 10시 국회 의원회관 제8간담회의실에서 개최된 '생성형 AI와 소비자 보호 이슈 및 과제' 토론회에서 '생성형 AI 발전에 대응하는 소비자 보호 법제의 쟁점과 개선방안'을 주제로 발제를 이어가고 있다. /사진=안세진 기자     ©동아경제신문

허승진 법무법인 율촌 변호사는 "EU 입법자들은 대체로 개인정보의 보호를 인공지능 및 기계학습 기술의 발달을 위한 개인정보 수입의 필요성보다 우위에 두려고 노력하고 있다"며 "이러한 맥락에서 의회의 EU AI법안의 수정안은 AI를 개인정보를 침해하거나 차별을 위한 용도로 사용하는 것을 일괄적으로 금지하고 있다"고 강조했다.

허승진 변호사는 "이러한 내용을 고려할 때 EU입법자들은 AI 학습을 위한 데이터 사용 과정에서 인공지능에 의해 기존에 존재하는 차별 및 편견이 강화되는 현상 등을 우려하고 있다고 본다"고 말했다.

허 변호사는 "미국의 연방 법률 및 주요 지침은 AI의 개발 및 이용에 관한 전반적인 가이드라인을 제시하고 있다"며 "연방 차원에서 규제적 내용의 법안들이 발의되는 움직임이 나타나고 있고 구체적 영역에서의 지침도 일부 마련됐다"고 밝혔다.

허 변호사는 "국내 인공지능산업 육성법안 주요 내용으로는 인공지능 윤리원칙에는 안전성과 신뢰성에 관한 사항, 인공지능기술에 대한 접근성에 관한 사항, 인공지능의 인간의 삶 등에 대한 공헌에 관한 사항이 포함돼야 한다"며 "고위험영역 인공지능 사업자(인공지능 개발자 및 이를 사용해 제품 및 서비스를 제공하는 자 모두 포괄)는 인공지능 관련 신뢰성과 안전성을 확보하기 위한 '신뢰성 확보조치'를 해야 한다"고 말했다.

허 변호사는 "가짜뉴스, 음란물, 혐오, 차별 표현 등에 대한 사전조치와 즉각적인 사후조치를 병행해야하며 바람직한 생성형 AI이용 문화 형성 장려 및 AI 소비자의 디지털 리터러시 함양 교육을 확대해야 한다"고 밝혔다.

허 변호사는 "생성형 AI학습을 위한 개인정보 처리를 근거로 검토하고 학습데이터로서 공개된 개인정보를 활용하는 한편 명시적으로 '일반적으로 공개된 정보'에 대해서는 개인정보호법의 적용을 배제하는 규제를 신설하고 검토해야 한다"고 강조했다.

허 변호사는 "저작권 침해 방지를 위해 저작물을 생성형 AI학습에 이용할 수 있게 하면서 저작권자의 권리를 보장할 수 있는 방안이 마련돼야 하며 생성형 AI의 저작권 침해 관련 규정을 신설해야 한다"고 밝혔다.

발제에 이어 토론이 진행됐다. 이성엽 한국데이터법정책학회 회장의 사회로 박규홍 법무법인 세종 변호사, 서종희 연세대학교 법학전문대학원 교수, 손지윤 네이버 이사, 정지연 한국소비자연맹 사무총장, 최경진 한화생명 법무팀 팀장, 민혜영 공정거래위원회 소비자정책총괄과장, 권희수 방송통신위원회 이용자정책총괄과장이 패널로 참여했다.

한편 '생성형 AI와 소비자 보호 이슈 및 과제' 토론회는 박성중 국민의힘 국회의원과 한국소비자연맹, 한국데이터법정책학회가 공동주최했다.