딥페이크 합성·텔레그램 유포…'N번방' 근절 못 하는 이유

딥페이크 합성·텔레그램 유포…'N번방' 근절 못 하는 이유

[앵커]

최근 딥페이크 기술로 서울대 동문 여성들의 사진을 합성해 음란물을 만들어 유포한 일당이 검거됐습니다.

이들은 추적을 피하기 위해 익명성이 보장되는 텔레그램 방을 3년 가까이 운영해오며 범행을 저질렀는데요.

유사 범죄가 잇따르지는 않을지, 대책이 필요해 보입니다.

문승욱 기자입니다.

[기자]

양 팔을 붙들려 경찰에 끌려가는 한 남성.

서울대 여학생들의 얼굴 사진과 나체 사진을 합성해 음란물로 만들고 유포했다가 뒤늦게 구속된 서울대 졸업생 중 한명인 박모 씨입니다.

박 씨가 유포한 영상들은 대부분 서울대 로스쿨 졸업생인 공범 강모 씨가 제작한 겁니다.

강씨는 박씨에게 로스쿨 동기의 인적사항과 사진 등을 전달했습니다.

강씨는 인공지능 기술인 '딥페이크'를 이용했습니다.

애플리케이션을 이용하면 누구나 쉽게 딥페이크 사진이나 영상을 만들 수 있어 유사 범죄에 대한 우려가 나옵니다.

제가 직접 딥페이크 앱을 다운받아서 다른 사람의 사진에 제 얼굴을 합성해봤는데요.

클릭 한 번에 합성 사진이 만들어졌습니다.

규제가 미비하다는 지적에 인공지능 콘텐츠에 워터마크 표시를 의무화하는 등의 AI 기본법이 발의됐지만 끝내 국회 문턱을 넘지 못했습니다.

"유럽연합은 법으로 제정이 돼서 AI로 생성한 콘텐츠들은 표시하도록 되어 있고…우리나라는 그런 법이 없어요."

익명성이 강한 '텔레그램'에서 음란물이 유포되는 것도 피해를 키우는 원인으로 꼽힙니다.

박 씨가 만든 단체 채팅방만 20여개,

온라인 플랫폼 규제를 강화하는 'N번방 방지법'이 시행된 지 3년이 지났지만 텔레그램은 여전히 규제 밖에 있습니다.

"디지털 성범죄의 경우에는 가해자를 특정하기가 어려운 점이 있습니다. 전기통신사업법 등 관련 규정에 한국 지사를 통해 수사에 협조할 수 있도록 하는 규정이 마련될 필요가 있습니다."

전문가들은 N번방 사태가 또다시 반복되지 않도록 딥페이크 생성 기업과 해외 플랫폼 등에 대한 규제 마련이 필요하다고 조언합니다.

연합뉴스TV 문승욱입니다. (winnerwook@yna.co.kr)

[영상취재 기자 문영식]

#딥페이크 #서울대 #N번방

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)