"분명 내 목소리인데"…'AI 딥보이스' 범죄에 무방비

"분명 내 목소리인데"…'AI 딥보이스' 범죄에 무방비

[앵커]

인공지능 AI의 발달 속에 목소리를 잠시만 들려줘도 그대로 모방할 수 있는 기술이 등장했습니다.

기술의 발달 자체는 환영할 만한 일이지만, 보이스피싱 등 범죄에 악용될 수 있다는 점이 문제인데요.

딥보이스 범죄를 처벌할 수 있도록 AI 기본법의 조속한 제정이 필요하다는 목소리가 나옵니다.

김동욱 기자입니다.

[기자]

챗GPT를 만든 오픈AI가 최근 공개한 '보이스엔진' 초기 테스트 모델.

사람 목소리를 15초만 들려줘도 목소리를 복제해 같은 목소리로 텍스트를 읽어줍니다.

"이 녹음은 음성 언어를 사용하지 못하는 사람 스스로 더 잘 표현할 수 있도록 돕기 위한 것입니다."

"도와주셔서 감사합니다. 오늘 밤 같이 영화 볼래요? 제 안경 찾는 걸 도와줄 수 있으세요?"

AI가 발전하면서 특정인의 목소리를 학습해 재현하는 '딥보이스' 기술도 진화하고 있습니다.

하지만 이런 기술이 음해를 목적으로 한 가짜뉴스나 보이스피싱 등에 활용될 경우 상대방이 알아차리기 어렵습니다.

딥보이스 탐지 기술이 개발되고는 있지만, 당장은 범죄에 악용될 우려가 큰 겁니다.

문제는 AI 딥보이스를 활용한 범죄를 따로 처벌할 수 있는 법적 근거조차 마련되지 않았다는 점입니다.

이종호 과학기술정보통신부 장관은 최근 기자간담회에서 "AI 기본법이 통과돼야 딥보이스 스미싱 범죄를 처벌할 수 있는 규정을 시행령에 담을 수 있다"며 국회에 법안 통과를 촉구했습니다.

AI 기본법은 규제 외에도 AI 산업 육성을 위한 연구개발 지원 등의 내용을 담고 있지만, 21대 국회에서는 다른 현안들에 밀려 폐기될 위기에 처한 상태입니다.

연합뉴스TV 김동욱입니다. (dk1@yna.co.kr)

[영상취재기자 김진일]

#인공지능 #AI #딥보이스 #과기정통부 #국회 #AI기본법

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)