가짜가 진짜처럼... AI 영상, 지금 당장 규제가 필요한 이유

AI 기술 발전으로 범죄에 악용될 가능성 증가 고령층은 판단 어려워 교육 필요 지적 정부도 AI 결과물 표기 의무화 추진 활기가 넘치는 '행복한 아침'이 시작됩니다! '행복한 아침' 월~금 아침 7시 30분 방송

Transcript

00:00네 번째 모닝킥입니다. 진짜 가짜입니다. 진짜와 가짜. 알쏭달쏭한데 뭐가 진짜고 뭐가 가짜라는 거예요?

00:07네. 바로 AI가 만든 영상이 되겠습니다. 요즘 누구나 AI로 뉴스 영상이나 광고 영상은 쉽게 만들 수 있는 시대가 됐죠.

00:17그런데 최근에 이게 진짜냐 싶을 정도의 AI 영상이 SNS에서 화제가 되면서 AI 기술이 주는 충격과 경고를 동시에 보여줬습니다.

00:29최근 SNS에서 화제가 된 영상을 지금 보고 계신데요.

00:34서울 시내의 용암이 분출됐다는 속보를 전하는 아나운서에 현장 기자가 용암 앞에 태연히 서 있는 장면이 나오고요.

00:42그런데 기자가 자신은 AI라고 말을 합니다.

00:46이 영상에 등장하는 인물 모두가 나는 AI입니다. 이렇게 고백을 하면서 콘텐츠의 진위 여부를 확인하지 않고 받아들이는 현실을 풍자했는데요.

00:55이 영상은 실제 영상 생성 AI로 제작이 된 겁니다.

00:59저게 진짜 진짜인지 가짜인지 구분이 안 될 정도로 기술이 좋아져서 정교한데 이게 걱정스러운 게 그동안에도 그런 걱정 많이 했습니다마는 로맨스 스캠이나 아니면 범죄에 이용되는 게 아닐까.

01:13이런 두려움이 있단 말이에요.

01:15네, 그렇습니다. 실제로 이 영상을 제작한 너튜버는 일론 머스크의 얼굴로 사기당한 사례를 보고 제작 아이디어를 얻었다 이렇게 밝혔는데요.

01:25누구나 손쉽게 AI로 사람과 영상, 목소리를 만들 수 있기 때문에 AI 활용이 익숙하지 않은 고령자가 AI 생성 여부를 판단할 수 있게끔 교육해야 한다는 반응도 잇따랐습니다.

01:37이미 국내 한 대형 포털 사이트에서는 블로그나 카페, TV 채널에 AI 활용 표시 기능을 도입했고요.

01:45정부도 내년 시행 예정인 AI 기본법에 AI 생성 콘텐츠는 AI 결과물임을 의무적으로 표기토록 하고 있습니다.

01:53하지만 이 AI 영상 기술은 오픈소스 형태로도 빠르게 퍼지고 있어서 제도적인 규제만으로는 한계가 있다는 지적이 나오고 있습니다.

02:03전문가들은 악의적으로 AI 영상을 만들면 진위를 가리기 사실상 불가능하기 때문에 어르신이나 아이들처럼 디지털 정보에 익숙하지 않은 계층을 위한 AI 미디어 리터러시 교육이나

02:15즉 무조건 믿지 않고 따져보는 습관이 사회적으로 필요하다고 조언했습니다.

02:20기술의 진보는 피할 수 없지만 AI 화면이 저렇게 버젓이 진짜처럼 생성이 되면 법으로 말해요.

02:29이 밑에 AI 이렇게 딱 못 봤고 이걸 지키지 않을 경우에는 엄청나게 세게 처벌을 한다든지

02:37뭐 이런 게 필요하지 그걸 그대로 방치해놨다가는 저기에 속는 분들 많이 생길 것 같아요.

02:43사회 문제가 될 수도 있을 것 같습니다.