엠마 왓슨이 왜 여기에? AI 딥페이크 '음란 광고' 단골 주인공
엠마 왓슨이 왜 여기에? AI 딥페이크 '음란 광고' 단골 주인공 최근 영화 '해리포터'의 여주인공 엠마 왓슨 등 여배우들이 SNS의 음란 광고에 빈번하게 등장하고 있습니다. 딥페이크 뜻 어플 처벌 사이트 프로그램 알아보기
지난 8일(현지시간) 미국 NBC 뉴스에 따르면 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장하는데 해당 광고물에서 그녀는 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취합니다.
이는 실제 왓슨이 출연한 것이 아니라 딥페이크로 영상의 얼굴만 바꿔치기한 것인데, 딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로, 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있습니다. 딥페이크 뜻 어플 처벌 사이트 프로그램 알아보기
페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 NBC는 전했습니다.
딥페이크
딥페이크(Deepfake)는 딥러닝 기술을 이용하여 인공지능이 원하는 사람의 얼굴과 목소리를 합성하여 가짜 동영상, 오디오 클립 등을 만들어내는 기술입니다.
이러한 기술은 초기에는 유명인사의 얼굴을 대입하여 유명인사가 하는 말을 가짜 동영상으로 만드는 것으로 악용되어 문제가 되었습니다. 이후에는 정치인이나 비즈니스 인사 등의 얼굴을 대입하여 이들이 하는 발언이나 행동을 가짜로 만들어 유포하는 등의 범죄나 사기 행위로 악용될 우려가 있습니다.
딥페이크는 이를 대처하기 위해 인공지능을 이용하여 가짜 동영상을 탐지하거나 원본과 구분할 수 있는 기술도 개발되고 있습니다. 하지만 기술의 발전과 함께 이를 악용하는 사례도 늘어날 가능성이 있으므로 주의가 필요합니다.
이런 딥페이크 영상의 문제점은 왓슨 같은 유명 인사나 인플루언서 뿐만 아니라 미성년자를 포함한 그 어떤 누구도 대상이 될 수 있어 문제의 심각성이 있습니다.
메타 등 대부분의 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있으나 NBC가 검토한 앱들은 규제의 틈을 비집고 버젓이 활성화돼 있었습니다. 딥페이크 뜻 어플 처벌 사이트 프로그램 알아보기
NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했는데, 문제의 앱은 5~6일 이틀간 메타 산하 페이스북, 인스타그램 등 SNS에 230개 이상의 동영상 광고를 하고 있었습니다.
이와 관련 메타는 “우리 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 밝혔습니다.
생성 인공지능(Generative AI) 기술 중 사람처럼 자연스럽게 대화하는 '챗GPT(ChatGPT)'가 전세계에서 돌풍을 일으키고 있는 가운데, 이미지를 생성하는 AI 기술에 대한 관심도 뜨거워지고 있다. ChatGPT 챗지피티 인공지능 채팅 사이트 바로가기
문제는 이를 악용해 음란물을 제작·배포하는 사례가 발생하고 있다는 점이다. 실제 인물을 바탕으로 하지 않아 직접적인 피해자는 없더라도 아동·청소년 보호를 위해 적절한 규제책이 마련될 필요가 있다는 지적이 나온다. ChatGPT 챗지피티 인공지능 채팅 사이트 바로가기
9일 IT 업계에 따르면 제시된 문장을 이미지로 변환하는 생성 AI 기술은 이미 수년 전부터 이용돼왔다. 최근 챗GPT 열풍과 맞물려 이용자들이 크게 늘어나는 추세다. 챗지피티 사이트 바로가기 [ChatGPT 인공지능 채팅 ]
이용자들이 증가한 만큼 부작용도 나타난다. 현재 국내 온라인 커뮤니티들에서는 이미지 생성 AI 기술을 이용해 제작한 음란물을 쉽게 찾아볼 수 있다. 노출이 심한 옷을 입거나 가슴을 부각한 여성 이미지가 상당수다. 챗지피티 사이트 바로가기 [ChatGPT 인공지능 채팅 ]
이미지 생성 AI 기술은 단어나 문장을 바탕으로 이미지를 만든다. 관련 기업들은 악용 가능성을 차단하기 위해 필터링 기술을 적용하고 있지만, 이용자들은 약어나 은어 등 우회적인 방법으로 음란물을 생성한다. 이런 비법들이 커뮤니티에서 공유되는 중이다.
악용하는 사람 처벌, 기술 자체 제한하면 안돼
성적 콘텐츠에 연예인 얼굴 등을 합성하는 딥페이크(Deepfake) AI 기술의 경우 '성폭력범죄의 처벌 등에 관한 특별법'에 따라 처벌을 받는다. 제작 행위만으로도 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해질 수 있다.
하지만 AI로 생성한 가상인물 이미지는 음란물이라고 해도 제재할 수단이 마땅치 않다. AI가 만드는 이미지는 저작권이나 초상권 개념에 제한되지 않고, 어떤 데이터를 합성했는지 '원본'을 규명하는 것이 사실상 불가능하다.
커뮤니티나 소셜미디어(SNS)로 퍼진 음란물은 별다른 제한 없이 누구나 볼 수 있어 아동·청소년들의 접근이 자유롭다. 아동·청소년이 직접 성인물을 제작할 가능성도 있다. 이 같은 다양한 문제 소지를 선제적으로 막는 방안을 논의해야 한다는 여론이 나온다.
"AI를 통해 생성된 이미지가 '보는 사람'에게 미치는 영향을 중심으로 볼 필요가 있다"며 "음란물로서 아동·청소년에게 유해하다고 판단하면 이 콘텐츠가 유통되는 구조를 중심으로 봐야 한다"