AI Sora 공개 및 딥페이크 방지 기술

2022년 ChatGPT를 출시한 미국 개발사 ‘OpenAI’는 다시 한번 AI 산업에 새로운 패러다임을 제시했다.

영상제작 AI ‘소라(SORA)’를 공개했다.

AI 소라가 만들어낸 영상의 완성도가 워낙 정교해 전 세계에서 충격적인 반응을 얻고 있다.

오늘은 AI소라와 영상에 대해 이야기해 볼까 합니다.

텍스트를 입력하면 동영상이 생성되나요? 오픈AI가 출시한 소라(Sora)는 입력한 텍스트를 기반으로 1분 이내의 영상을 만들어주는 ‘텍스트 투 비디오(Text to Video)’다.

영상)’ 모델.

▲ 출처 : pexel.com

Chat GPT 등 기존의 텍스트 중심 AI에서 이미지, 사운드, 동영상 등 다양한 형태의 데이터를 동시에 이해하고 처리하는 AI로 진화하고 있습니다.

OpenAI는 소라로 제작한 샘플 영상 48개를 공개했는데, 실제인지 가상인지 분간하기 어려울 정도로 정교하고 퀄리티가 좋았다.

그럼 소라의 세련된 디자인이 담긴 샘플 영상을 감상해 볼까요?

▲ AI 소라 샘플 영상 눈밭에 뒹굴고 있는 강아지부터 사람이 붐비는 아프리카의 시장까지, 텍스트를 입력하는 사람이 원하는 이미지가 영상에 아주 정확하게 담겨있습니다.

표현되었습니다.

Open AI의 특허 그렇다면 Open AI가 소라를 세상에 출시할 때 어떤 특허를 기반으로 한 것일까요? Wintelips에서 OpenAI의 특허에 대해 알아봤습니다.

먼저, 머신러닝 학습을 기반으로 영상 이미지를 제작하는 OpenAI의 특허가 눈에 띈다.

최근 출시된 소라에도 이 특허 기술이 일부 적용된 것으로 보인다.

▲ 기계 학습을 사용하여 모델을 훈련하고 사용하여 비디오 및 입력 데이터 세트를 기반으로 자동 인터페이스 작업을 수행합니다.

특허에 따르면 온라인 데이터에 라벨을 붙이고 머신러닝 모델을 훈련시켜 클릭, 키 누르기, 터치 등 인간의 물리적 행동 없이 자동화된 행동을 수행하는 시스템이다.

OpenAI의 다른 특허도 살펴보겠습니다.

지난해에도 출원된 이 특허는 ‘언어 모델 기반 텍스트 삽입 시스템 및 방법’이라 불리며, 언어를 이용하여 자동으로 텍스트를 생성하고 편집하는 시스템 기술이다.

▲ 언어모델 기반 텍스트 삽입 시스템 및 방법 이 기술에는 데이터 입력, 언어 액세스, 문장 분석, 텍스트 편집 및 문장 최적화를 위한 엔진이 포함되어 ChatGPT의 정확성을 더욱 향상시킵니다.

그것은 증가될 수 있다.

오픈AI도 인지한 딥페이크의 위험성 ▲오픈AI 레드팀 한편 누구나 사용할 수 있는 ChatGPT와 달리 OpenAI는 소라의 샘플만 공개하고 소라를 ‘레드팀’이라고 부른다.

학계, 외부 전문가 그룹. ▲ 딥페이크를 활용한 가짜뉴스 영상 궁극적으로 Sora와 같은 개방형 AI 및 생성적 AI 모델은 딥페이크 또는 심각한 가짜 정보 생산의 대상이 될 수 있습니다.

존재한다는 사실을 인정하는 것과 같습니다.

딥페이크는 이미 전 세계적으로 빠르게 확산되고 있습니다.

특히 할리우드에서는 영향력 있는 정치인이나 연예인을 딥페이크로 활용해 사람들을 호도하고 있다.

위 영상을 보시면 도널드 트럼프부터 엘론 머스크, 교황까지 딥페이크에 의해 오용되고 있는 많은 사람들의 사례를 보실 수 있습니다.

딥페이크 방지 특허 딥페이크 범죄가 날로 지능화되면서 딥페이크 전쟁에 대응하기 위한 기술도 속속 발전하고 있다.

이번 특허는 AI 플랫폼 전문기업 메타버즈(Metabuzz)가 개발한 ‘사용자 딥페이크 영상 분석 및 모니터링 서비스 제공 방법’으로, 스트리밍 영상에서 생성되는 가짜 이미지를 분석하고 모니터링하는 기술이다.

▲사용자 딥페이크 영상 분석 및 모니터링 서비스 제공 방법 웹사이트에서 제공되는 스트리밍 동영상 중 딥페이크 여부를 정밀하게 검증하고 모니터링할 수 있으며, 해당 동영상을 폐기할 수도 있습니다.

딥페이크 영상 분석 및 모니터링 서비스입니다.

딥페이크는 영상뿐 아니라 음성 위조에도 공개적으로 악용되고 있습니다.

이를 방지하기 위해 Google은 위조된 오디오를 감지하는 기술도 개발했습니다.

Google의 기술은 오디오 데이터를 분류하여 음성에 합성 음성이 포함되어 있는지 확인합니다.

이를 수행하는 시스템입니다.

▲ 가짜 오디오 감지를 위한 자체 감독 음성 표현 이 시스템을 사용하면 유튜브를 비롯한 음성 플랫폼에 위변조된 음성이 전송되는 것을 방지하는 데 큰 효과가 있습니다.

있을 것으로 예상됩니다.

딥페이크는 정말 근절될 수 있을까? 최근 오픈AI, 구글, MS 등 생성 AI 모델을 개발하는 빅테크 기업들은 독일에서 열린 ‘뮌헨 보안 컨퍼런스(MSC) 2024’에서 ‘AI 생성 딥페이크’를 발표했다.

대응 프레임워크 채택에 관한 협약’을 체결했습니다.

▲ ‘뮌헨안보회의(MSC) 2024’에서 체결한 협약서 사진 위 협약에 참여한 각 기업은 나날이 정교해지고 있는 딥페이크 기술이 자체 개발한 AI 기술을 앞지르고 있다는 점에 동의했다.

이미 발전하고 있는 딥페이크를 방지하기 위해서는 대응 기술도 중요하지만, 무엇보다 딥페이크를 방지할 수 있는 강력한 글로벌 AI 규제 법안이 마련돼야 한다.

▲ 출처 : pexel.com AI의 발달이 우리 일상에 편리함을 가져다 준 것은 분명하다.

다만, 모두가 안전한 AI 생활을 누릴 수 있도록 부작용 방지 대책이 조속히 마련되길 바랍니다.