YouTube, '상당 수준의 사실적인 AI 사용' 영상에 자동으로 공개 알림 추가

YouTube가 생성형 AI로 제작된 콘텐츠의 투명성을 높이기 위한 조치의 일환으로, 영상에 대한 AI 라벨 표시 기능을 개선한다고 발표했습니다.

최근 YouTube를 이용해 본 사람이라면 누구나 플랫폼 내에 AI로 만든 저품질 콘텐츠(AI slop)가 급증하고 있다는 사실을 알고 있을 것입니다. 여기에는 오해를 불러일으켜 수백만 조회수를 기록하는 가짜 AI 생성 영화 예고편도 포함됩니다. 이달 초, 시네마콘(CinemaCon)에서 비공개로 상영된 Avengers: Doomsday 예고편 공개를 기다리는 동안, 사람들은 공식 예고편에 대한 온라인 설명을 바탕으로 AI를 이용해 그럴듯한 가짜 예고편을 만들어 공백을 메우기도 했습니다.

Gambit과 Shang-Chi, Thor와 Doctor Doom의 전투 장면, 그리고 마지막에 극적으로 등장하는 Steve Rogers의 모습을 담은 가짜 Avengers: Doomsday 예고편 영상들은 소셜 미디어에서 수백만 조회수를 기록했으며, 일부 시청자들은 이를 실제 예고편으로 착각하기도 했습니다.

하지만 이 문제는 YouTube의 다른 심각한 영역으로까지 확대되고 있습니다. 특히 시청하는 콘텐츠의 성격을 분별하기 어려운 아동을 겨냥한 AI 저품질 콘텐츠가 대표적입니다.

오늘 게시된 블로그 포스트에서 YouTube는 AI 공개 기능을 개선할 두 가지 업데이트를 발표했습니다. 우선 "실사처럼 보이거나 AI로 의미 있게 변형 또는 생성된 콘텐츠"에 대한 공개 라벨을 더 눈에 띄는 위치로 옮깁니다. 긴 영상(long-form)의 경우, 라벨이 이제 영상 플레이어 바로 아래, 설명란 위에 표시됩니다. Shorts의 경우, 라벨이 영상 위에 오버레이 형태로 나타납니다.

YouTube는 "이 라벨들을 주요 위치로 옮김으로써 시청자들이 필요한 정보를 한눈에 파악할 수 있게 될 것"이라며, "이제 YouTube의 모든 실사형 및 AI 변형·생성 콘텐츠에 단일 라벨 형식이 적용된다"고 밝혔습니다.

단, 비현실적이거나 애니메이션 형태, 혹은 경미하게 수정된 콘텐츠의 경우 기존처럼 확장된 설명란에서 공개 정보를 확인할 수 있습니다.

더 중요한 변화는 YouTube가 자동 AI 감지 기능을 도입한다는 점입니다. YouTube는 "창작자가 현실적인 AI 사용 여부를 직접 밝히도록 요구하는 정책은 유지하되, 그 과정을 더 원활하고 신뢰할 수 있게 만들고자 한다"며, "2026년 5월부터 AI 생성 콘텐츠를 식별하는 새로운 내부 신호 시스템을 도입할 예정"이라고 설명했습니다.

"창작자가 AI 사용 여부를 명시하지 않았더라도, 당사 시스템이 실사형 AI가 상당 부분 사용된 것을 감지하면 자동으로 라벨을 적용할 것입니다."

자신의 콘텐츠가 AI 생성물로 잘못 분류되었다고 판단하는 창작자는 YouTube 스튜디오에서 공개 상태를 수정할 수 있습니다. 다만, 다음과 같은 경우에는 공개 라벨이 영구적으로 유지됩니다.

• Veo나 Dream Screen과 같은 YouTube 자체 AI 도구를 사용하여 제작된 콘텐츠
• 완전한 생성형 AI로 제작되었음을 나타내는 C2PA 메타데이터가 포함된 콘텐츠
• 책임에 대한 당사의 약속

YouTube는 "이번 변경 사항은 투명성과 창작자의 통제권 사이의 균형을 맞추기 위해 설계되었다"며, "라벨 표시 자체가 영상의 추천 방식이나 수익 창출 자격에 영향을 주지는 않는다는 점을 유의해야 한다. AI가 가능한 것의 범위를 바꾸고 있는 세상에서, 우리의 목표는 창작자와 시청자가 올바른 정보를 최대한 쉽게 얻을 수 있도록 하는 것"이라고 덧붙였습니다.

지난 12월, YouTube는 가짜 영화 예고편을 유포하던 가장 큰 채널 두 곳을 폐쇄했습니다. 수십억 건의 조회수를 기록했던 Screen Culture와 KH Studio의 가짜 예고편 영상들은 모두 삭제되었습니다. 두 채널은 할리우드가 제작해주길 바라는 영화나, 발표는 되었지만 공식 예고편이 나오지 않은 영화들을 대상으로 수년간 가짜 예고편을 쏟아내 악명이 높았습니다. 예상대로 Marvel Cinematic Universe 관련 영상이 인기가 많았으며, 일부 가짜 예고편은 YouTube에서 공식 예고편보다 더 높은 순위를 차지하기도 했습니다.

이번 단속은 Disney가 Google에 보낸 중단 요청 서한 이후에 이루어졌다는 점이 주목할 만합니다. 당시 Disney는 Google이 자사의 저작물을 무단으로 사용하여 자체 생성형 AI 모델을 학습시킴으로써 "대규모로" 저작권을 침해했다고 비난했습니다.

생성형 AI 기술이 대중화되고 접근성이 높아짐에 따라, 이를 악용한 오해의 소지가 있는 영상들은 최근 몇 년간 인터넷상에서 폭발적으로 증가했습니다. 물리학자 Brian Cox는 자신을 딥페이크로 합성해 혜성 3I/ATLAS가 우주선이라는 헛소리를 하게 만든 YouTube 계정들에 대해 공개적으로 불만을 제기한 바 있습니다. 마찬가지로 Keanu Reeves 또한 자신의 허락 없이 제품을 판매하는 AI 딥페이크 영상에 대해 "전혀 즐겁지 않다"며 강하게 비판했습니다. 작년 7월에는 Reeves가 TikTok이나 Meta 같은 플랫폼에서 사칭 계정을 삭제하기 위해 매달 수천 달러를 지불하고 있다는 보도가 나오기도 했습니다.

Wesley는 IGN의 뉴스 디렉터입니다. 트위터 @wyp100에서 그를 팔로우할 수 있습니다. 문의 사항은 [email protected]으로, 제보는 [email protected]로 보내주시기 바랍니다.