유튜브, AI 생성 콘텐츠에 라벨 붙인다

유튜브가 AI 생성 콘텐츠에 라벨을 붙이는 등의 업데이트를 진행한다. 유트브는 생성형 AI가 창의력을 촉진하고 사용자 경험을 변화시키는 잠재력이 있지만 새로우 위험성도 있다고 판단해 이같은 정책을 도입한다고 밝혔다.

AI 생성 콘텐츠 공개 요구 및 새로운 라벨

유튜브는 크리에이터가 콘텐츠를 업로드할 때, 해당 콘텐츠가 변형되었거나 합성된 내용을 포함하고 있음을 알리는 새로운 옵션을 제공할 계획이다. 일어나지 않은 사건을 사실적으로 묘사하는 AI로 생성된 영상 또는 누군가가 실제로 하지 않은 말이나 행동을 보여주는 콘텐츠가 이에 해당한다.

선거, 진행 중인 분쟁, 공중 보건 위기, 공직자와 같은 민감한 주제를 다루는 콘텐츠에 있어 더 중요합니다. 콘텐츠의 변형 및 합성 여부를 지속적으로 공개하지 않는 크리에이터는 콘텐츠 삭제, 유튜브 파트너 프로그램 정지 등과 같은 불이익을 받을 수 있다.

크리에이터, 시청자, 아티스트를 위한 새로운 옵션

앞으로 몇 달 안에 AI로 생성되거나 다른 방식으로 합성 또는 변형된 콘텐츠에서 얼굴이나 음성을 포함해 신원 파악이 가능한 개인을 모방한 경우 개인 정보 침해 신고 절차에 따라 콘텐츠 삭제를 요청할 수 있도록 조치할 예정이다.

음악 파트너사가 아티스트의 고유한 노래나 랩 보컬을 모방한 AI로 생성된 음악 콘텐츠의 삭제를 요청할 수 있는 방법도 도입다. 이러한 삭제 요청의 승인 여부를 결정하는 데에는 해당 콘텐츠가 뉴스로 보도되거나 콘텐츠 속 음성이 분석 또는 비평의 대상이 되는지 등 다양한 요소가 고려한다.

콘텐츠 검토를 위한 AI 기술

유튜브에서는 언제나 인력과 머신러닝 기술의 조합을 바탕으로 커뮤니티 가이드를 시행하고 있으며, 전 세계적으로 2만 명 이상의 검토자가 구글 전반에서 활동하고 있다. 구글 시스템에서 AI 분류기는 위반 가능성이 있는 콘텐츠를 대규모로 감지할 수 있도록 지원하며, 검토자는 콘텐츠가 실제로 정책을 위반했는지 확인한다. (끝)

관련 뉴스

구글 직원이 알려주는 유튜브 알고리즘 작동 원리

유튜브 쇼츠 스팸 방지 위해 극단적 조치 취한다

유튜브 성공을 위한 10가지 핵심 요소