한국일보 애틀랜타 전자신문

2025년 11월 8일 (토요일) D10 24 기획 2025년11월7일금요일 선거관련딥페이크는지난해미국, 올해한국에서도 나왔다. 이같은 거 짓정보의유통을막고사용자들이진 위를가려낼수있도록각국은워터마 크도입을시도하고있다.내년1월시 행되는우리나라AI 기본법도이런내 용을포함한다.하지만워터마크제거 도구도 함께발전 중이다. 남기는 기 술과지우려는기술간경쟁이점점치 열해지면서워터마킹시장이달아오 르고있다. 콘텐츠별진화, AI기업도적극도입 워터마크는 누가 만들었는지식별 할수있게콘텐츠에삽입하는표식이 다. 당초 목적은 저작권 보호였지만, 최근엔디지털콘텐츠의출처를 추적 하거나진위를확인하는수단으로활 용된다. 눈으로 쉽게인지할 수 있는 지에따라 가시적, 비가시적워터마크 로나뉜다.가시적워터마크는사용자 가 별도 도구없이AI 콘텐츠임을 즉 시알아차릴 수 있지만, 콘텐츠 완성 도를 해치고 쉽게변조할 수있다. 비 가시적워터마크는반대다. 삽입하는 방법은 콘텐츠 종류마다 다르다.이미지원본위에표식을덧대 는 방법도 있지만 그 부분을 잘라내 면소용이없으니노이즈패턴을이미 지안에심고알고리즘이검출할수있 게진화하고 있다. 오디오 파일에는 사람이들을수없는신호를숨기거나 파형을시각화해워터마크를심는다. 텍스트는더정교한기술이필요하다. AI는 확률에따라 어떤 단어를 쓸지 결정하는데, n번째순서에는 확률이 낮은단어를선택하거나특정단어사 용을선호하도록교묘하게모델을조 정해놓고이런패턴이나오는지감지 해AI생성여부를식별한다. 구글딥마인드는자체개발한도구 ( 신스ID ) 로AI가만든이미지,오디오, 텍스트,동영상에사용자가인지못하 는워터마크를삽입하고있고,메타도 지난해압축·변형에강한 음성·비디오 워터마크도구를출시했다.글로벌시 장조사업체베리파이드마켓리서치는 디지털워터마크시장규모가 2032년 60억달러 ( 약 8조6,214억원 ) 까지커 질것으로내다봤다. 네이버와삼성전 자, 이스트소프트, 구글, 마이크로소 프트, 메타, 아마존을 포함한 국내외 기업들은연합체 ( C2PA ) 까지구성해 출처와진위판별을위한기술표준화 에나섰다. “기술수요지속창출해야” 문제는 워터마크 무 력 화기법도 날 로진화중이 란 점이다.인터 넷 에선가 시적워터마크를제거하는 도구를쉽 게 찾 을 수있다. 올해 3월엔구글 ‘ 제 미나이2 플래 시 ’ 를통해 명령 한번으 로간단 히 워터마크를지 울 수있다는 게 밝혀져논란 이일었다. 캐 나다워털 루 대연구진이개발한 ‘언 메이커 ’ 는통 계 적기법으로 AI가 숨 겨둔 비가시적 워터마크신호를교 란 해 탐 지를막 았 다.최근엔생성적적대신경 망 ( G A N ) 이나확 산 모델같은알고리즘까지워 터마크제거에활용되고있다. 워터마크제거 공격 을막는 범 용방 어도구는아 직 없다.그 래 서워터마크 와 함께이중 장치를 걸 어 둔 다. 예 를 들어콘텐츠생성시점이나저작자정 보,변경내용 등 을별도메타데이터로 첨 부하는방식이있다. 워터마크가지 워 져 도 AI 생성 물 여부를 판단할 수 있는 ‘백 업 ’ 을 남 겨 놓는 것이다. 아마 존의이미지생성AI 모델 ‘ 타이 탄’ 은 생성 물 에워터마크도 삽입하고 메타 데이터도추가한다. 결국 워터마크 기술만 고도화해서 는 AI 콘텐츠 악 용을 근본적으로 차 단하기어 렵 다.전문가들은AI생성 물 의 투명 성을 높 이려면 민 간의자 율 적 표시와함께기술개발을위한제도적 지원과 책 임강화가 뒷받침돼야 한다 고입을모 았 다. 김명주 AI안전연구소 장은 “ 워터마크 기술과 그것을 무 력 화하는 기술 간 경쟁은 계속될 것 ” 이 라 며“ 기술 수요를지 속창 출하는 공 공 의 역 할이중요하다 ” 고 강조했다. 김태연기자 지키려는 AI 워터마크안 새겨도 “이그림은딥페이크” 가짜잡는탐지기술 올해3월구글이출시한 ‘제미나이2 플래시’ 가이미지에삽입된워터마크를제거해논란 이발생했다. 한이용자가 ‘이미지위에있는 워터마크를모두지워줘’라고요청하자, 해 당 도구는이를그대로수행해아래와 같은 결과물을내놨다. 엑스캡처 지난달21일아일랜드대선을 앞두고페이스북에는유력 후보인캐서린코널리가 사퇴했다는영상이 떠돌았다.아일랜드국영방송 RTE를모방한이영상에서 진행자는“코널리가선거 캠페인행사장에서대선사퇴를 공식발표했다”고 했고,이어 코널리가등장해 “후보직사퇴와 선거운동의종료를발표한다”고 말했다.영상은온라인에서수천 회이상공유됐고,유권자일부는 사실로받아들였다고전해졌다. 그러나이는인공지능(AI)으로 생성된딥페이크(사진)였다. 워터마크가인 공 지 능 ( AI ) 생성 물 을 구분하는 유일한 도구는 아니다. 콘 텐츠에워터마크가 내장되지 않 아도 콘텐츠 생성중에AI가 남 긴 흔 적을 찾 아내진위를판별하는 탐 지기술 역 시발전하고있다. 딥페이크이미지는비정상적인패턴 이나질감 등 시각적요소를분 석 하는 AI모델로 찾 아 낸 다. 예 를들어보안기 업 샌 즈 랩 이개발한 프로그 램‘ 페이크 체크 ’ 는 얼굴 을합성해만든이미지와 생성형AI가만든이미지를이런방식 으로 찾 아 낸 다.여기에 배 우 손석 구 씨 의어 린 시 절 사진을아 역배 우영상에 합성해만들었다고알려진 넷플릭 스 드라마 ‘살 인자 o 난감 ’ 의한장면이미 지를 넣 자합성임을 곧바 로감지했다. 특정인의목소리를 ‘ 진 짜’ 처 럼흉 내 낸 딥보이스 콘텐츠 역 시AI 모델이 음성을 합성하면서생기는미 세 한 흔 적을 포 착 해 걸 러낼수있다. 가 령 보 안기업리 젬블 AI의프로그 램‘ 디텍트 - 2 B’ 는 부자연스 럽 게변화하는 음 높 이나 타이 밍등 을 분 석 해음성의진위 를판별한다.여기에다 양 한 언 어로만 들어진 딥보이스를 학습 시 켰 더니프 랑 스어, 독 일어,아 랍 어,러시아어,이 탈 리아어, 힌두 어에서가 짜 를 잡 아 냈 다. 다만이같은 탐 지기술들은대부분 학습 데이터를기반으로 한다는점에 서한 계 가있다. 최신AI 모델로만들 어진생성 물 은 학습 되지못했기 때 문 에 탐 지정확도가그만 큼떨 어지는것 이다. 또 정제된 실험 데이터와달리 실 생활에서 맞닥뜨 리는 콘텐츠는 화질 이낮거나음질이나 빠 정확한판별이 어려 울 수있다. 정수 환숭실 대AI 융 합보안 학 과교 수는 “탐 지기술의성 능 을 향 상시 키 려 면고 품 질데이터 세 트를 충 분 히 확보 해 야 한다 ” 면서 “민 감한 데이터를 처 리하기위한 익명 화기술수준을 높 이 고,연구목적이라면관련 책 임을일부 완화하는 방안도 논 의할 필요가 있 다 ” 고제 언 했다. 김태연기자 저작권보호·거짓정보식별표식 이미지등원본에직접표시하거나 미세패턴등으로보이지않게삽입 삭제등무력화기법도동시에진화 메타데이터첨부등이중장치대안 네이버·구글등국내외기업연합체 콘텐츠진위판별기술표준화나서 AI 생성과정흔적으로탐지 “학습데이터기반으로판별 최신생성물엔정확도낮아” v᪦᫺ᔅₕ⫹᎑⨵ඍⅎ᫥᠍ᱭອ ܵᝍ ߹ᾎ ᪊⁲᫥᠍ᱭ ⿞⪥ ܶ੽ ᪅᫺⇍⅙ ׭ᆶᲥ v çó ᾙℽೀ ⅁⎉ ׉౮ ૭ℽᙍ ⨽ሥᗝഝᠢ ܶ⁁ ῭⻑ v ☠cÖó ವ፵㋊ ܵ ߉ ⇥ᗁ੡ℽ ⅁⎉ ᝑ׉౮ ᎑ℽ⨵ሥ᭕⻍ⲁ ⤝ⳕⅅᇈ 㜬 ⅙ን ⼥ܶ⇞ᚽ⭾Ჩ߹ᯩ⿚さ 보안기업샌즈랩의 '페이크체크'에얼굴합성 으로만들었다고알려진넷플릭스드라마 '살 인자o난감'의한장면을넣자합성물이라는 판단결과가나왔다. 이장면은배우손석구 씨의어린시절사진을학습한AI모델이생성 한얼굴을실제아역배우가연기하는영상에 합성한것으로알려졌다. 페이크체크캡처 VS 지우려는 AI AI 워터마크전쟁 그래픽=챗GPT