한국일보 애틀랜타 전자신문

2023년 3월 6일 (월) D www.Koreatimes.com 전화 770-622-9600 The Korea Times www.higoodday.com 한국판 구글에서‘OOO마운틴사진’을검 색하면 엉뚱하게도‘산’사진이 아닌 음란물이 등장한다. 게시글에는‘진 짜 같다’ ‘실제 사람보다 낫다’등의 반응이 주를 이룬다. 모르는 사람이 보면 성인 모델의 사진이라고 생각할 수 있지만, 사실 인공지능(AI)을 통해 제작한가상의이미지다. OOO마운틴이란AI 업계에서수십 년 째 극복하지 못한 이론인‘불쾌한 골짜기(uncanny valley)’를반대로빗 댄말이다.불쾌하다는표현을쓴것은 인간이 로봇 등을 볼 때 해당 존재와 인간이 비슷할수록 호감도도 높아지 지만일정수준에다다르면오히려불 편함을느낀다는이유에서다. 최근등 장한생성AI서비스들은불쾌한골짜 기를넘어사람과구별하기힘들정도 의이미지를만들고있다는뜻이다. AI 기술이 빠르게 발달하면서 마치 실제인물사진수준의이미지를생성 하는서비스도관심을받고있다.문제 는이를악용해AI기술로음란이미지 를만들고심지어이를만드는방법까 지공유하면서논란이일어나고있다 는점이다.사용자가음란물을스스로 만들수있다보니웹사이트접근을차 단하거나 음란물 유포자를 처벌하는 기존규제로는문제를미리막기도쉽 지않다는지적이나온다. 3일 온라인 커뮤니티에서는 이미지 생성AI서비스를활용해만든음란물 을 쉽게 찾아볼 수 있다. 게시글에는 어떤프롬프트(AI에입력하는키워드) 를 썼는지 묻는 댓글이 이어진다. 한 이용자는대놓고“저사진에서상의를 벗기려면?”라고묻기도했다. 생성 AI 서비스들은 사용자가 입력 한 단어나 문구를 바탕으로 관련 이 미지를 만들어낸다. 사용자가 귀여운 고양이사진을만들기위해‘고양이’ ‘털이많은’ ‘눈이큰’등의프롬프트 를입력하는식이다.음란물도같은방 식으로제작된다. 특정프롬프트몇개 만넣으면AI는그에맞는성인콘텐츠 를보여준다. 사실주요생성 AI 서비스들은이런 시도를막기위해필터링기술을쓰고 있다. 카카오브레인은생성AI 서비스 ‘비디스커버’에2,000개이상의금칙 어를뒀으며,필터링기술을도입해피 부가일정이상노출된이미지생성을 막고있다.또필터링기술을우회하는 시도도막기위해사람이직접블라인 드처리를하기도한다. 하지만 해외 특정 AI 서비스의 경우 이런필터링기술이적용되지않은것 으로전해진다.여기에는입력이안되 는금칙어도없으며당연히성인인증 절차를거치지않는다.이러다보니미 성년자를포함해누구나성인이미지 를제작하는게가능하다.심지어는아 동청소년의성보호에관한법률(아청 법)을 어길 수 있는 이미지도 마음껏 만들어낼수있는것으로전해진다. 안하늘기자☞2면에계속 키워드몇개입력,낯뜨거운사진뚝딱…‘AI탈선’ 음란이미지제작악용되는AI 실제인물사진수준의결과물제공 “상의없애려면…”방법공유도활발 해외특정서비스,필터링없이‘개방’