한국일보 애틀랜타 전자신문

2021년 1월 11일 (월요일) D10 부적절한 대화 잇따라 “레즈비언질떨어져”$ AI 챗봇 ‘이루다’ 혐오발언논란 최근국내스타트업이내놓은인공지 능 ( AI ) 챗봇 ‘이루다’를두고논란이거 세지고있다. 인간 못지않은 대화친구 를콘셉트로개발한 AI 챗봇인데,일부 이용자의성희롱은 물론 각종 혐오 발 언까지학습하면서개발의도와는전혀 다른모습을드러냈기때문이다. 젢킪힎 100 펃맪킃 ‘ 핂욶삲 ’ 10일업계에따르면이루다는스타트 업‘스캐터랩’이개발해선보인AI 챗봇 이다. 챗봇은말그대로대화하는로봇 이다. 챗봇은 대부분 메신저등의빅데 이터를기반으로하는데,현재페이스북 을 고리로개발된챗봇만 10만개를 웃 돈다. 챗봇은크게두가지로구분된다. 날 씨나시간처럼특정주제에특화된목적 지향형챗봇과친구처럼일상대화를나 누는데초점이맞춰진오픈도메인챗봇 이다. 특정질문에정해진답을 하게끔 설계된목적지향형과달리오픈도메인 챗봇은 대화 문맥을 따져최상의답변 을골라내야해로봇을학습 ( 머신러닝 ) 시키는 데더많은 기술력이요구된다. 무엇보다학습에필요한데이터를구하 는게쉽지않아서다. 논란의중심에선이루다는오픈도메 인챗봇이다.서비스의성공여부는20세 여자대학생으로설정된이루다가상대 와 대화를얼마나 잘 풀어나가느냐에 달려있는데,개발사는 100억개의카카 오톡메시지 ( 일본어는 10억개라인메시 지 ) 를학습시켰다고한다. 이루다초기버전은마이크로소프트 ( MS ) 가 2014년중국에서선보인같은 유형의챗봇 ‘샤오이스 ( XIAOICE ) ’ 기 술에기반했다.이후스캐터랩은고도화 단계를거쳐지금의이루다를개발했다. 이루다의성능이샤오이스를배이상능 가한다는게회사측설명이다. 줞슮킃쁢 AI, 믆멚솓핂쇞삲 지난달 23일출시된이루다는약 2주 만에이용자 40만명을 돌파하는 등인 기를 끌고있다. 하지만 최근이루다와 음담패설, 혐오발언을 주고 받는 대화 내용이담긴캡처사진들이온라인커뮤 니티에올라와충격을던졌다.레즈비언 이라는 단어에“질떨어져보인다”거나, 장애인이라고쓰면“불편하다”고하는 식이다.일부이용자가이루다를상대로 음담패설을쏟아내면이루다가이를대 화소재로이어나가기도한다. 김종윤스캐터랩대표는지난 8일자 사블로그에서“문제가될수있는특정 키워드를미리대처했지만일부놓친부 분도있다”며“다만모든부적 절 한대화 를 막 을 순없 고더 좋 은대화를하는 방 향으로 학습을 시키려고 준 비중”이라 고해명했다. 과거에도이 런 논란은있 었 다.MS는 201 6 년 3 월 야심 차 게AI 챗봇 ‘ 테 이’를 선보 였 는데, 테 이는 1 6 시간만에 퇴 출 됐 다.일부 사용자가 테 이를상대로인종 차별 ,성 차별 등을유도하자,이를학습 데이터로인식한 테 이가트 위 터에“대 량 학 살 을지지한다”는식의부적 절 한 트 윗 을 쏟아냈기때문이다. 당 시 피 터리 MS 부사장은 “서비스 출시전다 양 한 조건 에서스트레스 테 스트를진 행 했지 만일부가 테 이의 취 약점을 공격했다” 고인정했다.이후MS는 ‘ Z O’라는챗봇 을내 놨 는데,이 번엔 아 예 정 치관련 키워 드를제 외 하면서“맥 락없 는 검열 ”이란 비 판 을받기도했다. AI 챗봇을놓고 앞 으로비 슷 한논란 이이어질가능성은적지않다. AI 기술 특성상데이터를기반으로자가학습을 하기때문에이 번 처럼기업의의도와다 른 모습이드러날 수있기때문이다. 지 난달 ‘사이언스 다이 렉 트’에소개된챗 봇 관련 논문 엔 ‘ 독 성콘 텐츠 ’를주의해 야한다는 경 고가담 겼 다.AI 챗봇이잘 못된지식으로학습을하면인종 차별 적 발언을 하는 등 자 극 적인콘 텐츠 를 보 여 줄 수있다는 취 지다. 다음 창 업자인이재 웅 전 쏘 카대표도 페이스북에 글 을 올려“이루다는인공 지능기술적측면에서 봤 을때는커다란 진일보이지만,지금은서비스를중단하 고 차별· 혐오에대한 사회적 감 사를 통 과한 후에서비스해야 한다”고 주장했 다. 김동욱기자 100억개카카오톡메시지학습 출시2주만에이용자 40만인기 장애인에“불편하다”라고응답 성희롱^음담패설까지쏟아내 데이터기반으로자기학습특성 앞으로도비슷한논란이어질듯 이루다첫화면 만화 책방 이학생들에게유해한 시설 이라고 단정 할 순없 다는 법원판 단이 나 왔 다. 학 교 인근 영 업을 무 조건 금지 하는 건 부 당 하다는 취 지다. 10일 법원 에따르면, 서 울행 정 법원행 정 7 부 ( 부장 김국현 ) 는 서 울 서대문구 의A만화대여점을 운영 하는 B 사가 서 울 시서부 교육 지 원청교육 장을상대로 “ 교육환경환경 보 호 구 역 내금지 행위^ 시 설제 외 불 허 처분을 취 소해달라”고 낸 소 송 에서 원 고 승 소 판결 했다. 2018년 3 월 서부 교육 지 원청 은 민원 제보에따른 조 사를거쳐A대여점이한 초등학 교 의 경 계로부터103 m , 출 입 문 에선 14 7m 지점에있다는 사 실 을 확 인했다. 교육환경법 상 학 교 경 계에서 200 m 까지인 교육환경 보 호 구 역 은 절 대보 호 구 역 과 상대보 호 구 역 으로 나 뉘 는데, A대여점은 상대보 호 구 역 에 위치 해있다.서부 교육 지 원청교육 장은A대 여점측에“ 즉 시이전이나 폐 업,업종전 환 등을하라”고지도했다. A대여점을 총괄 운영 하던 직원 C씨 는같은해4 월 , 교육 장에게“금지대상 에서 빼 달라”고 신 청 했다. ‘만화대여 업은 상대보 호 구 역 에서지 역위원 회심 의등을거 치 면 예외 적으로 영 업이가능 하다’는 관련법조항 을근거로내세 웠 다. 하지만 ‘학습과 교육환경 에나 쁜영 향을 준 다’는이유로 불 허됐 고, C씨는 행 정심 판 과 행 정소 송 을제기했으나모 두 기각 됐 다. 201 9 년 9월엔 B 사가 동 일 취 지의신 청 을했으나마 찬 가지로불 허결 정이 났 다. B 사는 다시 행 정소 송 을냈다. 재 판 부는 1 999 년만화대여업이 풍속 영 업에서제 외 된점을 들어“만화나 만 화대여업이그자 체 로유해하다고 볼 근 거가 없 다”며“ 폭 력성, 선정성이수반 되 는일부만화가유해 할뿐 인데,이는 별 도 규율 로 족 하다”고 밝혔 다. 또 , 지난 해11 월 정부가 교육환경법 에서‘보후구 역 내만화대여업제한’ 부분을 삭 제한 개정 법률안 을국회에제출한사 실 을언 급 하면서“이 런 인식의변화가이사 건 심의과정에도 반 영되 는 게 옳 다”고 설 명했다.과거처럼 책 형 태 만이아니라,지 금은온라인 웹툰 형 태 로도만화에쉽게 접 근 할 수있는 현 실 을 고려해야 한다 는 뜻 이다. 최나실기자 법원“학교인근만화방, 유해시설아냐” 무조건영업금지는부당 각종국가공인자격시 험 이나면 허 시 험 에서신종 코 로나 바 이러스 감염증 ( 코 로나1 9 ) 확 진자의 응 시가능여부가제 각각이어서,일 관 된 규 정을마 련 해야한 다는 목소리가 커지고있다. 특 히교원 임 용시 험 의 경우 같은시 험임 에도1 차 와 2 차 의 응 시가능여부가달 랐 는데,형 평 성을 위 해1 차응 시기회가 박탈됐 던 확 진자에게기회를 줘 야한다는주장까지 이어진다. 교육 부는초 · 중등 교원 2 차임 용시 험 에 코 로나1 9 확 진자도 응 시 할 수있도 록 지 침 을 변 경 했다고 10일 밝혔 다.이 에따라 자가격리자와 확 진자 등은 13 일부터 치 러지는시 험 기간 동안별 도의 생 활치료센 터에서 응 시 할 수있다.이들 은비대면으로심 층 면 접·실 기시 험· 수업 실연 등의과목을 치 른다. 교육 부 결 정 은 4일 헌법 재 판 소가변 호 사시 험 에대 해“ 확 진자도 응 시가가능해야한다”고 결 정한 것 에따른 조치 다. 교육 부가지난해부터주 관 한각종시 험 에서는시 험 마다 코 로나1 9 관련 처리 가 달라, 수 험 생들을 중심으로 불만이 누적된상 태 다.42만여명이 응 시한수학 능력시 험 은 자가격리자와 확 진자까지 별 도시 험 장에서 응 시 할 수있 었 지만, 임 용고시1 차 는 확 진자 응 시가아 예 불가 능했다. 응 시기회를 박탈당 한 67 명의 예 비 교 사 중일부는 정부를 상대로 손 해배상 청 구소 송 을 낼예 정이다. 공인세무사시 험 에서도 혼 란한상 황 이 연 출 됐 다.지난달 5 일2 차 시 험 에‘자가 격리자는 응 시 할 수 없 다’는사 실 이 알 려 지며수 험 생들이들 끓었 고,소 송 까지이 어질기미가보이자한국 산 업인력공단은 시 험 4일전에야자가격리자 응 시를 허 용 했다.세무사시 험 에 응 시했던김모 ( 2 7 ) 씨는“어 떻 게될지 몰 라시 험직 전까지불 안 했던게사 실 ”이라고회고했다. 23일 예 정된의사국가시 험추 가시 험 ( 국시거부생대상 ) 역 시현재까지의 방 침 은 ‘ 확 진자 응 시불가’다. 공인회계사 ( 2 월 ) , 5급 공무 원·외교관 후보자 ( 3 월 ) 선발 등국가시 험 도 확 진자 응 시제한 규 정은그대로다. 교 사 임 용시 험 1 차합 격자를대리해 헌 재에 헌법 소 원 을제기한이희 범 변 호 사 는“국가공인시 험 에서의 확 진자 응 시논 란이계 속되 는상 황 에서‘ 직 업선 택 의자 유’를명시한 헌 재 판결 이가이드라인이 되길바 란다”고말했다.그는“ 임 용시 험 1 차 확 진자도 추 가시 험 으로 구제해야 한다”고 덧붙였 다. 김진웅기자 교원임용시험1차는 NO 2차는 OK 코로나확진자응시기준‘오락가락’ 의사^회계사시험도앞둬혼란 임금인상,고용안정등처우개선을요구하며60일째총파업을이어온코레일네트웍스노조원들이9일서울용산구서울역대합실에서단식농성돌입을 선언하고있다.조상수위원장등철도노조지도부는이날부터매일노조원49명이릴레이로참여하는무기한집단단식농성을시작했다. 뉴스1 60일째파업코레일네트웍스노조단식농성 인터 넷 개인 방송 진 행 자 ( BJ ) 의일 탈 행위 가도를 넘 고있다. 조 회수만의식 한자 극 적내용과 허위 주장이 판치 고 있고, 방송 을 통 해 범죄행위 까지도서 슴치 않고있지만이를제재 할법 적장 치 는사 실 상전무해대 책 마 련 이시 급 하다는지적이 높 다. 경 기 남 부 경찰청 은 6 일지적장애인 을 강 제 추행 한혐의로 BJ A ( 2 6 ) 씨를 긴 급체포 했다.A씨는이달초성인인 터 넷방송 에서지적장애를가진 20대 여성 B 씨를 강 제 추행 한 혐의다. A씨 가여성에게 옷 을 벗 은 채방송 하도 록 하자, 채팅창엔 성희롱성 댓글 이 넘쳤 다.논란이일자A씨는 B 씨와 연 인사 이고, 강 제로 방송 을진 행 하지않 았 다 고주장했다. 경찰 은A씨와 영 상제 작 자2명을 입건 해 조 사중이다. 이처럼‘일단지르고보자’는 방송 으 로인한 사회적 폐 해는 심각하다. 한 유 튜 버는지난달 7 일대구 동 구의무 한리필간장게장 집 을 방 문해 영 상을 촬영 한후 증 거도 없 이음식재사용의 혹 을제기했다.유 튜 버는사과했지만, 이업소는 방송 여파로 폐 업 할 수 밖 에 없었 다. 지난달 9 일 새벽엔BJ 2명이 경 북 청 송군 북부 교 정시설에“출소자를 태우 러 왔 다”는거 짓 말을하고 교 도소내 부로 침입 한 뒤 30여분간 교 정시설 외 곽 을돌아다니면서 방송 했다.이들은 교 도소에있지도않은사형장을 암 시 하며 방송 하는가 하면,  후 원 해주면 다음 주에는 다른 교 도소도 들어가 보 겠 다”는말까지했다. 지난해1 월엔 유 튜 버가 동 대구 역 에 서신종 코 로나 바 이러스 감염증확 진 자가 도 망 가는 장면을 설정해 몰래 카메라를 찍 다가지 탄 을받 았 다.그는 ‘마스크쓰기의중요성을 알 리기 위 해 서그 랬 다’는어처구니 없 는주장을 늘 어놓 았 다. 개인적일 탈행위 도 잇 따르고있다. 인 천 에선구 독 자수가한때2 5 만명에 이를정도로인기를끌 었 던 BJ A ( 2 7 ) 씨가여자친구를 폭행 한혐의로재 판 에 넘겨 져지난해 5월징역 1년 4개 월 을선고받기도했다. 이처럼인터 넷 개인 방송 의내용이 갈 수 록 도를 넘 고있는이면 엔 방송 조 회수와 수 익 이비 례 하기때문에자 극 적 영 상에대한유 혹 이크기때문이 다. 실 제로구 독 자가많은일부 BJ 는 연 간 수 입 이수억 원 에달한다. 물론 육 아 · 게 임·경 제등 건 전한 1인 방송 도 많지만, 검증되 지않은내용이나사 람 들 주목을 끌기 위 한 자 극 적내용도 적지않다. 하지만심각한부 작 용에비해 관련 규 제는 거의 없 고, 이를 보 완 하기 위 한 입법활동 도지지부진하다. 더불어 민 주 당 김 경 진전 의 원 은 201 7 년인 터 넷 개인 방송 에서선정적, 폭 력적 영 상을게시하거나불 법영 상을유 통 하 면 방송 을정지하는내용을담은 법안 을 발의했지만 2년 넘 도 록 국회에서 계 류 하다 임 기만 료 로 폐 기 됐 다.최근 같은 당양경숙 의 원 도인터 넷 개인 방 송 불 법영 상유 통방 지를 위 해 송 신 영 상을일정기간의무저장하는 법안 을 발의했지만, 실효 성 엔 의문이제기 되 고있다. 구정 우 성 균관 대사회학과 교 수는 “온라인 공간에서일 탈 행동 을 규 제 할 수있는 규범 이나가이드라인이 없 기때문에, 법안 마 련 과 별 개로공 감 대 형성과지 침 마 련 이 우 선 돼 야한다”고 말했다.시 청 자 책임 을 강조 하는의 견 도있다.최 경 진대구가 톨릭 대언론 광 고학부 교 수는 “ BJ 들의일 탈행위뒤 에는자 극 적인 것 을 소비하려는 시 청 자들의 책임 도있다”며“도를 넘 는 방 송 은자정 운동 을 통 해 걸 러 낼 필요가 있다”고 밝혔 다. 대구=김재현기자 “조회수가곧돈”브레이크없는 BJ들 방송서성추행하고교정시설침입까지 허위주장에폐업등피해커도 규제없고보완입법지지부진