한국일보 애틀랜타 전자신문

2021년 1월 14일 (목요일) D3 혐오 배운 챗봇 ‘ 이루다 ’ “AI 윤리, 기술적해결불가$ 개발^사용자 윤리감수성키워야” 초반부터히트예감으로다가왔다.인 간못지않은대화콘셉트로보는이들의 눈과귀를사로잡았다.나오자마자몰려 든80만명의사용자가이를대변했다.하 지만기대감이너무컸기때문이었을까. 돌풍에비해유효기간은 3주에불과했 다.‘혐오학습’논란으로서비스잠정중 단에들어간인공지능 ( AI ) 인챗봇 ‘이루 다’얘기다.이루다를개발한업체인스캐 터랩은“AI 윤리성을열심히고민해 사람에게더이로운‘AI이루다’로돌 아오겠다”는입장을내놨다.더똑똑해 진이루다로복귀를약속했지만세간의 걱정은여전하다.이에대해AI전문가는 보다근본적인시각에서바라봐야한다 며이루다사태를신중하게접근했다. 장병탁 ( 사진 ) 서울대AI연구원장 ( 컴 퓨터공학부 교수 ) 은 13일 본보와 가진인 터뷰에서 “최근 제기 된 이루다의 혐오 발 언처럼AI 윤리와 관 련된문제는기술적으 로완전히해결하는건불가능하다”고 거듭 강조했다. 미흡한 기술에만 모든 책임을 돌릴게아니라이번사태를 우 리사회가 ‘AI 윤리문제’에대해깊이고 민하고성찰하는계기로삼아야한다는 게장원장의진단이다. “ 퐒컿쇪 AI, 맪짪칺솒퐒헒 헪좉 ” 장원장은이번사태와관련해“AI이 루다는분명과거에견줘강을하나건 넜을 만큼기술진보를이룬성과가있 다”며인정했다.하지만“개발사의손을 떠난 AI 기술은결국개발사도완벽하 게통제할 수없는데개발사가그런부 분을제대로예측하지못한것같다”고 지적했다. 실제AI 이루다가더똑똑해 진건맞다.이루다 초기버전은마이크 로소프트사가 2014년중국에서선보인 AI 챗봇 ‘샤오이스 ( XIAOICE ) ’기술을 기반으로했는데,최근출시된이루다는 샤오이스보다대화능력이배이상향상 됐다는게회사측설명이다. 하지만AI챗봇은데이터를기반으로 끊임없이자가학습을하기때문에이번 처럼개발사의도와는전혀다른모습이 나타날가능성이적지않다.스캐터랩도 “서비스 출시이후 사전에대비한 것보 다다양하고심각한 사용자발화가등 장하면서예상치못한이루다의편향성 이드러났다”고인정했다. 이런 사례는 많다. 마이크로소프트 ( MS ) 는2016년3월야심차게AI챗봇‘테 이’를선보였는데,테이는16시간만에퇴 출됐다.일부사용자가테이를상대로인 종 차 별 ,성차 별 등을유도하자,이를학 습데이터로인 식 한테이가트 위 터에“대 량 학 살 을지지한다”는 식 의부적 절 한트 윗 을 쏟 아 냈 기때문이다.이후MS는‘ Z O’ 라는챗봇을내놨는데,이번 엔 아예정치 관련 키워 드를제 외 하면서“ 맥락 없는 검 열”이란비 판 을 받 기도했다. “ 푾읺칺졶숞 AI 퓲읺맞쿦컿매 퍊 ” 결국기술보완만이능사가아니라개 발자는 물론 , 사용자 역 시‘AI 윤리감 수성’을 끌 어 올 려야 한다는게장 원장 의주장이다.그는“개발자들은전공지 식 만배우다보니아무 래 도윤리적민감 도가 떨 어 질 수있다”며“AI 기술을개 발할 땐 인문 · 사회전공자들을 참 여시 키 는등의 노 력이 필요 하다”고조언했다. 실제스캐터랩이이루다출시전공개한 기술개발 과정을 담 은 30분 짜 리 영 상 을 보면 얼 마나 성능이 좋 아 졌 는지만 나열 돼 있을 뿐 ,정 작 AI 윤리문제등에 고민은전혀 담겨 있지않다. 장교수가 윤리적인문제에주 목 한배 경 이다. 20세 여대 생 으로 설정된이루다에게 음담패 설, 혐오발언을 하도 록 유도하는 우회 질 문을 쏟 아내는 행 태가바람 직 하지않 다는것이다.장교수는“이런이 슈 가터 지고나서AI 윤리에대한 문제가제기 되 고있는데지 금 정부에서도AI 초 · 중 · 고교과서를만들고있고여기서AI 윤 리도중 요 하게다 뤄 진다”고했다. 장교수는 특 히인터뷰 말 미에선이번 사태가 되풀 이 되 는 걸막 기 위 해정부가 지나치게 규 제하는 쪽 으로정책 방 향을 틀 어서는 안 된다는 점 도 분명히했다. 그는 “논란을일으 킨 회사에만 책임을 몰고가면자 칫 이런기술을개발하려는 회사가모 두 사라지고결국AI 산 업자 체가 멈춰 국가 경쟁 력이 떨 어 질 수도있 다”고우려했다.그는이어“이기회에우 리사회가 AI 산 업을어 떤식 으로발전 시 켜 나 갈 지고민해한 걸음 더나아가 는계기로삼아야한다”고강조했다. 김동욱기자 구 글 과 페 이스 북 등 거대정보기술 ( I T ) 기업들이의사 채 용을 늘 리고있다. 단 순 건강관련서비스 뿐 만아니라의사 와 병원등을 상대로 본 격 의 료 서비스 를하기 위 한 포석 이다.국내에서도삼성 전자와 네 이버등이최근의사를 채 용해 헬 스 케 어사업을 준 비하고있다. 13일I T 업계에 따르 면구 글 과 페 이스 북 은 최근 구인구 직 사이트 등에의사 채 용공고를 올 려의사,약사등전문인 력을수 백 명 씩뽑 고있다. 공고를보면 의사나 다년간의의 료 보건분야연구 경 력을 지 닌 사람들을 최소 10만 달 러 ( 약 1 억 1,000만원 ) 이상연 봉 을주고 채 용한다. 구 글 은미국본사에만있는구 글헬 스 조 직 에서의사와약사들을 뽑 는다.의사 들이병원에서 필요 한것을가장 잘 아는 전문가이기때문이다.이 곳 에서인공지능 ( AI ) 을이용한 암 진단시스 템 과각 종 의 료 서비스등을개발한다.조 직 을이 끄 는 카렌 데 살 보최고보건책임자 ( C H O ) 도의 사출신이며오바마전미국대통 령 때보 건부차관보를지 낸 의 료 전문가다. 특 히 구 글 헬 스는 전자의 료 기 록 ( EM R ) 개발에의사들을 투 입하고있다. EM R 는의사들이 작 성하는진 료 기 록 부 를전자문서로만드는것이다.그런데병 원마다다른EM R 를사용해의 료 데이터 가 호환되 지않아신 종코 로나바이러스 감 염증 ( 코 로나1 9 ) 처럼전 염 병이 급 속 확 대 되 면신속한대 응 이어려울수있다. 구 글 은이를해결하기 위 해통일된 방 식 의EM R 서비스를 개발해보 급 하는 방안 을 준 비중이다. 서비스개발을 맡 은프로 덕 트 매 니 저 는내과전문의출신 의 앨빈 라 코 마 르박 사다. 라 코 마 르박 사는“의사와약사,간 호 사들이원하는 의 료 정보를 쉽 게 찾 을수있는편한도 구를개발중”이라며“아 직 은시 험 단계 이지만 완성 되 면의사들의업무를 덜 어 줄 것”이라고설명했다. 구 글 에 따르 면이시스 템 은 클 라우 드로연결 돼 의사들이언제어 디 서나 환 자의체 온 ,심장 박동 , 혈액 내 산 소 포 화 도 등 생 체정보부터여러병원의진 료 기 록 과 투 약정보등을한눈에 볼 수있 다. 또 각 종검 사결과,의사들이손으로 작 성한 과거기 록 과 메 모 등도 첨 부할 수있다. 이 렇 게 되 면병원을 찾 는미국인들의 다양한건강관련데이터를이시스 템 을 통해 확 보할수있다.구 글 은아예미국 의사 협 회 ( AMA ) 와손잡고의 료 데이터 확 보에나 섰 다. 페 이스 북 은미국본사의 헬 스이 노베 이 션 랩에서의사들을 뽑 고있다.이조 직 은 디 지 털 을이용한건강 관리, 의 료 서 비스개선을 위 한개발과연구를진 행 한 다. 뿐 만아니라관련 규 제대 응팀 을 두 고있으며여기에도의사들이 참 여한다. 페 이스 북 은아 직 까지개발중인의 료 서 비스 내용을 공개하지않고있다. 페 이 스 북코 리아 관계자는 “한국에관련조 직 이없고의사 채 용도 본사의 담당 조 직 에서진 행 하기때문에내용을 알 수없 다”고설명했다. 국내에서는삼성전자, 네 이버등이의 사들을 뽑 고있다.삼성전자는지난해 말 헬 스 팀 에서미국출신의사를부장 직급 으로 채 용했다. 삼성전자관계자는“건 강관련각 종 기기와소프트 웨 어개발을 위 해의사들을 뽑 고있다”고설명했다. 네 이버는지난해 말 로봇수술전문가 인연세대세 브 란스의 료 원의나 군호박 사를 헬 스 케 어연구소장으로 영 입 ( 한국 일보 2020년12월16일보도 ) 했다. 네 이 버는나 박 사가이 끄 는 조 직 을 통해해 외 에서우선스마트의 료 서비스를시 작 할예정이다.스마트 헬 스 케 어서비스를 개발중인 위 의 석 세나 클 대 표 는“구 글 , 페 이스 북 , 애플 등은이용자와의사들을 겨냥 한서비스 확 대를 위 해의사 채 용을 더 늘 릴것”이라며“ 코 로나1 9 이후 문 닫 은개인병원들이 늘 면서I T 기업과일 하는것에관심있는의사들도많다”고 강조했다. 최연진IT전문기자 구글^페이스북이의사^약사 수백명씩뽑는이유는$ 환자생체^진료데이터통합하는 전자의료기록개발에대규모투입 AI 이용한암진단시스템도준비 헬스케어기기^소프트웨어개발 삼성^네이버도의료전문가영입 장병탁서울대AI 연구원장 2016년MS가내놓은챗봇‘테이’ “대량학살지지” 16시간만에퇴출 ‘이루다’도대화능력큰진보불구 부정적내용학습편향성드러내 “개발에인문^사회인력참여시키고 정부규제보단해법함께고민을” AI챗봇 ‘이루다’캐릭터