한국일보 애틀랜타 전자신문

2023년 4월 24일 (월요일) D6 기획 2023년4월20일목요일 “AI는 심부름꾼$인간도 판단 힘든 복잡한 일맡겨선안돼” “사람이골머리를 싸매고 고민해야 했던일들은 섣불리인공지능 ( AI ) 에 맡기면안됩니다. 단순하고쉬운반복 작업,이런것부터맡겨야죠.” 일반인들에게별로알려지지않았던 개인정보보호위원회 ( 개보위 ) 가 존재 감을확실하게과시한것은지난해가 을. 구글과 메타에합계 1,000억원의 과징금을부과하면서부터다. 고학수개보위원장의이름도 과 징금을 부과할 때마다 언급됐다. 그런데알고보면고위원장의 전문 분야는 바로인공지능 ( AI ) . 서울대로스쿨 교수 출 신인그는 한국인공지능법학회 장등을역임하며개인정보와AI분 야를함께연구한 ‘AI 법제도전문가’ 다. 한국일보는 AI 기술과법제도,개 인정보 문제를아우를 수있는적임자 로 고 위원장을 찾았다. 그와의인 터뷰는 17일정부서울청사에서 진행됐다. 고 위원장은 AI가 인 간 영역 에서 ‘주 체’가 되어선 안 되 며, 계속해서 ‘심 부름꾼’의지 위에머물러야 한다고제안했다. 복잡 해서쉽게결정하기힘든일, 논란의당 사자가 첨예하게대립하고 있어골치 아픈일을AI에덥석맡겨선안된다는 주장이다. 다음은고위원장과나눈일문일답. - 맪헣맪핆헣쫂쫂쩣펞 AI 픦멾헣펞샎 컲졓픒푢묺뭚읺 , 먾쭎뭚읺많킮 컲쇞쁢섾 . “지금은AI가우리사회에막들어오 면서본격적으로 고민을 시작하는 단 계다.이번법개정으로도입된‘자동화 된결정에대한 정보주체의권리’는이 런뜻이다. AI 기술에만 의존해 ( 사람 의 ) 권리에중대한영향을미치는경우 라면, 그 대상자인사람에게 ( AI 결정 을 ) 거부할권리나설명을요구할권리 를보장해야한다는거다.삶에크게영 향을 미치는 결정이AI에의해이뤄졌 다는이유로 책임을 회피해선안 된다 는얘기다.쉽게말해‘AI에만다맡기지 말라’는 선언을 밑에깔고 있다. 채용 분야에서AI가의사결정을했다면,‘AI 가했으니까옳은판단이다’라거나 ‘우 리한테따지지말라’는 식으로 떠넘기 면안된다는거다.” - 킪짊삶 펞컪쁢 푷 AI 슿폏엳핂 AI 펞샎맫뫎헏멎흫핂푢삲몮 삲 . “전문가를통해검증하는게더실효 성이있을순있다.하지만외부전문가 한테잘못보여주면영업비밀이노출된 다. 학계에서는비밀유지장치가마련 된제3의독립기관에서검증하자는제 안이나오지만,아직논의가충분히무 르익지않았다.결국AI 규제는위험성 에기초해판단할수밖에없다.지금당 장 AI 규제를 구체화하기에는 위험성 에대한근거가많지않다.의미있는규 제가 되려면실질적근거가있어야 한 다. 지금은 규제샌드박스 ( 새로운 제 품·서비스출시때규제를면제·유예하 는 것 ) 와 같 은 틀 안에서새로운 실험 을 하도 록열 어 두 면서, 축 적된데이터 와 경험으로 예상되는 위험성을 가 늠 하는과정이선행 돼 야한다.” - 퓒컿삶핂뺂엲힎졂헣 AI 펞샎 쪒솒픦멎흫픒매 쁢 몒많많쁳많 ? “그 럴 가능성이충분히있다. 생 명· 자유에 중대한 영향을 미치는 영역이 라면, 필 요시 즉각 규제에들어 갈태세 를 갖춰 야한다.개인적의 견 으로는실 시간 얼굴 인식기술등기본권이 침 해 될 가능성이 높 은 분야에대해 생 체정보 규 율 체계를검 토 하는등,정부가적 극 적역할을할 필 요가있다고본다.” -AI 쁢 캫헏픊옪맪핆헣쫂읊핂푷쿦 짤펞펔쁢섾 , 믆엕삲몮줂핟헣맪핆헣쫂 푷픒뮪헪잚쿦솒펔삲 . 푷옮뫊 뮪헪옮픒헖 쿦핖픒밚 ? “어려운문제다.데이터가없으면AI 를못만드는데, 얼굴같 은개인정보가 이용되는 건 마음이불 편 하다.오 래 전부 터데이터를 활 용해 온 의 료 영역의전통 이시사 점 을 줄 수있다고 생각 한다.우 리가 병 원에가는이유는치 료 , 딱 한가 지다. 하지만 환 자치 료 과정에서 쌓 인 데이터는사실의학 발 전을위해 쓰였 다. ① 의사개인입장에서노하우가 늘 고 ② 데이터가 모 여서논문이 발표 되며 ③ 논 문이 축 적 돼 의학 발 전을이 끌었 다. 환 자는자기 필 요에의해데이터를제공했 지만,그과정에서나 온 결과물이사회적 발 전을이 루 고사회적 발 전이다시개인 에게도 움 을주는 형태 다.AI학 습 도이 런선순 환 이가능하다.” -AI 쁢핆맒픦솧짦핞많쇮쿦핖픒밚 ? “AI는원자 력 기술과비 슷 하다. 핵 무 기개 발 은여러 방 면에서논란이지만, 병 원 핵 의학과에서하는연구에 태클 거는 사람은아무도없다. 저 는AI를동반자 로 표현 하는것을별로 좋 아하진않는 다.동반자라고하면 묵 시적으로AI가 독립적주체라고여기기쉽다.AI는적어 도우리 세 대에서는‘심부름꾼’이고 철저 한도구다.이런 맥락 에서AI에는단순 하고쉬운반복작업을맡겨야한다.인 간이머리싸매고 고민해야 하는일을 맡기면안된다.하지만사람들은복잡 하고답이잘안나오는,선 례 가없는일 을AI에주고 싶 어한다.나중에문제되 는게 싫 어서, 면피용으로, 판단 력 이 필 요한문제를AI에떠넘기는것이다.오 히려반대가 돼 야한다.답이 곧 바로나 오는 방 대한단순작업은AI에시 키 고, 그시간에사람은중요한일에 집 중하 는것이다.” 최동순기자 ԰ 인간과공존하는 ‘동반자 AI’ 고학수개인정보보호위원장 AI규제위해위험성근거마련필요 샌드박스틀서새로운실험하면서 위험성가늠하는과정이선행돼야 원자력기술처럼AI 활용법이중요 판단력필요한문제에면피용안돼 생명^자유영향땐 즉각규제해야 데이터‘밥’먹고자라는 AI ‘동의없는정보’뜨거운감자 ‘블랙리스트’없는한국 AI 법안 산업키운과기부가감시‘역설’ “일어 날 시간이야, 철 수 ! ” 철 수 씨 는오 늘 도인공지능 ( AI ) 기기 가울려주는알람 소 리로하 루 를시작 한다. AI 추천 음 악 을 들으며 샤워 를 하고, AI가 고 른 뉴 스를 들으며아 침 을 먹 는다. 출근직전AI는 오 늘 날씨 와미 세먼 지, 당일스 케줄 을알려 준 다. 회사로 차 를 몰 고 가는 길 , AI 내 비게 이 션 은 올림픽 대로보다 강변북 로를이 용하면 5 분더일 찍 도 착 할 수있다고 경로를제시한다. 회사에도 착 해AI에 오 늘 의운 세 를 물으니재물운이 9 1 % 다. 몇 주 걸렀 던로 또 를이번주 엔 사 야 겠 다고결심한다. 기자가 구성해본 철 수 씨 의아 침 은 미 래 일이아니라,이미출시된AI 서비 스로가능한지금의일이다.다만AI를 즐 겨 쓰 는사람들이 종종놓 치는부분 은이 모 든 AI 서비스가 ‘나와 타인의 세세 한 개인정보’를 기반으로 한다는 점 이다.AI가 발 전할수 록 ,우리삶에가 까이다가 올 수 록 , 요구하는 개인정보 도많아진다. AI에게데이터는‘ 밥 ’이다.AI서비스 는 방 대한 데이터위에서 탄생 하며, 그 양 과질이성능을 좌 우한다. 챗GPT 의 기반이되는 GPT - 3는 매개 변 수 ( 파 라 미터 ) 가1,7 5 0억개에 달 한다.국 내최 초 초거대AI 네 이 버클 로바는 학 습 을위 해 5 , 6 00억개 토큰 ( 데이터단위 ) 을 구 축 했다.개 발 됐다고 끝 이아니다.AI를 이용하려면 얼굴 ,음성,글등정보를입 력 해야하며, 사용자 최 적화나오 류 수 정을 위한 재학 습 에도 데이터가 필 요 하다. 이 렇 게개인정보를 끊 임없이 소 비하 는AI의 먹 성때문에,AI 서비스는언제 나 강 화되는 방 향으로 발 전되어 온 우 리사회의개인정보 보호 원 칙 과 충 돌 하고있다. 개인정보 보호의 핵 심원 칙 중하나는‘ 최소 한정보만수 집 하고 목 적 달 성시 파 기한다’는 최소 수 집 의원 칙 이지만, AI는 방 대한 데이터 처 리가 없으면존재할수없다.개인정보보호 와 AI 개 발 은, 모 든것을 뚫 으려는 창 과 모 든것을 막으려는 방패처럼양 립 하기어려운관계다. 박도 현 광 주과학기술원 ( G I ST ) 법 정책연구실교수는“개인정보 침 해를 0 으로 만드는 알고리 즘 은 기술적으로 불가능하다”며“결국 우리가 할일은 어 느 정도까지용인할 것인지합의를 도출하고제도를구 현 하는일”이라고 말했다. 개인정보 문제없이AI를개 발 ·출시 하는가장확실한 방 법은정보주체동 의를 받 는것이지만, 동의를 받 지않고 개인정보를이용해AI 학 습 에사용하 는 방 법도있다.정부는 2 0 2 0 년 ‘정보 처 리자는 통계작성, 과학적연구, 공익적 기 록 보존 등을위해정보주체동의없 이가명정보를 처 리할수있다’고데이 터3법을개정했다.기업들이가명정보 ( 추 가정보의사용·결합이있어야 특 정 개인을알아 볼 수있는개인정보 ) 처 리 만제대로했다면,이를이용해 산 업 목 적의AI까지개 발 할수있도 록 한예외 규정이다. 동의없는 개인정보 활 용은 여전히 뜨 거운감자다. 앞 서법무부는 출입국 심사고도화를위한 ‘AI 식별 추 적시스 템 개 발 사업’에서개인정보 1억7,000여 만 건 을정보주체동의없이 활 용해논 란이된바있다. 개인정보보호위원회는 현 행법상 문 제가없다고 판단했지만, 참 여연대등 시민단체는기본권이 침 해됐다며 헌 법 소 원을청구한 상 태 다.이지은 참 여연 대공익법 센 터선임간사는 “가명정보 는 원 래 개인정보를 더안전하게보관 하기위한 안전장치 였 지만, 현 재국 내 에선 활 용·결합·판매를위한 면책으로 인식되고있다”고지적했다. 최동순^이승엽^윤현종기자 한국 국회와 유 럽 의회는 비 슷 한 시 기, 비 슷 한 주제의법안을 처 리중이다. 바로인공지능 ( AI ) 의위험성와신 뢰 성 문제를 담 은‘인공지능법안’이다. AI 기술이 발 전하는 시 점 에 맞춰두 법안 모두 의회문 턱 을 넘어법제화 단 계를 밟 을것으로예상되지만, 양쪽 법 안을 자 세 히 살펴 보면 뚜렷 한 차 이 점 이있다.‘인공지능’이라는이름을 담 은 법을역사상 최 초로제정하는 한국입 장에서, AI 윤 리성에대한고민을더일 찍 시작한 유 럽 연합 ( EU ) 의사 례 는 상 당한시사 점 이 될 것으로보인다. EU 와한국인공지능법안의가장 큰 차 이 점 은 블랙 리스 트 , 즉애 초부터 허 용하지않는AI 시스 템 을정의하고규 율 했는지여부다. EU 인공지능법초안 은기본권 침 해정도, 시스 템투 명성등 에따라AI의위험도를 △허 용할수없 는위험 △ 고위험 △저 위험 △최소 위험 등 네 단계로 나 눴 다. 허 용 불가능한 위험을초 래 하는 AI 시스 템 을아예금 지한게 특 징이다. 사용이금지된AI는 △ 인간 행동을 왜곡 해신체 - 정신적피 해를입히는AI △ 공공기관이AI를 활 용해개인의사회적신용 등을 평 가하 는것 △ 테러 방 지, 범죄 가해·피해자수 색 을 제외하고 경 찰 등이공개장 소 에 서 생 체정보 ( 얼굴 등 ) 를 실시간 활 용 하는시스 템 등이다. 이에비해국 내 인공지능법안은‘금지 된AI’를 따로 규정하지않았다. 본보 가 입수한 국회과학기술정보 방송 통 신위원회 ( 과 방 위 ) 의법안심사 소 위원회 최종 안에따르면, 인공지능법안에 ‘금 지’라는단어는한 차례 도 쓰 지않았다. EU 와한국AI법안은기본권에영향 을 끼 치는 ‘위험한 AI’에대한정의, 사 전 조 치 및 수위에대해서도 다 른 접 근 법을보 였 다. EU 는 ‘고위험AI’의 종류 만을 최소 28 개로분 류 하고있다. △항 공·자동 차 · 철 도·기계·장난감 등 7가지 제품에사용된AI 기술 △생 체인식·분 류△ 인 프 라 관리운영 △ 교 육및 직업 훈 련 △ 고용 및 직원관리 △ 공공지원 혜택△ 법 집 행 △ 이민 △ 사법업무등 8 개분야 2 1 종류 의AI 시스 템 을고위험 인공지능으로분 류 했다. EU 법은 고위험AI 공급자가 제품· 서비스 출시전에적합성 평 가를 받 아 야 한다는 조항 도 명시했다. 특 히 EU 는대테러 및범죄 수사등용도로 쓰 이 는안면인식시스 템 ,그리고공공인 프 라용AI제품은지정된제3의인증기관 에서적합성 평 가를 받 도 록강 제했다. 국 내 법안도 고위험AI를 규정하고 있다.안면인식기술, 국가기관이 쓰 는 AI 등 총 9 개분야의인공지능을 ‘고위 험영역AI’로정의했다.고위험영역AI 공급자는해당제품이나 서비스가 ‘고 위험’이라는 사실을 사전고지해야 하 며, 의무적으로신 뢰 ·안전성확보 조 치 도 취 해야 한다. 다만 국 내 AI 법안은 신 뢰 성확보 조 치 준 수를 강 제하지않 고 ‘권고할 수있다’고 명시하는 데그 쳤 다.제3자검증규정도없다. 집 행주체도 다르다. EU 에선 각 회 원국시장감시당국이 집 행을 담 당하지 만, 국 내 인공지능법의주요 집 행주체 는 과학기술정보통신부 장관이다. 이 에대해장여경정보인권연구 소 상임이 사는 “지금 껏 AI 산 업진 흥 위주의정 책을 추 진한부 처 ( 과기정통부 ) 가AI의 윤 리·사회정책에대한 포괄 적권한까 지 갖 는기 형 적구 조 ”라고지적했다.국 회과 방 위법안심사 소 위간사인 조승 래 더불어민주당의원 측 은 “심의과정 에서시민사회 및각 지자체의의 견 수 렴 이다 소 부 족 했다는 지적을 반영해 해당법안을더 살펴 보고있다”고말했 다. 윤현종^최동순기자 EU는인간에신체^정신적피해등 허용불가능한위험규정AI 금지 회원국시장감시당국이집행담당 AI 발전위해무차별데이터수집 개인정보보호원칙과정면충돌 출입국‘AI식별추적시스템’논란 시민단체“기본권침해”헌법소원 유럽연합 '인공지능법안' 구분 한국 '인공지능법안' 총85개조문(부속서9개조문) 전반적구성 총37개조문(부칙2개조문포함) - - 공공기관이AI기술로개인의사회적 신용등을평가하는소셜스코어링 테러방지및범죄수사제외하고, 경찰등이공개장소에서얼굴등 생체정보를실시간적용하는 AI신원확인시스템 '금지된AI' 규정 없음 - - - 고위험AI종류최소28개로분류 EU집행위원회가기본권침해위험 있는AI의 '고위험'추가지정가능 사전적합성평가필수,일부 고위험AI는독립된인증기관의 '3자검증'강제 '고위험AI' 관련 주요규정 - - - 안면인식기술등총9개분야 AI를 '고위험영역인공지능'으로정의 고위험영역AI공급(사업)자의해당 제품or 서비스의 '고위험'사실사전 고지및안전성확보조치의무화 '제3자검증'대상이되는 고위험영역AI의별도규정없음 - - 심의:유럽의회 내수시장소비자보호위원회시민 자유·사법및내무위원회 집행:EU각회원국시장감시당국 심의및집행주무조직 - - 심의:국회 과학기술정보방송통신위원회 집행:과학기술정보통신부 유럽연합과한국의인공지능법안비교 <1> 운명을좌우하는‘권력자AI’ <2> 인생을지배하는‘절대자AI’ <3> 인간과공존하는‘동반자AI’ 글실은순서 고학수개인정보보호 위원회 위원장이 17 일 정부서울청사 집 무실에서한국일보와 인터뷰를하고있다. 왕태석선임기자