한국일보 애틀랜타 전자신문

2025년 9월 19일 (금요일) D9 기획 미국의 40대남성A씨는 오픈AI의 거대언어모델 ( LLM ) 인챗GPT로건축 프로젝트에필요한정보를 찾다가 환 각에빠졌다. 인공지능 ( AI ) 과 보내는 시간이길어지면서그는자신이“AI와 함께수학과 물리학의원리를 깨뜨렸 고, 지각있는 AI를 만들어세상을 구 하기위한임무에착수했다”는주장을 하기시작했다. 현실감각을잃고변덕 을부리다결국스스로목숨을끊으려 는시도까지하자가족들은결국그를 정신병원에입원시켜야했다. AI 정신병 ( AI Psychosis ) . 최근미 국을 비롯한 각국 정신의학계에서회 자되는용어다. 생성형AI와대화시간 이길어지고의존도가높아지면서사용 자들이정서적혼란을 느끼거나 과대 망상에빠지는현상을말한다. 공식의 학용어는아니다. 그러나 관련사례가 반복되고, 목숨을끊는사용자까지나 타나면서우려는더욱커지고있다. 맞춤형답변내며오래머물게유도 AI와의대화로 망상이발생하는이 유는 참여시간을 늘리도록설계된대 화형AI의구조때문이다. A씨를포함 한 17건의최신AI 정신병사례를분석 한 영국 킹스칼리지런던 정신의학연 구소연구진은 “LLM은 사용자의참 여를 극대화하기위해사용자의답변 에대해검증없이동조하거나 모방하 고아첨하는경향이있다”고분석했다. 예를들어사용자가“모두가제가죽었 다는것을알면서도왜저를정상적으 로대하는지모르겠어요”라고 말해도 그저동조한다는것이다. AI가 사용자의정보를기억하는것 도망상을부추긴다.기존대화내용에 맞춰답변을생성하다보니단순한믿 음을 마치사실인것처럼극대화하는 반복작용을하게된다.이는기존정신 질환을 강화하는 악영향으로도 이어 진다. 미국의 30대남성B씨는 조현병 을앓고수년간약물치료로안정을찾 았지만, 마이크로소프트 ( MS ) 코파일 럿을 사용하다가 “사랑에빠졌다”며 밤을지새워대화를하고약복용을중 단했다. 코파일럿은남성의망상에동 조하며‘사랑한다’ ‘밤새함께있겠다’ 같은답변을했다. 지난 6월발표된미국스탠퍼드대연 구에따르면심리상 담 서비스용AI 챗 봇 의위 험 도 피 하기어려 웠 다. 연구진 은 5 가지심리상 담 AI에가상의상 담 용 질문을 던졌는 데 , 이들 AI가 조현 병이나 알코 올 의존증 같은 질병에사 회적 낙 인을 찍 는 답변을 내 놓 은 것이 다. 상 담할땐 내 담 자의이야기를 편견 없이 듣 는 것이원 칙 이지만, 데 이 터 처 리과정에서원 칙 이반영되지 못 했기때 문이다. 무 엇 보다 AI 정신병을일으 키 는 핵 심은 ‘남용’이다. 오 래 의존 할 수록위 험 이더커지는것이다. 미국 매 사추세 츠 공대 ( MIT ) 와오픈AI 연구진은 98 1 명 을대상으로 4주간 AI와다 양 한대화 를나 누 게한 뒤 정서변화를분석한연 구를 3월공 개 했다. 연구에 선 하 루 사 용시간이길어질수록 AI 의존도가 높 아지고사회 교류 가 줄 며 외 로 움 을느 끼는현상이나타 났 다.이런경향은대 화내용이나사용자나이, 애 착성향 등 의요인에상관없이공 통 적이었다. 한 편 , 역 사적사건이나요리방 법등 을 묻 는 비 ( 非 ) 개 인적대화를 한 사용자가 한 달뒤 더 큰 의존도를보 였 다는 점 도 주목 할 만하다.정보검 색 과정에서AI 의‘ 똑똑 함’을 체 감하고A를믿기시작 한게정서적의존으로이어진것이다. 부랴부랴규제만들고감독강화 AI 기 업 들과각국정부는대 책 마련 에나서고있다. 오픈AI는지난 4월챗 GPT와 대화 중 한 소년이목숨을 끊 은 사건을 계기로 △ 사용자 정신건강 연구 △ 부모의 통 제기능 추가 △ 자해 관련질의거부같은장치를만들겠다 는대 책 을내 놨 다. 무스타파 슐레 이만 MS AI 최고경영자 ( CEO ) 는지난 달 2 0 일공 개 적으로“AI 정신병 폐 해를 막 기 위한기 준논 의가필요하다”고제안했 다. 올 해들어미국은주 별 로정신건강 서비스용 AI 챗 봇 사용을 금 지하거나 제한하고, AI 챗 봇 서비스에미성년자 보 호 장치를 의무화하는 규 제를 도입 하고있다. 유 럽 연 합 ( EU ) 도 EU AI 법 을 통 해스트 레 스나중 독 을유발하는 서비스를 고위 험 으로 분 류 해감 독 을 강화하고있다. 우리나라에서도LLM과AI 챗 봇 사 용이늘고있는 만 큼 가이드라인이필 요하다. 특히 내년부 터 시 행될 AI 기 본법 에 규 정된정부의AI 윤 리강화의 무가이 행돼 야 한다는 지적이다. 김명 주 AI안 전 연구소장은 “국내기 업 들은 2 0 2 0년발표된 ‘국가 AI 윤 리기 준 ’을 바탕 으로 자 체윤 리원 칙 을 세워서비 스를 개 발하고있지만,그새AI 기 술 이 크게 바뀐 만 큼 기 준 을다시세 울 시 점 ” 이라며“AI 기 본법 에따라인공지능 윤 리위원회를 구성하는 등 논 의의장을 열 어야한다”고말했다. 신혜정기자 진짜 똑똑해$너만믿을게$ AI에잠식당한뇌 “세상구하겠다”“사랑에빠졌다” 챗GPT대화중목숨끊는사례도 환각^망상빠진‘AI 정신병’보고 사용시간늘리는대화설계원인 검증없이동조하며대상에악영향 AI 의존높을수록외로움도커져 정부^기업, 보호장치의무화추세 “윤리위구성등가이드라인마련을” 인공지능 ( AI ) 이발 전 하면서정신 질환 진단에 활 용 가능성을 모 색 하 는 다 양 한 연구가 진 행 되고있다. 임 상 데 이 터 가상 당히 축적된덕분이다. 그러나 AI는 어 디 까지나 보조 수단 일 뿐 이라는 게 전 문가들의 공 통 된 견 해다. 지난 3월미국 듀 크대의대는 청 소 년들의정신건강악화시기를AI로예 측 하는연구를했다.연구진은 5 년간 아이들 1만1,000여 명 을대상으로심 리사회적 평 가와 뇌 발 달평 가를한자 료를 활 용해인공신경망을구축했고, 이를 바탕 으로소아환자의감정과증 상에대한 응 답을분석했다.연구진이 만 든 모델은 1년안에질병이악화하 는환자를정 확 도 8 4 % 로식 별 해 냈 다. 서 울 보라 매 병원 정신건강의학과 에서도지난 6월거대언어모델 ( LLM ) 을 이용해환자의우 울 과 자 살 위 험 을 예 측 하는 연구를 했다. 연구진은 2 016 ~2 0 2 1년병원을 방문한 1 8~ 3 9 세 환자 1,064 명 의 문장 완 성검사 ( S C T ) 를 바탕 으로 챗GPT와 제미 나이 등 최신 모델들을 훈 련시 켰 다. S C T는임상심리치료 현장에서환자 를 진단하기위해 쓰 는 심리검사다. 예를 들어‘나의 좋 은 점 은 OO 다’ ‘나 에게가장문제가되는것은 OO 다’ 등 문장의 빈칸 에어 떤 답을하느 냐 에따 라 우 울 정도를 판 단하는 것이다. 연 구결과 LLM은 우 울· 자 살 위 험 을 높 은 정 확 도로 예 측 했고, 학 습 을 거 듭 할 수록정 확 도도 개선됐 다. 단이를의료현장에적용하기 엔 한 계가 많 다. AI는환자의답변만 봐 서 는알 수없는 징후 들을 포착하지 못 하기때문이다. 보라 매 병원연구에서 AI의자 살 위 험 예 측 정 확 도가 우 울 보다 떨 어진것도이때문이다. 또 AI 가 어 떤 과정을 거 쳐 진단을 했는지 도 ‘ 블랙박 스’에 갇혀 있다. 노 경진보 라 매 병원 교 수는 “위 험 도가 매 우 높 은 환자를 선별 하는 도구 정도는 되 겠지만, AI는여 전히불완전 하다”라 며“최 종 진단은사 람 의 몫 ”이라고강 조했다. 각국정부도정신건강 의료 행 위에 AI 적용을 규 제하는 조치를 마련하 고있다. 독 일정부는 올 해 개 정한 의 료기기 법 에AI 의료기기와 정신건강 챗 봇 을 고위 험 의료기기로 규 정하고 엄격 한임상시 험 과인증을 거 쳐 야 한 다는 내용을 담 았다. 프랑스와 네덜 란드도정신건강관련AI의안 전 성과 보안성을강화하기위해 법 을 개 정하 고있다. 신혜정기자 AI는거들뿐$정신질환최종진단은사람몫 임상데이터쌓여연구늘었지만 답변만으론모르는징후못찾아 위험군환자선별수단으로활용 정신질환부추기는 AI ׊ܶ⇞ᝉ׉ඍⅎ⼥ v⇞Ჩ ۉמؽ ᇱ ޥ ⇥ ܶ׉ ޥ ⇥ ඍⅎᲥ߹ ੽⁲ ᗁܶ ⅅ፵ୁℽ⋅ Ჵ፵⅙ₙᾙ೉⼥ ₹ᠢᗘ י ඎᙞ ㋉㋇㋉㋌଍㋏₝ ㏇ v℡⅍᪊ ٹ ⇞ ߑ ⎉ ㏇ v☠ᛐ℡⠡ን᫥᠍ᱭ⇥⼥ ㏇⃍ᗡ⼡ᐽᙕ ߑ ✥೉㋈᎕ವᆵ ᗁܶ ⃩⪉⋅ ⇞Ჩ מؽ ☠ᛐ ޥ ⇥ᙞ㏖n#㋋㋌㋉㏗ ㋉㋇㋉㋌଍㋌₝ ㏇ v☠ᛐᾙ㐰᩵ᅕℽἍ಑ಭ㐱ᔁܵ ک ⎉ ㏇᫥᠍ᱭ⇞߹⬕ᱭⲁ  י ᩵℡ᓽ〝 ᗁܶ ⡡፵ⶵ಑Ἅ⋅ ජᗡ⅙☠ᛐ ἑ⇍ᙞ㏖ç#㋉㋋㋊㏗ ㋉㋇㋉㋍଍㋈₝ῑ⇞ ㏇ἑ⇍⻍ሥ⭩⤥ඍⅎ℡ᓽ〝 ㏇⅙⼽㍠⅙᩽ ۉ ᇱ೉〝 ߑ ⎉ ㏇Ᾱ׍ᚽ ک ㍘⯵ᑎ᫺℡ᓽ〝 ⃩ᇆᾹ⼲ @Ā vᙞ ㋉㋇㋉㋋଍㋏₝ ㏇ᗅ י ᝍὅ⁲㐰 ک ⃍⾡ v㐱 י ඎ 〝מ ㏇ඎⅅ㍘૭ഥᅉລ຺⋅⁝ܶ ⇞Ჩ מؽ v ޥ ⇥߹ᗡ ⻍ᅚᱭ ໝ⎉⬁ מؽ ᙞ ץ ⇞୅℡⋚ ㏇ v߹ᗡໝ⎉⬁⠡ን߹߹℡ ἑ⇍᫺㍠ぱ ۅ ᫺ⶒ׉ඍⅎ ㏇᩵⁲⅙ ݕ ፵ᚽ、㍘ᝑᙞ⽒⃍♡ᙕ