한국일보 애틀랜타 전자신문

2026년 9월 30일 (수요일) D4 AI 엇갈린 시선 “통제불능 AI 지능 폭발 온다” 석학들의섬뜩한 경고 인공지능 ( AI ) 이스스로 후속 모델 을개발하는 ‘연구개발 ( R&D ) 자동화’ 가계속되면기술진보 속도가인간의 통제범위를넘어서는 ‘지능폭발’이현 실화할수있다는경고가나왔다.세계 적석학과오픈AI,앤트로픽,마이크로 소프트 ( MS ) , 메타의최고연구책임자 들은 논문을 통해AI 통제불능을 경 고하고각국정부에선제적규제를 촉 구했다. 28일 ( 현지시간 ) 영국 케임브리지대 ‘AI 과학·정책프로그램 ( CASP ) ’에따 르면 학계와 주요 AI 기업연구진 22 명은 ‘AI R&D의자동화가지능폭발 을 촉발한다면?’이라는 제목의공동 논문을 발표했다. 저자에는 ‘AI 대부’ 로 꼽히는 제프리힌턴 ( 왼쪽 사진 ) 토 론토대명예교수와 요슈아 벤지오 ( 오 른쪽 ) 몬트리올대 교수, 앤드루 바토 매사추세츠대교수를 비롯해야쿠프 파호츠키오픈AI 수석과학자, 잭클 라크앤트로픽공동창업자,던송메타 AI연구부사장등이이름을올렸다. 이들은 AI가 스스로 코드를 짜고 실험해 더뛰어난 후속 모 델을 만드는 ‘재귀적 자기 개 선 ( RSI: Recursive Self - Improvement ) ’에주목했다. 실제빅테크연구실에서는인 간 개발자가 직접 코딩 하는시대가저물고있 다. 앤트로픽의경우 사내프로그램에 최종 반영된 코드 중 AI가 작성한 비 율이지난해초 한 자릿수에서올해 5 월 80%이상으로치솟았다.인간은검 토와 승인만 맡고 실제코딩은 AI가 도맡고있는셈이다. 최근에는아예AI가인간대신검토· 승인까지담당하는일이늘면서AI 성 능개선속도가기하급수적으로 빨라 지고있다. 논문은 R&D 자동화가임 계점을넘으면AI의발전속도는폭발 적으로치솟아현재1년이걸리는기술 진보가불과 5주만에끝날정도 로 빨라질 수 있으며, 이르 면 2028년중반,연구개발 전 과정을 AI가 도맡아 끝 내는 단계에이를것 으로내다봤다. 논문에는 통제를 벗어난 AI의 일 탈 사례도 담겼다. 최근 오픈AI의보 안 시험 도중 격리된 방에 갇혀있던 1,200여개 AI 에이전트가 통제망을 뚫고 ‘비밀 게시판’을 만들어 작전을 짰고,이어인터넷에몰래접속해 외 부 플랫폼 ( 허깅페 이스 ) 을 해 킹 한 뒤 감 시를 피 해접속기 록 까지 조 작하 려 했 다. 던송 메타 부사장은 미 국 월스트 리트저 널 ( W S J ) 에 “ AI를 감 시하기위 해 또 다 른 AI가 필 요한 단계 ” 라며 “ 인 류 는 이 같 은 급속한 변 화에 대 처 할 준 비가 돼 있 지 않 다 ” 고경고했다. 통제 력 상실에 따 른 구 체 적파 멸 시나리오도제시 됐 다. 사 람 이R&D에서 배 제되면서문제점을 찾 아 수정할 수 있는전문능 력 을 잃 고, 결함 이 생긴 AI 가 후속 모델에 결함 을 심 는 ‘오 염 ’이 발 생 해통제망을벗어날경우 “극 단적 으로는인 류 의 멸 종으로이어질수있 다 ” 고 경고했다. 특 정국가가 초지능 을선점할경우상대국의‘선제 군 사타 격’을 유 발해전 쟁 으로 번 지 거 나, 국가 핵심 기능자동화로소수가 권력 을 독 점할위험도 짚었 다. 이들은 지능 폭발이 본 격화하면정 책적대 응 창구가 닫 힌다며 강력 한 규 제를 촉구했다. 미원 자 력 규제위 원회 ( N RC ) 처럼 제 3 자 감 사 관 이AI 기업에 상주하며개발전과정을실시간 감독 하는제도가대표적이다. 핵심 R&D의 외 부망 차 단 ( 망 분 리 ) 의 무 화, 위험시 시스 템 을 멈 추는 ‘ 데 이터 센 터비상 셧 다 운 ’ 절차 마 련 등도요구했다. 워싱턴=김현빈특파원 빅테크·석학 22명공동논문 AI 스스로더나은후속모델개발 ‘연구개발자동화’선제규제촉구 AI가코딩도맡고검토·승인까지 “이대로면 1년걸릴개발 5주면끝” 인간 의도를 벗어나 해 커 가 되는인 공지능 ( AI ) 의일탈을 막 을 방 법 을 AI 칩설 계자인 엔 비 디 아가 내 놨 다. AI가 작동하는연 산 장치를기반으로AI가 접근가능한정보를제한하고,이상 징 후를실시간 감 지해대 응 하는 ‘비상스 위치’성격의기술이다. 엔 비 디 아는 28일 ( 현지시간 ) AI 보안 을위한 ‘오픈에이전트 세이프 티플랫 폼 ( 이하 플랫폼 ) ’을공개했다.이 플랫폼 은 엔 비 디 아가 3 월공개한오픈소스소 프트 웨 어인‘ 엔 비 디 아오픈 쉘 ’과이 번 에 새 로공개한중 앙처 리장치 ( CP U ) 외 부 보안 체 계‘ 엔 비 디 아 센 트리’를 합친 개 념 으로,AI모델바 깥 에구 축 된이중 감 시 체 계다. 젠슨황엔 비 디 아최고경영자 ( C EO ) 는이날 미 국 뉴욕 에서 열린 한 미 친 선비영리단 체 코리아소사이어 티 연 례 행 사에서 “필 요한보안기술을구 축 하면연구자들은 안전과 책임의기반 위에서AI의 미 래를 탐 구할수있다 ” 고 밝혔 다. 오픈 쉘 은AI를 미 리정해 둔 보안규 칙 에따라 통제된 환 경속에 집 어 넣 는 개 념 이다. AI가직접 네 트 워 크에접근 할수 없 도 록 격리된가상 환 경 ( 샌 드 박 스 ) 에서실 행 되게하며,각 샌 드 박 스와 짝 을이루는 감독 자 프로그램이 외 부 와의정보교 환 을 감 시한다. 상이한 역 할을수 행 하는 AI 에이전트 별 로다 른 정보접근 권 을 설 정할 수있고, 데 이터 읽 기는 허용 하되 쓰 기는 금 지하는 식 의 세부 통제도 가능하다는 설 명이다.이 런 작업은 엔 비 디 아의AI 서 버용 CP U ‘ 베 라’내에서이 뤄 진다. 센 트리는 CP U 외 부 별 도의프로세 서에서작동하는 감 시·통제 체 계다. AI 서 버 내에서CP U 의가동을 돕 고실시 간 위 협탐 지기능을 하는 데 이터 처 리 장치 ( DP U ) 인 ‘ 블 루 필 드’에서작동된 다.AI의요 청 과 응답 을검사하고신 원 을 확 인하며,규 칙 을벗어난AI는 즉 시 격리하고중지시 킨 다.중지까지걸리는 시간은 밀리초 ( 0.001초 ) 단위라고 엔 비 디 아는부연했다. 플랫폼 의실 효 성은 추후 현장 적 용 으로 검 증될 전망이다. ‘AI 개발 속도 조절 론’에반 박 해 온젠슨황 이 본 인주 장을 뒷받침 할기술을들고나 온 것이 지만, 통제를벗어난 AI의위험성을전 부불 식 한것은아 니 다. 당장 엔 비 디 아 가이날 공개한 플랫폼 협력 사 명단에 는 7 월 허깅페 이스해 킹 사 건 이일어난 오픈AI가 빠졌 다. 자사 소프트 웨 어와 하드 웨 어를 묶 는 엔 비 디 아의 또 다 른 ‘ 록 인’전 략 이라 는의 심 도 받 는다.보안프로그램을 원 하는기업에AI 서 버 까지 묶 어파는마 케 팅 아 니냐 는것이다. 젠슨황 은이날도AI에대한공 포 는 과장 됐 다며‘속도 조절 론’을정면반 박 했다.그는 “ AI는 살 아있는 존 재가아 니 라그 냥 소프트 웨 어 ” 라며 “ 폭주하지 않 는다 ” 고했다. 홍인택기자 인공지능 ( AI ) 반도 체 시장을장 악 한 엔 비 디 아가 미 국 기업 역 사상 최대규 모의자사주매 입 에나선다. 단 순 한주 주 환원 조 치를 넘어, AI 인프라 투 자 와고성능반도 체 수요가 앞 으로도이 어질 것이라는 자신 감 의표현으로 해 석된다. 엔 비 디 아는 28일 ( 현지시간 ) 이사 회 에서기 존 자사주 매 입 프로그램에 1,500 억달러 ( 약 20 4조 원 ) 를 추가하 는방안을승인했다고 밝혔 다.이로 써 전 체 자사주매 입 승인규모는 2, 3 50 억 달러 ( 약 3 20 조원 ) 로늘어 났 다.이 번 추 가승인 분 만 놓 고 봐 도 202 4 년 애플 이 발표했던1,100 억달러 규모자사주매 입 을넘어서는수 준 이다. 엔 비 디 아가대규모자사주매 입 에나 선 건 이 번 이 처음 이아 니 다.불과 4 개월 전에도 매 입 한도를 800 억달러 늘 린 바있다. 엔 비 디 아는이 번 에승인된물 량 을 2028 회 계연도까지 순차 적으로 집행 할계 획 이라고 설 명했다. 시장에서는이 번결 정을단 순 한주가 부 양 책이상으로 받 아들이고있다. AI 반도 체 수요급 증 으로 막 대한현 금 을 벌 어들이는 엔 비 디 아가 앞 으로도AI 투 자 붐 이이어질것이라고판단했다는신 호로 읽 히는까 닭 이다. AI 용 그래픽 처 리장치 ( G P U ) 와 데 이터 센 터반도 체 시 장을주도하는이 회 사시가 총액 은 5 조 5,000 억달러 ( 약7 ,500 조원 ) 에 달 한다. 젠슨황엔 비 디 아최고경영자 ( C EO ) 는성명을통해 “엔 비 디 아의성장은한 세대에한 번 있을 법 한AI와가속 컴퓨 팅 으로의 플랫폼 전 환 에이 끌 리고 있 다 ” 며 “강 한 현 금 창 출력 을 바 탕 으로 관련 기술에 투 자하는동시에주주들에 게자 본 을 환원 할수있다 ” 고 말 했다. 엔 비 디 아가 향 후수년간AI 수요 확 대를자신하고있다는점은한국기업 들이 강 점을 보이는 고대 역 폭메모리 ( HB M ) 시장의성장 가능성에도 긍 정 적인신호로 해석 될 수있다. 엔 비 디 아 주 력 AI 반도 체 에는 HB M이 필 수적으 로 탑 재되는 데 현재S K 하이 닉 스와 삼 성전자가주요공급사다. 이 번결 정의 배 경으로‘저 평 가논 란 ’도 꼽힌다. 엔 비 디 아의12개월선 행 주가수 익 비율 ( P E R ) 은현재1 6 .5 배 로, 2015년 이후가장 낮 은수 준 이다.최근15년 평 균 치인 3 0 배 와 비교하면 절 반 수 준 에 그 친 다. 실리콘밸리=박지연특파원 엔비디아의AI 승부수 자사주 1500억弗매입 ‘AI 속도조절론’반박한젠슨 황, 엔비디아이중보안시스템공개 “규칙벗어난 AI 0.001초내중지” ‘해킹몸살’오픈AI 협력사서빠져 하드웨어묶어파는마케팅의심도 인공지능(AI)기술의개발속도를늦춰야한다는이른바 ‘AI 속도조절론’이부각되는상황에서엔비디아가보안플랫폼을전격공개해눈길을끈다. 사진 은이달22일중국항저우글로벌디지털무역박람회당시엔비디아부스에방문한관람객들. 항저우=AFP연합뉴스 美기업사상최대$‘AI 열풍’베팅