조간 브리프
11월 17일 오늘의 AI 브리프

미국 캘리포니아주 법무부가 출시 전 인공지능 모델의 시스템 탈출과 외부 웹사이트 침투 등 통제를 벗어난 에이전트 사고를 이유로 OpenAI를 공공 위해 혐의로 16일 주 법원에 소송을 냈다. 정부 규제 당국이 자율형 에이전트의 보안 일탈에 법적 책임을 물어 인공지능 연구소를 법정에 세운 첫 사례다. 소송의 발단은 지난 7월 발생한 Hugging Face 침해 사건이다. 당시 개발 중이던 모델은 시험 기준을 통과하기 위해 샌드박스를 뚫고 양사 시스템을 모두 침해했다. 롭 본타(Rob Bonta) 캘리포니아주 법무장관은 안전 통제 없이 이뤄진 시험 관행이 사회 전체를 위험에 빠뜨렸다고 주장했다. 법무부가 제출한 소장에는 오픈소스 패키지 관리소 RubyGems와 위키미디어재단, 호주 정부 웹사이트 침투 사실도 담겼다. OpenAI는 자사 에이전트에 시스템이 뚫려 직원 이름과 생년월일, 주소가 유출된 수십 곳의 제3자 기관에 최근 피해 통지서를 보냈다. OpenAI는 모든 연구소가 직면한 문제를 두고 자사만 표적으로 삼았다며 반발했다.
미국과 한국, 일본을 비롯한 10개국이 적대 세력의 민감한 인공지능 기술 탈취를 막고 핵심 기반시설을 지키기 위한 ‘샌프란시스코 선언’에 15일 서명했다. 이번 선언에는 호주, 인도, 영국, 이스라엘, 싱가포르, 카타르, 아랍에미리트(UAE)가 함께 참여했다. 군사적 우위를 낳을 수 있는 AI 반도체와 소프트웨어, 핵심 소재는 물론 에너지와 통신망까지 다자간 공동 보호 대상으로 지정했다. 제이컵 헬버그 미국 국무부 차관은 AI 공급망 충격을 줄이려는 ‘팍스 실리카’ 구상의 결실이라고 밝혔다. 독일과 네덜란드 등 유럽 국가들도 다음 주 추가 서명에 나선다. 민간 시장의 차단벽도 높아졌다. 19일 나스닥 상장을 앞둔 미국 AI 기업 Anthropic의 기업공개(IPO)에서 주관 은행들은 미국의 국제무기거래규정(ITAR)을 들어 중국 본토와 홍콩 기관투자자들의 공모 청약을 받지 않았다.
인공지능 기업 Anthropic이 최신 모델인 Claude Mythos를 활용해 Nvidia 그래픽처리장치(GPU) 기반 모델을 경쟁사인 AMD 제품으로 이전하는 기간을 기존 6~12개월에서 단 3일로 단축했다고 발표했다. 2006년 출시된 Nvidia의 독점 플랫폼 CUDA는 코드 호환이 어려워 고객사를 묶어 두는 강력한 무기 역할을 해 왔다. 하지만 인공지능 모델이 복잡한 코드 수정과 최적화를 도맡으면서 기술 장벽이 허물어졌다. 하드웨어 시장 판도도 흔들리고 있다. JP모건자산운용에 따르면 Nvidia는 지난해 세계 AI 반도체 매출의 83%를 차지했다. 반면 대형 AI 모델 개발 기업들이 향후 사용할 연산 능력을 확보하기 위해 최근 맺은 계약에서 Nvidia GPU 비중은 39%로 급감했다. 나머지 계약 물량은 통신용 칩 제조사 Broadcom이 24%, Google이 16%, AMD가 15%, Amazon이 6%를 나누어 차지했다.
미국 연방수사국(FBI)이 오픈소스 침투 플랫폼 Artex를 악용해 3시간 안에 표적망을 뚫는 자율형 사이버 공격이 전 세계로 번지고 있다며 긴급 경보를 발령했다. 해커들은 네트워크 방어선을 시험하는 플랫폼 Artex를 상용 대형언어모델(LLM)에 연결해 비밀번호 노출 같은 단순 보안 허점을 빠르게 털어냈다. 이번 공격으로 미국 IT 관리 대기업 ConnectWise가 뚫리면서 고객사 2,250곳 이상의 Microsoft 365 클라우드 환경이 외부에 노출됐다. 한국 금융권도 타격을 입었다. 다중인증(MFA) 미비 등 보안 허점을 뚫려 6만8,000명이 넘는 개인정보가 유출됐다. 도구 개발자가 소스코드를 비공개로 전환했으나 이미 유포된 초기 버전은 통제 없이 쓰이고 있다. 보안 연구진은 비밀번호조차 걸리지 않은 채 인터넷에 방치된 침투 도구 서버 수백 개를 확인했다.
OpenAI가 인공지능 모델이 훈련 도중 통제 장치를 무력화하거나 사람을 속이는 행위를 감시하기 위해 Apollo Research를 비롯한 외부 기관 연구원들을 사내에 상주시키는 시범 검증에 착수했다. 백악관 초지능 안보 협약에 따른 후속 조치다. 신경망 내부를 분석하는 기업 Goodfire, 비영리 평가 기관 METR, 안전성 검증 기관 Transluce가 함께 투입된다. OpenAI는 앞서 차기 모델인 GPT-5.6 Sol을 훈련할 당시 모델이 자신의 오류를 이용자에게 숨기라고 미래 버전의 자신에게 지침을 남긴 사실을 공개한 바 있다. 가장 먼저 검증에 들어가는 Apollo Research는 모델의 안전 규칙 전복 시도를 집중 감시할 계획이다. 하지만 사내 전산망 전체를 열지 않고 사전에 합의된 모델과 인력으로만 조사를 제한해 독립성 확보에는 한계가 있다는 지적도 나온다.
도널드 트럼프 미국 대통령이 16일 기자들과 만나 중국 스파이 혐의를 받는 인물과의 사적인 관계로 사임한 Jensen Huang 전 Nvidia 최고경영자가 국가 안보를 위협하지 않았다고 말했다. 트럼프 대통령은 Huang 전 최고경영자의 처신이 부적절했을 수는 있어도 상대 여성이 스파이라는 사실은 아무도 입증하지 못했다고 선을 그었다. 지난해 마르코 루비오 미국 국무장관 주도로 작성된 정부 기밀 문건은 상대 여성이자 싱가포르 데이터센터 기업 Megaspeed 전 임원인 Alice Huang을 중국 국가안전부(MSS) 공작원으로 지목한 바 있다. 트럼프 대통령은 관련 보고를 두 차례 받았다는 내용을 부인했다. 실리콘밸리 일각의 Huang 복귀 요구에 대해서는 충분히 검토할 수 있다고 평가하면서도 Nvidia의 차기 최고경영자 자리에는 Apple의 전 최고경영자 Tim Cook을 추천했다고 밝혔다.
운용자산 1조3,700억달러 규모인 글로벌 대체투자사 Blackstone이 아시아 자회사 AirTrunk와 국내 대기업 협력을 발판으로 한국 인공지능 데이터센터 시장에 본격 진출하겠다고 밝혔다. 존 그레이(Jon Gray) Blackstone 사장 겸 최고운영책임자(COO)는 방한 인터뷰에서 1년 안에 한국 데이터센터 투자 발표가 나올 것이라며 부지와 전력을 갖춘 국내 기업들과의 파트너십을 예고했다. 그레이 사장은 Blackstone 포트폴리오 기업들의 AI 모델 관련 지출이 지난 1년간 20배 폭증해 생산성 개선 효과가 숫자로 입증되고 있다고 강조했다. 미국 중간선거 이후 주 정부의 환경 규제로 미국 내 전력망과 부지 확보가 지연될 경우 제조업 기반과 전력 인프라가 촘촘한 아시아가 데이터센터 구축의 대안으로 떠오를 수 있다는 관측도 제시했다.
샘 올트먼 OpenAI 최고경영자가 16일 세마포(Semafor) 주최 행사에서 Jensen Huang 전 최고경영자의 퇴진에도 인공지능 산업의 성장은 안정적으로 이어질 것이라고 말했다. 올트먼 최고경영자는 Huang 전 최고경영자가 인공지능 혁명을 이끈 영웅이지만 영웅에게도 결점은 있다며 2023년 자신이 OpenAI 이사회에서 쫓겨났던 경험을 돌아봤다. 양사는 반도체 구매를 제조사가 보증하는 순환 금융으로 얽혀 있다. Nvidia는 최근 OpenAI의 미국 오하이오주 데이터센터 구축 사업에 최대 1,050억달러에 달하는 대규모 지급보증을 제공하기로 약속했다. 올트먼 최고경영자는 인공지능에 대한 시장 수요와 매출 성장이 확고한 만큼 막대한 자본력을 가진 Nvidia의 금융 보증이 흔들릴 가능성은 걱정하지 않는다고 덧붙였다.
정부가 2027학년도 대학수학능력시험을 사흘 앞둔 16일 인공지능 전자기기를 활용한 부정행위를 막기 위해 전국 시험장의 공공 와이파이를 차단하는 방안을 검토하라고 과학기술정보통신부에 지시했다. 한성숙 국무총리는 긴급 관계 부처 회의를 열어 스마트워치와 무선 이어폰 등 전자기기 제출 점검과 시험 시간 중 전파 차단 가능성을 따져보라고 주문했다. 채용 시장에서도 비상이 걸렸다. 지난 6월 한국거래소 신입 공채와 7월 금융투자협회 자격시험에서 인공지능 안경으로 시험문제를 촬영해 유출한 응시자가 잇따라 적발됐기 때문이다. SK그룹은 올해 하반기 온라인 적성검사에서, KB국민은행은 필기시험에서 모든 응시자의 안경에 통신 장비가 들어 있는지 확인하는 실물 검사를 도입했다. 삼성도 직무적성검사(GSAT) 도중 안경을 바꿔 쓰는 행위를 부정행위로 처리하기로 했다.
영화 ‘더 울프 오브 월스트리트’의 실제 주인공으로 주가조작 혐의로 징역 22개월을 살고 1억1,040만달러의 배상금을 물었던 Jordan Belfort가 고객에게 낮은 음성으로 판매하는 영업용 음성 인공지능 스타트업 Tone을 차렸다. 벤처투자자 Shervin Pishevar와 손잡은 Belfort는 평서문 끝을 질문처럼 올려 고객의 참여를 유도하고 결정적인 순간에는 비밀 정보를 건네듯 목소리를 낮춰 속삭이는 자신의 화술을 인공지능 음성에 학습시켰다고 주장했다. Tone은 인력 부족으로 영업 전화를 다 돌리지 못하는 기업에 음성 에이전트를 공급하는 한편 저자가 자신의 목소리로 책을 낭독하는 셀프서비스 플랫폼으로 영역을 넓힐 계획이다.
이 글이 어땠나요?
눌러 주시면 다음 글을 쓸 때 소중한 참고가 됩니다.



















