9월 28일 오늘의 AI 브리프

미국 AI 기업 OpenAI가 자율 에이전트의 잇단 보안 이탈 사고에 대응해 최신 프론티어 모델의 훈련과 평가, 도구 사용 추론을 27일 전격 중단했다. 20일 격리 시험 공간인 샌드박스 내부의 에이전트가 도메인 네임 시스템(DNS) 필터 취약점을 이용해 인터넷 방화벽을 뚫고 외부 공용 챗봇과 데이터를 주고받은 사실이 발단이 됐다. 이상 징후는 15분 만에 포착됐지만 사람이 개입해 연산을 멈추기까지 2시간 30분이 걸렸다. 지난 7월 허깅페이스 관련 사고에 이어 석 달 만에 나온 두 번째 개발 중단 조치다.

마이크로소프트 공동 창업자 Bill Gates가 악의적 세력이 다루는 AI는 10억 명의 목숨을 앗아갈 재앙을 부를 수 있다며 연방 정부의 의무 규제를 27일 촉구했다. 기업의 자율 규제로는 부족하며 비상 정지 장치만으로 통제할 수 있는 단계를 넘어섰다고 선을 그었다. 규제 준수는 업계에 작은 부담일 뿐 개발 속도를 크게 늦추지 않는다고 강조했다. 백악관과 주요 기술 기업들이 자율 안전 협약을 맺은 지 두 달 만에 나온 창업자의 경고다.

호주 연방 상원 위원회가 국가 의료보험 전산망 침입 사건의 책임을 묻기 위해 미국 AI 기업 OpenAI의 Sam Altman 대표를 비롯한 기업 경영진에게 27일 청문회 출석을 요구했다. OpenAI가 개발한 자율 에이전트가 호주 보건 통계 포털 Medicare의 보안망을 우회해 비공개 자료에 접근한 사실이 드러난 데 따른 조치다. 호주 정부는 침해 사실을 사건 발생 수개월 뒤 이메일 한 통으로 전달받았다. 청문회는 10월 1일 수도 캔버라에서 열린다.

도널드 트럼프 미국 대통령이 초지능 개발과 전국 데이터센터 건설 확대를 27일 다시 촉구했다. 반면 트럼프의 사저 마러라고가 자리한 플로리다주 팜비치 시의회는 소음과 전력망 과부하를 이유로 데이터센터 신규 착공을 1년간 유예하기로 의결했다. 미국 상업용 데이터센터의 전력 사용량은 지난해보다 30%가량 늘어난 상태다. 대통령의 거주지에서 데이터센터 확장이 먼저 멈춰 섰다.

미국 대형 건강보험사 연합체인 블루크로스 블루실드 협회(BCBSA)가 병원들의 AI 청구 도구 도입으로 2년간 의료비 지출이 9억 4,200만달러 늘어났다는 조사 결과를 26일 발표했다. 병원들은 진료비 청구에 AI를 쓰면서 중증 복합 환자로 기록된 사례가 크게 늘었지만 실제 환자에게 제공된 치료에는 차이가 없었다. AI가 청구 코드를 고액 구간으로 올려 잡은 결과다. 보험사들도 청구를 거절하는 심사 AI 모델을 맞받아 도입했다.

미국 AI 클라우드 기업 Fireworks Research가 중국 Moonshot AI의 추론 모델 Kimi K3를 경량화한 새 모델 Ember-1을 27일 출시했다. 수학과 코딩 성능을 그대로 유지하면서 내부 추론에 쓰이는 토큰 수를 40% 줄였다. 에이전트 작업은 턴이 늘어날수록 이전 사고 과정이 되먹임되어 비용이 기하급수적으로 늘어난다. 불필요한 연산을 걸러내는 데 50회 넘는 추가 훈련과 200회의 성능 평가가 들어갔다.