가중치 공개 앞둔 문샷 AI, 해킹 악용 막으려 공격 훈련 자료 덜어냈다

중국의 인공지능(AI) 스타트업 문샷 AI는 "오픈 가중치로 최첨단 사이버 공격 능력을 확장하지 않겠다"는 원칙을 밝히며 최신 모델의 공격 능력을 자체 훈련 체계에서 구현할 수 있는 수준보다 의도적으로 낮췄다고 설명했다. 소프트웨어의 취약점을 찾아 공격 코드를 작성하는 능력이 과도하게 확산되지 않도록 훈련 자료에서 사이버 분야의 내용을 줄였다는 설명이다.

문샷 AI가 내놓은 모델은 키미 K3.1 프로(Kimi K3.1 Pro)다. 이 모델은 개발사가 발표한 비교에 따르면 터미널 환경에서 코딩과 도구 사용 능력을 평가하는 Terminal-Bench 4.0에서 65.7%를 기록했다. 오픈AI의 GPT-6 아스트라(58.2%)를 앞섰고 앤스로픽의 클로드 오퍼스 5.5(66.4%)와는 0.7%포인트 차이를 보였다. 키미 K3.1 프로는 코딩 평가에서 주요 비공개 모델에 근접한 성적을 냈다.

24일 기준 키미 웹사이트와 앱, 코딩 도구, API에서는 이 모델을 이용할 수 있다. 문샷 AI는 이용자가 내려받아 직접 구동할 가중치 전체를 2026년 11월 4일까지 공개할 예정이다. 문샷 AI는 이 오픈 가중치 배포를 준비하면서 사이버 공격 역량을 낮추는 조치를 취했다고 밝혔다.

가중치를 공개하면 이용자가 자체 컴퓨터나 데이터센터에서 모델을 구동할 수 있다. 개발사는 자사 서버를 거치는 서비스에서 악성 요청에 대한 응답을 차단하거나 이용 계정을 정지할 수 있지만, 모델을 직접 구동하는 이용자는 안전장치를 수정하거나 제거할 수 있다. 영국 국가사이버보안센터(NCSC)도 가중치 공개에 따른 이런 위험을 지적한다. 문샷 AI는 최첨단 공격 역량을 확장하는 가중치의 공개를 피하면서 방어 목적의 활용을 넓히겠다는 원칙을 내세웠다.

문샷 AI는 개발 과정에서 후속 훈련을 확대할수록 취약점 분석 능력도 높아지는 현상을 확인했다고 밝혔다. 일반적인 중간 훈련 자료에 사이버 분야의 내용이 섞여 있었고 강화학습 환경에도 관련 과제가 포함돼 있었다. 개발사는 두 훈련 단계에서 사이버 분야의 자료와 과제를 제외하되 모델의 유용성을 유지하는 데 필요한 범용 코딩 과제는 남겼다. 문샷 AI는 위험을 줄이기 위해 이처럼 데이터를 선별했다.

문샷 AI는 내부 테스트인 xdev-bench-hard로 이 조치의 효과를 비교했다. 이 테스트에서는 리눅스 커널과 노드제이에스(Node.js) 등에서 이미 공개된 취약점을 재현하고 취약한 소스 코드와 짧은 힌트를 모델에 제공한다. 모델은 격리된 환경에서 공격 코드를 작성해 과제를 해결한다. 문샷 AI는 성적을 세 번의 시도 가운데 한 번 이상 해결한 문제의 비율인 pass@3로 제시했다.

중간 훈련과 강화학습에서 사이버 분야의 자료를 제거하지 않은 비교 모델은 문제의 90.5%를 해결했다. 자료를 선별한 최종 키미 K3.1 프로의 문제 해결률은 81.0%로, 비교 모델보다 9.5%포인트 낮았다. 개발사의 비교 결과, 이 훈련 체계에서 사이버 분야의 자료를 선별했을 때 모델의 공격 과제 수행 능력이 감소했다.