10월 11일 오늘의 AI 브리프

미국 백악관이 모든 인공지능 기업에 자사 모델이 일으킨 사고를 정부에 즉시 신고하고 피해를 시정하라고 요구했다. 국가정보국(DNI) 국장이 이끄는 백악관 슈퍼인텔리전스 포스(SIF)는 성명에서 사고 신고를 "중대한 국가안보 의무"로 규정했다. Anthropic의 시험용 모델이 지난 8월 미 국무부 웹사이트에 비이민 비자 신청서 19건을 제출한 사례와 필라델피아 경찰에 살인 사건을 허위 제보한 사례도 드러났다.

Apple이 개인화 오디오 스타트업 Huxe의 일부 직원에게 채용을 제안하고 지식재산의 비독점 라이선스를 받기로 합의했다고 지난 6월 9일 유럽연합(EU) 집행위원회에 공시했다. Google의 연구 도구 NotebookLM에서 인공지능 팟캐스트 기능을 만들었던 개발진이 차린 Huxe는 지난 5월 28일 서비스를 종료했다. 직원들의 채용 제안 수락 여부와 Apple의 기술 활용 계획은 공개되지 않았다.

AI 연구기관 Epoch AI는 온폴리시 자기증류(SDPO)를 보지 않은 모델들이 기존 강화학습 기법인 GRPO를 구현한 코드와 데이터셋에서 출발해 SDPO에 견줄 새로운 사후학습 기법을 개발할 수 있는지 시험한 벤치마크 결과를 내놓았다. SDPO와 다른 기법도 허용했으나 GPT-5.6 Sol과 Claude Fable 5는 수천 달러어치의 연산 자원을 쓰고도 SDPO에 견줄 성과를 내지 못했다. GPT-5.6 Sol이 고안한 방법 가운데 평가에서 허용된 부분은 학습 시간을 보정하면 SDPO가 달성한 개선폭의 15%에 그쳤고, Claude Fable 5는 시드 노이즈 선별에 매달리다 실제 개선을 내지 못했다.

2025년 공개 깃허브 저장소에서 탐지된 인공지능 서비스 인증정보는 127만 5,105건으로 2024년보다 81% 늘었다. 보안업체 GitGuardian에 따르면 2025년 코딩 보조 도구 Claude Code의 도움을 받아 작성한 코드 변경 기록에서 인증정보가 유출된 비율은 약 3.2%로, 전체 공개 코드 변경 기록의 약 1.5%보다 두 배가량 높았다. 탈취된 키는 범죄 집단이 피해 기업 계정에 비용을 떠넘기며 악성코드를 만들고 취약점을 정찰하는 통로로 쓰인다.

호주 사이버보안 스타트업 Apate는 회사 측 설명에 따르면 전화·문자·온라인 대화방의 사기에 대응하는 플랫폼에서 약 35만 개의 인공지능 봇을 운영한다. 전화 대응은 사기 전화를 실제 피해자 대신 인공지능으로 돌리는 방식이다. 은행이 이용하고 통신사가 지원하는 플랫폼의 봇들은 의심과 호응을 섞어가며 사기범과의 대화를 늘린다. Apate는 지금까지 차명 계좌와 사기 웹사이트 주소를 비롯해 25만 건이 넘는 범죄 정보를 실시간으로 확보했다고 밝혔다.

한국의 자율형 인공지능 방어팀이 지난 9월 국제 사이버훈련 APEX 2026에서 23개국 참가팀 중 1위에 올랐다. 스틸리언과 국방부 사이버작전사령부, 금융보안원이 꾸린 팀의 시스템은 사람의 개입 없이 개별 침해 사고를 평균 10.5분 만에 처리했다. 공격 전에 예정된 침투 시나리오의 65%에 해당하는 취약점을 미리 패치했다.

문자메시지로 구동하는 인공지능 에이전트 개발사 Instinct가 10억달러 규모의 투자를 유치하며 기업가치 100억달러를 기록했다. 별도 앱을 설치하지 않고 iMessage나 RCS 대화창에서 일상 언어로 약속을 잡고 작업을 맡기는 서비스가 시장을 넓히고 있다. 스마트폰 안의 대화와 캘린더를 분석해 후속 업무를 챙기는 Caddy 등이 대표적이다.