10월 14일 오늘의 AI 브리프

OpenAI와 Anthropic이 13일 영국 의회 청문회에서 자율적인 안전 약속만으로는 부족하다며 법적 의무 도입을 지지했다. OpenAI는 사고 보고부터 의무화하자고 했고 Google DeepMind와 Meta는 새 법률 도입을 지지하지 않았다. 영국 AI안전연구소(AISI)가 출시 전 모델을 검사하려면 기업의 협조가 필요하다. 연구소는 모델이 위험하다고 판단해도 출시를 막을 권한이 없다.

Anthropic은 하루에 병합하는 코드 변경 건수가 늘어나자 Git에서 자체 개발한 버전 관리 시스템 Scion으로 이전했다. 하루에 병합한 코드 변경 건수는 5월 약 2,500건에서 9월 3만 건 이상으로 늘었다. Anthropic은 Claude로 코드를 생성하는 속도가 빨라지자 변경 이력 관리와 코드 검토 등 기존 개발 도구에서 병목이 발생했다고 설명했다. 시스템 이전에는 5개월이 걸렸다.

AI 산업에 우호적인 후보를 지원하는 미국 정치활동위원회 네트워크 Leading the Future의 산하 조직이 우편함을 주소로 둔 컨설팅 업체에 지난해부터 약 2,000만달러를 지급했다. 대금을 받은 컨설팅 업체 Lantern Production Consultants의 주소는 네바다주 쇼핑센터의 우편함이며 대금은 여론조사와 광고, 연구, 전략 자문 명목으로 지급됐다. 선거자금 감시 단체 Campaign Legal Center는 실제 수취인을 공개하지 않았다는 이유로 연방선거위원회에 신고했다. Leading the Future는 관련 법률을 모두 지켰다고 반박했다.

기업 내 AI 사용에 따른 보안 위험을 추적하는 Pluto Security가 약 4,200만달러의 투자 유치 내역을 공개했다. Pluto Security는 4월 판매를 시작해 기업 고객 30곳 이상을 확보했고 연간 반복 매출이 200만달러를 넘었다고 밝혔다. Pluto Security 공동창업자 겸 최고경영자 Shahar Bahat에 따르면 고객사에서 확인된 위험의 약 60%는 비개발자가 AI로 작성한 도구에서 발생했다. 재무 부서에서 위험이 가장 많이 발견됐고 마케팅과 법무가 뒤를 이었으며 개발 부서는 위험이 네 번째로 많았다.

Google DeepMind가 AI 모델 Gemini 4 Argon을 제공하는 사이버 방어 프로그램 Fairwind의 협력 대상을 수백 곳 더 늘린다고 밝혔다. Google DeepMind의 자체 안내에 따르면 Gemini 4 Argon은 소프트웨어 취약점 수정 평가인 CWE-Bench에서 68%의 점수로 공동 1위를 기록했다. Google DeepMind는 모델의 사고 과정과 행동을 모니터링하다가 필요할 때 실행을 중단하는 안전장치도 배포한다고 설명했다.

Apple이 가정용 AI 기기 HomeView를 공개하고 11월 13일부터 판매한다고 밝혔다. HomeView는 7인치 화면을 갖췄으며 최대 6명을 구별해 개인별 콘텐츠를 표시한다. 내장된 AI 어시스턴트 Siri AI는 처음에는 영어로만 제공된다. 이용자가 개인 콘텐츠를 보려면 연동한 iPhone이나 iPad가 같은 Wi-Fi에 연결돼 있고 최근 잠금이 해제된 상태여야 하며 HomeView가 이용자의 얼굴도 인식해야 한다.