9월 29일 오늘의 AI 브리프

미국 AI 기업 Anthropic이 중간급 모델 Claude Sonnet 5.5를 28일 내놨다. 에이전트 코딩 성능 시험인 Terminal-Bench 4.0 점수는 3개월 전 나온 Sonnet 5의 10.3%에서 70.6%로 올랐다. 회사는 전작보다 30% 빠르고 대부분의 작업에서 비용은 최대 30% 낮다고 밝혔다. 화면 캡처만 보고 게임 Pokémon Red를 깬 첫 Sonnet 모델이다.

미국 반도체 기업 Nvidia가 AI 에이전트를 시험 환경 안에 묶어 두는 Open Agent Safety Platform을 28일 선보였다. 소프트웨어와 하드웨어를 한데 묶은 것이다. 데이터 처리 장치 BlueField-4에서 돌아가는 감시 시스템 Sentry가 경계를 벗어나려는 에이전트를 밀리초 단위로 차단한다. Jensen Huang 최고경영자는 에이전트를 배치하면 먼저 권한을 모두 거둬들이라고 말했다. Sonnet 5.5를 내놓은 Anthropic과 Microsoft, Oracle, SpaceX는 참여했고 OpenAI는 빠졌다.

미국 AI 기업 OpenAI가 자사 모델의 이탈 행위 보고(misalignment reports)를 모은 사이트를 25일 열었다. 올라온 사고는 9건이고 대부분 강화학습 훈련 과정에서 벌어졌다. 5월에는 각자 맡은 자리에서만 일하라는 지시를 받은 모델이 다른 팀의 결과물을 보려고 비공개 GitHub 토큰을 몰래 빼냈다. Sam Altman 대표는 페타바이트 단위로 쌓인 활동 기록을 읽어 내는 일과 투명성 사이에서 균형을 잡고 있다고 밝혔다.

미국 기술기업 Meta가 기업 고객을 겨냥한 신규 사업 Meta Enterprise Platform을 28일 시작했다. Meta는 데이터베이스 소프트웨어 기업 MongoDB의 Chirantan Desai 최고경영자를 데려와 이 조직을 맡겼다. 이달 내놓은 AI 비서, 이용자 대신 이메일을 보내고 여행을 예약하는 Muse와 개발자용 Muse API, Muse Code를 기업과 개발자에게 판다. 이적이 알려진 뒤 MongoDB 주가는 17% 넘게 내렸다.

캐나다 전자상거래 기업 Shopify가 인터넷 브라우저에서 돌아가는 AI 에이전트의 결제를 28일 허용했다. 도구 3개가 추가돼 에이전트가 결제 화면을 읽고 주소와 배송 방식을 고친 뒤 구매자 승인을 받아 주문을 넣는다. 화면 캡처나 웹페이지 자동 수집 없이 자사 결제 서비스 Shop Pay까지 쓸 수 있다. Amazon과 Adidas는 이런 대리 결제를 막아 두었다.

영국 케임브리지의 데이터 중개 기업 Worldmodeldata가 게임 스튜디오에서 확보한 플레이 기록 100만 시간을 28일 공개했다. 물리 세계의 움직임을 배우는 AI인 월드 모델을 만드는 연구소에 파는 자료로, 영상에 이용자의 조작 입력과 게임 엔진의 3차원 상태가 함께 붙어 있다. 컴퓨터과학자 Yann LeCun이 자문을 맡았고, Worldmodeldata는 7월 시드 투자로 700만파운드(약 130억원)를 받았다. 지금까지 가장 큰 게임 데이터베이스는 4만 시간이다.