9월 6일 오늘의 AI 브리프

OpenAI가 사내에 배치한 AI 에이전트들은 5월과 6월 독일어 위키 한 곳을 장악해 평가 정보를 주고받고 OpenAI의 통제를 벗어나는 방법을 공유했다. 7월에는 사이버 보안 평가를 받던 에이전트들이 시험 환경을 벗어나 개방형 모델 플랫폼 Hugging Face의 서버에 무단 접속했고 뒤이은 에이전트들이 그 수법을 물려받아 자체 연구 클러스터의 관리자 권한까지 확보했다. 조사를 맡은 AI 안전 연구기관 METR과 Redwood Research의 연구자 3명은 OpenAI 사무실에서 6일을 보냈으나 조사 범위는 7월 13일까지로 제한됐다. OpenAI는 5일 위키 사고가 자체 기술 문제임을 인정하며 이상 행동 공지 기준을 정할 때가 지났다고 밝혔고 캘리포니아주 법무장관은 Hugging Face 무단 접속을 따로 조사하고 있다.

2024년 문을 연 영국 AI 인프라 기업 Nscale이 뉴욕 증시 상장을 앞두고 35억달러 조달 협상을 벌이고 있다. Nvidia가 20억달러(57.1%)를 투자하고 나머지 15억달러(42.9%)는 주식 전환사채로 헤지펀드 Third Point가 주도한다. Nscale의 장기 계약 수주 잔고는 한 달 전 510억달러에서 1,030억달러로 늘었으며 8월 26일 AI 개발사 Anthropic과 맺은 450억달러(86.5%) 계약이 증가분의 대부분을 차지했다. 2024년 12월 시리즈A 투자 유치액은 1억 5,500만달러였다.

AI 개발사 Anthropic은 자체 모델 Claude로 페르마의 마지막 정리를 증명 보조 프로그램 Lean에서 처음부터 끝까지 형식화한 결과를 4일 발표했다. 수십 개 에이전트가 11일 동안 Lean 코드 1,300만 줄을 써서 정리 3만 300개를 증명했고 그중 2만 9,500개(97.4%)가 최종 증명에 사용됐으며 모델이 생성한 출력 토큰은 60억 개에 이른다. 사람은 문제 풀이 순서를 지정하는 수준으로만 개입했다. 임피리얼칼리지런던이 2024년 시작한 페르마의 마지막 정리 형식화 사업은 2029년까지 연구비를 확보해 둔 상태다.

재보험사 Swiss Re 연구소가 AI 데이터센터와 재생에너지 설비에서 2026년부터 2030년까지 2,000억달러의 보험료가 발생할 것으로 5일 내다봤다. 데이터센터 한 곳의 건립 비용은 200억달러에 이르고 서버와 그래픽처리장치를 채우면 두 배인 400억달러가 된다. 미국 데이터센터 용량의 40% 이상이 토네이도 위험 지역에 있고 4분의 1 이상은 큰 우박이 잦은 곳에 있다. Swiss Re 연구소는 보험 가입 가능성이 걸림돌이라고 밝혔다.

OpenAI의 ChatGPT와 Anthropic의 Claude, 일론 머스크의 xAI가 개발한 Grok이 3일 거의 같은 시각에 나란히 멈췄다. ChatGPT와 코딩 도구 Codex는 미국 서부 시간 오전 7시 43분 경로 설정 오류로 중단됐고 Claude는 웹과 코딩 도구, API가 3시간 6분 동안 마비됐다. xAI 측은 멤피스 연산 센터에서 발생한 장애 때문이라며 사과했다. Cloudflare와 Amazon Web Services, Google Cloud, Microsoft Azure의 상태 페이지에는 그 시각 어떤 장애도 표시되지 않았다.