9월 2일 오늘의 AI 브리프

OpenAI가 출시를 앞둔 AI 모델 Astra의 사이버 능력이 자사 안전 기준의 "심각(critical)" 단계에 이른 첫 모델이라고 1일 밝혔다. 이 단계는 사람의 도움 없이도 실제 소프트웨어에서 알려지지 않은 취약점을 스스로 찾아내 공격까지 해내는 수준을 말한다. 회사는 Astra의 공개 버전을 곧 선보이되 고급 사이버 기능은 조기 접근 프로그램 Daybreak Blue에 참여한 일부 협력사에만 열겠다고 밝혔다. 안전 기준에 도달하면 안전장치를 갖출 때까지 개발을 멈추는 절차에 따라 OpenAI는 몇 주 동안 학습 작업 일부를 중단했다가 재개했다.

AI 개발사 Anthropic이 Claude Fable 5.1과, 이 모델의 안전장치를 완화한 자매 모델 Mythos 5.1을 1일 공개했다. Mythos 5.1은 사이버 보안과 생명과학 연구를 진행하는 승인 고객에게만 열린다. 회사는 이미 처리해 저장해 둔 입력을 다시 읽는 캐시 읽기 비용을 75% 내렸고, 일반적인 작업에서 Fable 5보다 드는 비용은 25%가량 줄어든다고 밝혔다. Mythos 5.1은 표적 12개에 결합하는 단백질을 설계하는 시험에서 성공률 50% 가까이를 기록했는데, 이 분야의 통상적인 성공률은 10~15%다.

OpenAI가 ChatGPT Health를 전자의무기록 시스템 Epic과 연동해 의료진이 환자 자료를 불러와 질문하고 요약할 수 있게 했다고 1일 밝혔다. Epic에는 환자 3억 2,500만 명의 기록이 담겨 있고, 연동은 읽기 전용이어서 AI가 기록에 직접 내용을 써넣지는 못한다. 임상시험 등록부 ClinicalTrials.gov와 논문 데이터베이스 PubMed에서 정보를 끌어오는 의료 공공데이터 플러그인도 함께 탑재됐다. 7월 미국 전역에 도입된 ChatGPT Health로 건강 관련 질문이 주당 3억 건씩 쏟아지는 가운데, OpenAI는 잘못된 의료 조언을 문제 삼은 소송을 여러 건 받고 있다.

Google이 이미지를 생성하고 편집하는 도구 Google Pics를 1일 선보였다. 자사 이미지 생성 모델 Nano Banana를 기반으로 작동하며 몇 주에 걸쳐 업무용 Workspace 고객과 Google AI Pro·Ultra 구독자에게 순차 제공되고, Docs와 Slides에서 먼저 쓸 수 있다. 포스터와 소셜미디어 게시물처럼, 만들어 둔 템플릿을 골라 쓰는 디자인 도구 Canva와 Adobe Express가 맡아 온 일감을 겨냥한다. Canva에서는 디자이너와 사진작가가 템플릿을 올려 사용료를 받지만, Google Pics는 그런 작품들로 학습한 모델에 명령어로 지시해 제작한다.

AI 에이전트가 끌어다 쓰는 기능과 확장 도구를 대신 검사해 주는 이스라엘 보안 스타트업 AIR가 5,000만달러 투자를 유치하며 1일 공식 출범했다. 시드 투자가 몇 주 간격으로 두 차례 이어졌고 1,000만달러(20%)는 벤처캐피털 Sequoia Capital이, 4,000만달러(80%)는 Greenoaks가 이끌었다. 이스라엘 8200부대에서 공격 보안을 담당하던 두 사람이 창업한 회사로 직원은 40명, 고객사는 20곳을 넘는다. AIR는 인터넷에 유통되는 에이전트 기능 가운데 27%를 걸러 낸다고 밝혔다.

소프트웨어 엔지니어 한 사람이 AI 회의론자로 널리 인용되는 뉴스레터 필자 Ed Zitron의 예측 30건 가까이를 실제 결과와 대조한 글을 1일 게재했다. Zitron이 2024년 11월 몰락하고 있다고 쓴 Meta는 매출이 2023년 1,350억달러에서 2025년 2,010억달러로 늘었고 순이익은 470억달러에서 830억달러가 됐다. 2025년 2월에는 Gemini 이용자 5억 명 목표를 내건 Google의 순다르 피차이 최고경영자가 물러나야 한다고 썼는데, Gemini 이용자는 그 뒤 7억 5,000만 명이 됐다. 작성자는 대조한 예측 가운데 맞은 것이 하나도 없다는 결론을 내렸다.