10월 29일 오늘의 AI 브리프

Google이 차세대 프론티어 인공지능 모델 Gemini 4 Carbon을 공개했다. 사이버보안 방어 능력을 강조한 이 모델은 외부 종합 평가 지표인 Artificial Analysis 5.0에서 59점으로 1위에 올랐다. 보안 성능 평가에서는 취약점 탐지 88.2%, 결함 패치 71.0%의 성공률을 기록했다. 모델 사용료는 100만 토큰당 입력 2달러, 출력 10달러이며 모델은 보안 전문가에게 우선 제공된다.

Anthropic이 코딩 도구 흥행으로 2분기 흑자를 달성하며 기업용 투자수익률 분석 도구를 내놓았다. 기존 고객의 지출 유지율이 900%에 달하자 작업 성과와 토큰 비용을 한눈에 대조하는 관리 체계를 세웠다. 개발자 도구 기업 Jellyfish에 따르면 고객이 제출한 검토 코드의 3분의 1 가까이가 이 회사 도구 기반이었다. 관련 지출은 연초보다 10배 늘었다.

영국 민사수석법관 Geoffrey Vos가 퇴임을 앞두고 민사 분쟁 판결에 인공지능을 도입하자고 촉구했다. 복잡한 소송은 사람이 맡되 소액 분쟁이나 신체 상해 사건은 기계가 판결해 사법 비용을 줄이자는 구상이다. Vos는 인공지능의 보조를 받는 중국 선전시 법원을 모범 사례로 제시했으나 실제 법원 현장의 위험은 해소되지 않았다. 허위 소송이 법원에 쏟아지고 있다.

미국 대형 출판사 Macmillan이 사내에 배치했던 인공지능 업무 비서 NOA를 전격 폐기했다. 풍선과 도넛으로 환영식을 열고 이메일 작성과 원고 요약, 인사 평가 목표 수립에 쓰도록 독려했던 도구다. 하지만 인간 조수를 무시하는 작명이라며 직원들이 반발했고 환각 오류로 투고작 평가도 엉망이 됐다. 도입 1년 9개월 만의 퇴장이다.

미국 앨라배마주의 재난관리관이 인공지능 챗봇으로 허리케인 경보 그래픽을 제작했다가 항의를 받았다. 3등급 허리케인 Isaias 상륙 당시 배포된 지도에 실제 관측과 다른 강풍 구역이 표시됐기 때문이다. 앨라배마대학교 연구진은 재난 부서 대부분이 챗봇 사용을 공식적으로 금지하면서도 인력 부족으로 챗봇에 의존한다고 지적했다. 경보 오발령은 참사로 이어질 수 있다.

보안 기업 Wiz의 Tomer Schwartz 최고기술책임자가 오래된 인터넷 코드의 보안 체계가 무너질 위험을 경고했다. 전 세계 웹사이트 70%가 사용하는 PHP에서 치명적 결함이 잇따라 발견되면서 주요 기관이 사이트를 폐쇄하고 긴급 보수에 착수했다. 인공지능이 노후 소프트웨어의 취약점을 탐지하는 속도가 빨라져 사람이 수작업으로 대응하기 어려운 상황이다. 수동 패치만으로는 더 이상 대응하기 어렵다.