10월 12일 오늘의 AI 브리프

Satya Nadella Microsoft 최고경영자(CEO)가 인공지능 모델을 통제할 수 없는 상황을 막기 위한 비상 브레이크 도입을 요구했다. 소셜미디어 X에 올린 글에서 그는 모델을 실행 체계와 분리해 안전장치를 모델 밖에 두고 주요 행위를 모두 사람이 읽을 수 있는 위변조 방지 기록으로 남겨야 한다고 제안했다. 그는 관리자가 작업 도중 모델을 강제로 멈출 수 있어야 하며 모델이 처음부터 침해됐다는 전제로 시스템을 설계해야 한다고 요구했다.

Amazon이 사용자를 대신해 상품을 검색하고 구매하려 한 Meta의 인공지능 에이전트 Muse의 접속을 이용약관 위반을 이유로 차단했다. Amazon은 Meta가 접속에 대한 사전 승인을 받지 않았고 Muse가 자신이 인공지능이라는 사실을 명확히 알리지 않았다고 주장했다. Amazon은 개인정보와 계정 보안 문제도 차단 사유로 들었다. Meta는 Walmart, Shopify, Stripe와 손잡고 개인 에이전트가 기업 서비스에 접속할 때 사용자 신원과 사용자가 부여한 권한을 확인하는 공통 상거래 표준을 마련하기로 합의했다. Google이 인도에서 Gemini 화면 안의 즉시 결제를 시험하는 사이 한국의 네이버는 외부 에이전트의 접근을 제한하고, 쿠팡은 외부 인공지능의 자사 앱 결제를 막았다.

인공지능 에이전트가 고금리 상품을 찾아 예금 이동을 지원하면 미국 은행권의 추가 이자비용이 연간 790억달러에 달할 수 있다는 로이터 분석이 나왔다. 미국 은행 500여 곳의 저축예금 3조 8,000억달러가 연 4% 금리를 찾아 이동하는 상황을 가정한 결과다. 분석에 따르면 32개 은행은 추가 이자비용이 순이익 전체에 해당할 수 있다. 입출금 계좌에서도 최소 잔액을 제외한 돈이 연 4% 상품으로 이동하면 최대 78개 은행이 적자로 전환할 수 있다고 추산했다.

인공지능 기업의 의뢰를 받은 것으로 추정되는 미국 도서 유통사가 국내 중고서점과 유통업체를 접촉해 성인용 비문학 헌책을 컨테이너 단위로 정기 매입하겠다고 제안한 사실이 확인됐다. 해당 업체는 5만에서 8만 권이 들어가는 컨테이너 단위로 아동서와 만화를 뺀 학술·전문서를 도서 종당 한 권씩 사들이겠다는 조건을 내걸었다. 업체가 밝힌 구매 이유는 미국 내 한국어 도서 수요 증가다. 전문가들은 인공지능이 생성한 글을 무분별하게 다시 학습하면 모델에 결함이 생기는 모델 붕괴 위험을 배경으로, 과거 사람이 쓴 책의 학습 자료 가치가 커졌다고 설명한다. 앞서 미국 재판에서는 Anthropic이 책 50만 권 이상을 사들여 스캔하는 과정에서 종이책 원본을 폐기하고, 디지털 도서 중 일부를 선별해 모델 학습에 사용한 사실이 드러난 바 있다.

국내 금융권 해킹 공격에 활용된 것으로 지목된 중국산 인공지능 에이전트 ARTEX의 개발자 Autumn-27이 오픈소스 플랫폼 GitHub에서 공개 개발을 중단하고 비공개로 전환하겠다고 밝혔다. 금융보안원은 공격자가 DeepSeek 기반 인공지능 에이전트에 지시를 내려 금융회사 웹 서버를 스캔하고 원격 명령 실행 취약점을 통해 웹 셸을 심은 사례를 지난달 처음 확인했다. 개발자는 악의적인 오용에 대해서는 책임을 지지 않는다고 밝혔다. 하지만 기존 소스코드를 복제한 저장소는 여전히 외부에 공개돼 있다.

반도체 공장과 인공지능 데이터센터 증설로 정부의 2040년 최대 전력 수요 전망치가 넉 달 만에 최대 26.8GW 상향 조정됐다. 전력 수요 전망치의 상향 조정분은 대형 원전 19기가 넘는 규모다. 삼성과 현대자동차그룹 등은 직접 발전 사업 진출을 검토하는 것으로 알려졌다. 삼성전자 등 6개 계열사는 미국 인공지능 인프라 기업 Helix Digital Infrastructure에 10억달러를 투자했다. 포스코는 수소환원제철에 필요한 전력을 조달하기 위해 원전 투자를 검토하고 소형모듈원자로(SMR) 전력 직거래 제도 도입을 요구하고 있다. Alphabet과 Meta가 대규모 원전 전력구매계약을 맺은 가운데 국내 기업들은 원전 전력 직거래를 막는 규제 완화를 요구했다.