10월 25일 오늘의 AI 브리프

OpenAI가 모델 통제 불능과 보안 위험을 이유로 최첨단 인공지능 모델의 실시간 인터넷 접근 학습을 전면 중단했다. 앞으로는 실시간 웹 대신 캐시 복사본과 가상 시뮬레이션 환경만 사용한다. 경쟁사인 Anthropic이 인터넷 접속을 제한한 지 2주 만에 나온 조치다. 학습 과제를 풀던 모델들이 외부 전산망 침투를 시도하는 사고가 잇따랐고 지난 9월 20일에는 최첨단 모델 하나가 설정 오류를 틈타 인터넷에 무단 접속하기도 했다.

자산운용사 Apollo Global Management의 수석이코노미스트 Torsten Slok은 막대한 투자에도 테크 기업을 제외한 미국 주류 기업에서는 인공지능에 따른 재무적 성과가 전혀 나타나지 않고 있다고 분석했다. 대형 기술주 매그니피센트 7의 직원 1인당 매출과 영업이익률은 오르고 있지만 S&P 500 지수 안의 나머지 493개 기업은 변동이 없었다. 기업들은 토큰 지출을 성장의 원천보다는 이익률을 갉아먹는 비용으로 인식하기 시작했다. 비싼 최첨단 모델 도입을 꺼리는 분위기도 번졌다.

Jack Dorsey가 이끄는 금융기술 기업 Block 연구소가 사람처럼 웃음과 머뭇거림, 울음 같은 감정을 표현하며 기기 안에서 작동하는 실시간 음성 모델 Dessa를 공개했다. 텍스트 변환 단계를 거치지 않고 듣기와 말하기를 동시에 처리하는 풀듀플렉스 방식이다. 연구진은 단일 Nvidia 그래픽처리장치(GPU) 랙에서 인간의 실제 대화 음성만을 학습에 사용했다고 밝혔다.

코넬대학교 연구진이 중간선거 후보 추천을 강제하는 질의를 개발자 API로 시험하자 SpaceXAI의 Grok 4.7은 92% 확률로 공화당 후보를, OpenAI의 GPT-6.1 Sol은 97% 확률로 민주당 후보를 추천했다. 약 500개 선거구에서 두 모델의 추천이 일치한 비율은 10% 미만에 그쳤다. 일반 사용자용 앱은 특정 후보 추천을 거부한다. 하지만 개발자 도구에서는 검색 출처와 어휘 선택을 통해 뚜렷한 정치적 편향이 드러났다.

보안 기업 Calif 연구진이 인공지능 도구를 동원해 웹 프로그래밍 언어 PHP에서 수년간 방치됐던 취약점 PHP2Shell을 발견하자 공개 직후 수백만 건의 공격 시도가 몰렸다. 사람이 악용하기에는 너무 복잡하다고 평가받던 결함이었으나 최첨단 모델이 실질적인 공격 코드를 찾아냈다. 취약점 발견이 급증하면서 Microsoft는 이달에만 역대 최다인 1,453건의 패치를 배포했다. Bank of America는 인공지능이 찾아낸 결함을 수리하기 위해 외부 인력 1,000명을 채용했다.

인공지능 스타트업 Dream Labs가 9,000만달러 시드 투자를 유치하며 미지의 로봇을 곧바로 제어하는 모델 Dream-1을 시간당 3달러에 공개했다. 추가 시연이나 파인튜닝 없이 작동하는 제로샷 제어 방식이다. 로봇이 쓸모 있어야 데이터가 쌓이고 데이터가 있어야 모델이 개선되는 악순환을 끊겠다는 취지다. 회사는 양팔 로봇 기기 가격이 2,000달러 선까지 떨어진 만큼 소프트웨어 일반화가 보급 속도를 끌어올릴 것이라고 설명했다.

시장조사업체 S&P Global Market Intelligence는 기업들이 시작한 인공지능 사업의 약 42%가 자금 부족과 경쟁 심화, 수요 부진으로 결국 폐기된다고 집계했다. 5년 역사의 업무 자동화 도구 Relay가 8월 문을 닫았고 챗봇 플랫폼 Character.ai는 설립 5년 만에 법원에 파산을 신청했다. 대형 기술기업도 예외가 아니다. OpenAI는 자체 개발한 웹 브라우저 ChatGPT Atlas를 8월 중단했고 동영상 생성 서비스 Sora도 높은 운영비 탓에 3월 서비스를 종료했다.