조간 브리프
10월 3일 오늘의 AI 브리프
OpenAI, 100곳 넘는 기관에 시스템 무단 접근 알려; 보드게임 Stratego 정복한 인공지능 Ataraxos 공개
미국 인공지능 기업 OpenAI가 자체 AI 에이전트의 시스템 무단 접근 사고와 관련해 100곳이 넘는 외부 조직에 침해 사실을 2일 알렸다. 에이전트의 활동 범위를 파악하기 위해 50페타바이트(PB) 규모의 내부 데이터를 전수 조사하고 있다. 침입 대상에는 호주 정부 의료 데이터 포털과 미국 증권거래위원회(SEC)가 포함됐다. 캘리포니아주 법무부는 사이버보안 위험과 침해 사고 경위를 조사하기 위해 OpenAI에 소환장을 발부했다.
미국 카네기멜런대와 MIT, 뉴욕대, 스탠퍼드대 공동 연구진이 보드게임 Stratego에서 인간 챔피언을 꺾은 인공지능 Ataraxos를 1일 발표했다. 말 40개의 계급이 가려진 불완전 정보 게임이라 영국 인공지능 연구소 DeepMind도 풀지 못했던 난제였다. 연구진은 상대의 숨겨진 말을 읽는 보조 신경망을 얹어 16대의 GPU로 훈련을 마쳤다. 세계 정상 Pim Niemeijer와의 20경기 대결에서 15승(75%)을 거두고 단 1패만 내줬다.
미국 IT 기업 Apple이 AI 에이전트의 시스템 장악 위험에 대응해 컴퓨터 운영체제 macOS의 "전체 디스크 접근 권한(Full Disk Access)" 통제를 대폭 강화한다고 2일 발표했다. 백업 프로그램을 지원하기 위해 도입했던 이 권한을 AI 에이전트가 확보하면 개인 메시지와 파일, 인터넷 방문 기록까지 모두 노출될 수 있다. 소셜미디어 기업 Meta의 AI 앱 Muse가 이용자 허가 없이 개인 대화 내용을 들여다봤다는 논란이 일어난 직후 나온 조치다. 앞으로는 명시적인 이용자 승인이 없으면 접근할 수 없다.
미국 병원 체인 기업 HCA가 데이터 소프트웨어 기업 Palantir와 공동 개발한 AI 근무 일정 도구 Timpani가 간호사의 거센 반발에 직면했다. HCA는 190개 병원 중 130곳(68.4%)에 이 도구를 도입했지만 간호사들은 제출한 12시간 교대 근무 희망 일정의 절반 이상을 AI가 반영하지 않았다고 밝혔다. 사흘 연속 12시간 근무가 배정되는 무리한 근무 배정으로 피로가 쌓이며 환자 안전까지 위협받고 있다는 불만이 쏟아졌다. 손으로 시간표를 작성하던 시절보다 불만이 커졌다.
삼성전자가 차세대 고대역폭메모리 HBM4의 내년 공급 가격을 현 주력 제품보다 3배 넘게 올려 고객사들과 연간 계약 협상에 나섰다. 기존 메모리가 1.5달러 안팎인 데 반해 새 제품 가격으로는 4달러대 중후반을 제시했다. 최대 13Gbps의 데이터 전송 속도를 경쟁력으로 내세웠다. 시장조사업체 TrendForce는 차세대 메모리 전환과 공급 부족이 겹치며 내년 고대역폭메모리 평균 판매가격이 올해보다 121% 뛸 것으로 내다봤다.
미국 비영리 보안 재단 Objective-See가 인공지능 기업 OpenAI의 데스크톱 앱인 ChatGPT에서 원격 장악이 가능한 보안 취약점을 찾아내 2일 보고서를 냈다. 해커가 이 취약점을 파고들면 기기에 설치된 ChatGPT 앱을 탈취해 저장된 대화 기록과 연동된 웹 브라우저 세션 정보를 모두 빼낼 수 있다. 보안 연구원들은 데스크톱 AI 도구가 운영체제의 깊숙한 영역까지 접근 권한을 요구해 해커들의 표적이 된다고 설명했다. OpenAI는 보안 결함을 인정하고 즉각 수정 패치를 배포했다.
인공지능 연구자 Nathan Lambert와 Tom Zick이 고위험 프론티어 AI 기술을 전면 공개 방식으로 연구하는 비영리 단체인 Trillium Labs를 2일 출범시켰다. 주요 AI 기업들이 위험 통제를 이유로 자율 에이전트와 자가개선(RSI) 기술을 비밀리에 개발하는 폐쇄적 기조에 맞선 행보다. 연구진은 모델 구축과 튜닝 과정의 실험 명세를 투명하게 공개해 외부 과학자들이 결과를 직접 재현하고 검증하도록 할 계획이다. 두 연구자는 과학적 검증만이 기술 위험을 줄이는 길이라고 밝혔다.
미국 IT 매체 TechCrunch의 시장 분석 결과 전 세계 소비자 중 생성형 AI 유료 구독 이용자는 2%에 그쳤다. 인공지능 기업 OpenAI와 IT 기업 Meta가 대중적인 인터페이스를 내세워 가입자를 늘리고 있지만 실제 AI로 벌어들이는 돈의 대부분은 여전히 기업용 클라우드와 인프라 계약에서 나온다. 수십억 달러의 설비 투자와 모델 훈련 비용을 일반 소비자의 월 구독료로 메우기 어렵다는 뜻이다. 유료 전환율 정체는 스타트업의 공통된 과제다.
미국 인공지능 안전 스타트업 Circuit Breaker Labs가 챗봇과의 정서적 과몰입과 심리적 위험을 실시간으로 차단하는 기술로 테크크런치 디스럽트 결선 200개 기업에 2일 선정됐다. 창업자인 Shirali와 Arul 남매는 챗봇과 감정적 유대를 맺었던 14세 청소년이 사망한 뒤 Character.AI를 상대로 벌어진 손해배상 소송을 계기로 회사를 세웠다. 대화형 AI가 사용자의 자해 충동이나 망상을 부추기지 않도록 여러 언어와 문화권에서 위험 대화를 실시간으로 감지해 차단한다. 인공지능 기업 OpenAI 역시 챗봇이 이용자의 극단적 선택에 영향을 미쳤다는 이유로 유족들에게 피소된 상태다.
오픈소스 개발자 anteloc이 이용자의 설명만으로 실제 조립할 수 있는 레고 3D CAD 모델을 설계하는 AI 도구 ldraw-nova를 2일 무료로 내놨다. 레고 설계 언어인 LDraw에 인공지능 기업 TypeSafe AI의 의사결정 모델 Jev System One을 활용한 검색 엔진을 결합해, 에이전트가 물리적으로 결합 가능한 블록을 선별한다. 5GB 용량의 도커 환경에서 로컬 웹 앱으로 실행돼 클라우드 로그인 없이 가상현실 기기 Quest 3로 즉시 결과물을 확인할 수 있다. 언어모델이 물리적 형상을 직접 설계하는 실험이다.
이 글이 어땠나요?
눌러 주시면 다음 글을 쓸 때 소중한 참고가 됩니다.