10월 4일 오늘의 AI 브리프

도널드 트럼프 미국 대통령이 정부 공식 문서에서 "인공지능(AI)"이라는 용어 사용을 금지하고 "초지능(Super Intelligence)"으로 고쳐 쓰도록 하는 행정명령에 서명했다. 백악관 오찬에 참석한 반도체 기업 Nvidia의 Jensen Huang, IT 기업 Meta의 Mark Zuckerberg, 인공지능 기업 OpenAI의 Greg Brockman 등 기술 기업 수장들은 이의를 제기하지 않았다. 오찬 직후 70년 동안 학계와 산업계가 써온 공식 학명이 바뀌었다. 트럼프 대통령은 인공이라는 말이 기술을 가짜처럼 보이게 한다는 이유로 인공지능을 가짜 단어라고 비판했다.

인공지능 기업 OpenAI에서 3년 6개월간 주요 제품 출시 안전 보고서 작성을 총괄해온 David Robinson이 회사의 안전 문화가 무너졌다고 비판하며 사퇴했다. 그는 월간 The Atlantic 기고문에서 회사가 시제품을 먼저 내놓고 문제를 수습하는 방식을 고집해 시스템 통제 실패 위험을 키우고 있다고 지적했다. 이 과정에서 원자력 발전소나 공항처럼 결함을 용납하지 않는 다중 안전 설계를 다뤄본 인력이 연구진 가운데 전무하다는 사실도 밝혔다. OpenAI는 이에 대해 외부 평가를 늘리고 모델 훈련 모니터링을 강화하고 있다고 반박했다.

클라우드 컴퓨팅 기업 Amazon Web Services(AWS)를 이끄는 Matt Garman 최고경영자가 신규 데이터센터 인허가 과정에서 정부 기관과 비밀유지계약(NDA)을 맺는 관행을 중단하겠다고 3일 밝혔다. 데이터센터의 전력 소모를 둘러싼 밀실 추진 논란이 커지자 뉴욕주가 대형 시설 인허가를 1년간 유예했고 미국 전역에서 100건 넘는 규제안이 발의됐다. 텍사스에 계획된 데이터센터 한 곳의 연간 탄소 배출 한도만 3,300만 톤으로 미국 내 발전소 배출량을 넘어선다. 그는 비상 발전기가 한 해 10시간 남짓 가동될 뿐이라며 지난 3년간 지역사회에 10억달러 넘게 지원했다고 덧붙였다.

파일 공유 서비스 Napster를 세웠던 Sean Parker가 이미지 생성 인공지능 기업 Stability AI를 음악 전문 제작사로 재편해 시장에 복귀했다. 경영난에 몰렸던 Stability AI는 음반사 Sony, Warner, Universal로부터 7,600만달러 투자를 유치하고 학습용 음원 라이선스를 확보했다. 투자 유치와 함께 글 입력으로 연주곡 전체를 만드는 오디오 모델 3종과 편집 도구를 공개했다. 이용자의 콧노래를 악기 연주로 바꾸는 기능도 다음 업데이트에 들어간다.

소셜미디어 기업 Meta가 출시한 개인 비서 AI 에이전트 Muse의 내부 운영 지침과 시스템 프롬프트가 보안 연구원들에게 3일 유출됐다. 유출된 지침에 따르면 Muse는 이용자의 금융 계좌와 건강 정보뿐 아니라 대화에 나오는 가족과 친구들의 상세 프로필까지 분류해 보관하고 있었다. 일반 채팅 창에 넣은 우회 명령 한 줄에 내부 지침 수백 줄이 그대로 쏟아져 나왔다. Meta는 시스템 투명성을 위해 의도적으로 접근 가능하게 열어둔 파일이라고 해명했다.

독일 인공지능 기업 Aleph Alpha가 독일 통일의 날을 맞아 유럽의 기술 주권을 내세운 언어모델 Kolibri를 3일 발표했다. Kolibri는 전체 780억 개 매개변수 가운데 추론에는 30억 개(3.8%)만 쓰는 전문가 혼합(MoE) 구조다. 한 번에 처리할 수 있는 문맥 길이를 100만 토큰으로 넓히고 가중치 전량을 아파치 2.0 라이선스로 공개했다. 하드웨어 장애가 나도 사람이 개입하지 않는 무인 파이프라인으로 사전 훈련을 마쳤다.