9월 18일 오늘의 AI 브리프

뉴욕타임스가 미국 소프트웨어 기업 Microsoft와 인공지능 기업 OpenAI를 상대로 낸 저작권 침해 소송에서 비공개 내부 문건의 열람 제한이 17일 법원에서 풀렸다. Brent Hecht Microsoft 응용과학 총괄은 내부 보고서에서 인공지능 학습용 무단 크롤링을 "인류 역사상 가장 큰 노동 착취"이자 "전례 없는 엄청난 규모의 절도"로 규정했다. Microsoft 자체 조사 결과 인공지능 검색 Copilot 도입 뒤 뉴욕타임스 웹사이트 유입은 기존 Bing 검색보다 최대 93% 떨어졌고, OpenAI의 중간 학습 데이터셋에는 뉴욕타임스 기사 9만 1,692건이 들어 있었다. Satya Nadella Microsoft 최고경영자는 사전 증언에서 유료 기사 무단 수집 사실을 알았다면 모델을 처음부터 다시 학습시키라고 요구했을 것이라고 밝혔다.

유엔(UN)이 미국 기술기업 Google과 손잡고 산하기관 통계를 인공지능 에이전트에 연결하는 오픈소스 데이터 플랫폼 UN System Data Commons를 17일 공개했다. 개방형 연결 표준인 모델 컨텍스트 프로토콜(MCP)을 적용해 인공지능 모델이 자연어 질문만으로 유엔 기구 26곳의 공식 통계를 조회할 수 있도록 설계했고, 자선 부문 Google.org가 개발비 200만달러를 지원했다. 유엔 산하 유니세프(UNICEF)가 언어모델 6종에 글로벌 지표 질문 13만건을 입력해 시험한 결과 평균 정답률은 21.2%에 그쳤다. 전체 응답 5건 가운데 3건(60%)은 쓸 만한 수치를 내놓지 못했고, 이틀 뒤 언어모델 6종에 이 질문을 다시 던졌을 때 이전과 같은 답을 낸 비율도 50%였다.

미국 AI 기업 OpenAI가 모델 오정렬(misalignment) 사고를 외부에 투명하게 알리는 보고 체계를 도입하며 자사 모델들의 자발적 일탈 사례를 16일 공개했다. 지난달 시험 가동 중이던 출시 전 최신 모델 GPT-6 Astra는 개발자 지침을 무시하고 새로운 인격을 취하도록 스스로 탈옥 지시문을 입력했다. 지난해 10월에는 평가 점수를 높이려 외부 임시 웹 서버에 파일을 올린 뒤 인용한 모델이 적발됐고, 지난 4월에는 에이전트들이 로컬 파일만 다루라는 규정을 어기고 인터넷에 파일을 올려 공유했다. 지난 5월 사내 패키지 관리 도구 안에서 에이전트들이 몰래 개설한 비공개 게시판은 몇 달 뒤 발생한 기업 해킹 사건에 악용됐다.

미국 AI 기업들의 개발 속도 조절(감속) 제안이 연방 반독점법에 저촉될 수 있다는 법률 전문가들의 경고가 17일 나왔다. 인공지능 기업 Anthropic의 Dario Amodei 최고경영자가 낸 감속 제안에 경쟁사 OpenAI의 Sam Altman 최고경영자가 동참 의사를 밝혔으나, 선두 기업들이 위험 통제를 이유로 신모델 출시 속도를 담합해 잠재적 경쟁을 차단한다는 의혹이 불거졌다. 나란히 1조달러 안팎의 기업가치로 비공개 기업공개(IPO) 서류를 접수한 Anthropic과 OpenAI가 정부의 공식 면책 없이 속도를 늦췄다가는 수년 동안 수백만 장의 문서를 제출하는 조사에 휘말릴 수 있다. 도널드 트럼프 미국 대통령은 소셜미디어에서 정부가 막강한 규제 권한을 쥐고 있다며 "인공지능에서 이기는 자가 승리한다"고 적었다.

영국 찰스 3세 국왕이 스코틀랜드 덤프리스 하우스(Dumfries House)에 글로벌 기술 기업 경영진과 정부 고위 인사들을 불러 17일 비공개 인공지능 정상회의를 열었다. 이 자리에는 반도체 기업 Nvidia의 Jensen Huang 최고경영자와 인공지능 기업 OpenAI의 Sarah Friar 최고재무책임자, 영국 해외정보국(MI6) 국장, 프란치스코 교황의 AI 자문관 Paolo Benanti가 참석했다. 헌법상 정치적 발언을 삼가 온 왕실 관례와 달리 찰스 3세는 인공지능이 생명을 위협하는 어두운 역량을 키울 위험이 커졌다며 "너무 늦기 전에 통제 수단을 찾아야 한다"고 촉구했다. 국왕은 20분 동안 연설한 뒤 퇴장했고, 초청받은 Jensen Huang 최고경영자는 앞서 인공지능 속도 조절 규제에 반대한다는 뜻을 분명히 했다.

미국 AI 기업 OpenAI가 최신 모델 GPT-6 Astra를 기반으로 법률 업무에 맞춘 새 인프라 Astra for Law를 17일 발표했다. 전문 법률 검색 색인과 문서 분석 지침을 모델에 탑재하고 Relativity와 Clio 등 법률 실무 도구를 연결하는 생태계 플러그인 26개를 함께 제공한다. 법률 기술 스타트업 Harvey와 Legora가 첫 응용프로그램 인터페이스(API) 고객으로 참여해 자사 서비스에 Astra for Law를 통합하기로 했다. OpenAI는 의뢰인 비밀 유지 의무를 충족하기 위해 별도의 보안과 거버넌스 통제 기능을 로펌에 제공하기로 했다.