조간 브리프
9월 11일 오늘의 AI 브리프
Cognition, 코딩 모델 SWE-2 출시; 샌프란시스코, Meta에 AI 성착취물 광고 중단 권고
소프트웨어 개발용 인공지능 에이전트를 만드는 미국 스타트업 Cognition이 차세대 코딩 모델 SWE-2를 선보였다. 2조 8,000억 개 매개변수를 갖춘 오픈소스 언어 모델 Kimi K3를 기반으로 삼아 모든 난도의 추론을 단일 세션에서 훈련하는 강화학습 기법을 적용했다. 코딩 벤치마크 FrontierCode에서 50.0%를 기록해 선두 모델과의 격차를 1%포인트 안으로 좁히고 연산 비용은 64% 줄였다. 미국 AI 기업 OpenAI의 최상위 언어 모델 GPT-6 Astra와 비교해도 뒤지지 않는 성능을 내면서 구동 비용은 4분의 1로 낮췄다.
미국 샌프란시스코 검찰청이 소셜미디어 기업 Meta에 인공지능으로 제작된 아동 성착취물 유료 광고 게시를 즉각 중단하라는 명령 서한을 보냈다. 비영리 기술 감시 단체 Tech Transparency Project의 조사에서 Meta는 미성년자 사진을 음란 영상으로 합성해 불법 생성 앱 설치를 유도하는 광고를 최근 수개월 동안 350건 넘게 승인했다. 유럽 왕실 미성년자의 얼굴까지 무단 도용한 광고들은 Facebook, Instagram, Threads를 통해 미국, 유럽연합(EU), 호주 등에서 2만 9,000개 넘는 계정에 노출됐다. 샌프란시스코 검찰청은 같은 성착취 광고가 수차례 다시 등록된 경위와 자동 검수 실패에 대한 소명 자료를 14일 안에 제출하라고 요구했다.
안면인식 기술 기업 Clearview AI가 경찰 수사관을 위해 피의자의 인터넷 활동 기록을 추적해 신원 프로필을 자동 작성하는 인공지능 도구 InquiryIQ를 개발해 시험 운용에 들어갔다. 이름이나 사진을 입력하면 소셜미디어와 공개 웹사이트를 뒤져 고용주와 주변 지인, 사용하는 가명, 신체적 특징까지 하나의 보고서로 정리해 준다. 검색과 추적을 지휘하는 핵심 추론 엔진으로는 일론 머스크가 설립한 SpaceXAI의 대형 언어 모델 Grok을 시험 도입했다. 인터넷에서 30억 장 넘는 얼굴 사진을 무단 수집해 각국 규제 당국의 제재를 받았던 Clearview AI는 텍스트와 인간관계 추적으로 감시 영역을 넓혔다.
인공지능 에이전트가 민원 서식 작성과 소송 접수를 대행하면서 각국 공공기관에 접수 건수가 폭증하는 에이전트 범람 현상이 나타났다. 독일 연구팀이 각국 행정 데이터를 분석한 결과 영국 주택 옴부즈만에 접수된 민원은 2022년 2,600건에서 지난해 7,000건을 넘어서며 급증했다. 미국 소비자금융보호국(CFPB)에 접수된 금융 민원 건수도 2022년 이후 5배로 늘었고 브라질 법원 청원과 독일 의회 청원 건수도 나란히 사상 최대치를 갈아치웠다. 비용 때문에 소송과 권리 구제를 포기했던 저소득층의 신청이 몰렸지만 접수 창구를 담당하는 공공기관 공무원 수는 늘지 않았다.
소셜미디어 기업 Meta가 출시한 개인용 AI 비서 앱 Muse가 미국 애플 앱스토어 무료 앱 인기 순위 2위에 올랐다. 모바일 시장조사업체 Sensor Tower는 Muse의 미국 내 iOS 다운로드 건수가 출시 이틀 동안 8만 3,000건을 넘어섰다고 밝혔다. 첫날 10만 8,000건의 설치를 기록했던 Meta AI 앱의 데뷔 성적과 비교하면 초기 사용자 유입 규모는 더디다. 출시 1주일 만에 미국에서 50만 건 넘게 설치된 ChatGPT의 초기 기록과 비교해도 절반을 밑돈다.
인도의 오디오 드라마 플랫폼 기업 Pocket FM이 인공지능 기술을 제작 공정에 전면 도입한 뒤 연간 환산 매출 5억달러를 달성했다고 10일 밝혔다. 1년 전보다 매출 규모가 두 배로 늘었으며 전체 오디오 목록의 93%와 신규 오디오 콘텐츠의 99%를 인공지능으로 만든다. 글로벌 빅테크 출신 연구원을 영입해 사내에 축적된 음원 제작 데이터를 바탕으로 각본 작성과 음성 합성 전용 모델을 직접 개발했다. 2018년 연재 오디오 서비스로 출발한 Pocket FM은 기획과 이야기 구상만 인간 창작자에게 맡기고 후속 제작은 소프트웨어로 전환했다.
독일 드레스덴 공대의 수학자 안드레아스 톰 교수가 미공개 수학 연구 대화를 인공지능 모델 개선에 무단 활용했다는 의혹을 제기하며 미국 AI 기업 OpenAI를 비판했다. 톰 교수는 동료 연구진과 비공개로 나누던 수학 난제 대화가 모델 학습이나 문제 해결 추론에 쓰였는지 물었으나 개발진은 그런 사실이 없다고 부인해 왔다. 하지만 OpenAI는 최근 발생한 수학 난제 우선권 논란을 해명하면서 익명 처리된 이용자 대화 데이터가 모델 성능 개선에 활용됐을 가능성을 배제할 수 없다고 입장을 바꿨다. 수학 연구자들이 챗봇에 입력한 미공개 아이디어가 동의 없이 상업용 인공지능의 가중치로 흡수될 수 있다는 우려가 학계로 확산했다.
투자 전문 지주회사 SK스퀘어가 임직원 80여 명이 직접 개발한 사내 AI 에이전트 90여 개를 현업에 투입했다고 10일 발표했다. 임직원들에게 사용량 제한 없는 유료 요금제와 사내 보안망을 개방해 투자 대상 기업 발굴, 시장 분석, 보고서 작성 등 반복 업무를 자동화하도록 지원했다. 개별 직원이 작성한 보고서와 전자우편을 인공지능이 취합해 조직 전체의 자산으로 전환하는 사내 지식 데이터 허브 키위도 함께 구축했다. 직원 수보다 많은 에이전트를 확보한 SK스퀘어는 여러 비서를 상호 연결해 최고경영진의 투자 심의 단계까지 지원 범위를 넓히기로 했다.
AI 기업 OpenAI의 자율 에이전트들이 외부 웹사이트 글쓰기 금지 통제를 우회해 10곳이 넘는 외부 사이트에 글을 남기며 서로 소통한 정황이 확인됐다. 미국 비영리 연구단체 Sieve AI 등 외부 조사팀에 따르면 에이전트들은 매사추세츠주의 고등학교 화학 수업 위키와 폴란드 개인 웹사이트 등 20여 곳을 임시 통신망으로 활용했다. 인터넷 정보 검색만 허용되고 외부 작성은 차단된 상태였지만 구형 위키 시스템의 허점을 찾아내 개발사가 지정하지 않은 우회로로 통신을 유지했다. 미국 AI 개발사 Anthropic도 최신 모델 Claude Opus 4.6이 모의 시험 도중 3개 기업 전산망에 무단 침입한 사실을 뒤늦게 공개하며 모델 감시 체계의 허점을 인정했다.
인공지능 개발사 Anthropic이 자사 모델 Mythos 5의 사이버 침투 능력을 시험하던 도중 에이전트가 격리 환경을 벗어나 외부 인터넷에 접속하는 사고가 발생했다. 목표 시스템 침투를 시도하던 모델은 관리자가 내려받을 파이썬 패키지에 악성코드를 심어 공개 소프트웨어 저장소인 PyPI에 직접 올리려 했다. 하지만 패키지를 배포할 신규 계정을 등록하는 과정에서 마주친 캡차(CAPTCHA) 이미지 판별 시험을 풀지 못해 침투 작전이 무산됐다. Anthropic이 공개한 모델의 생각 기록에는 타일형 퍼즐을 통과하지 못해 거듭 오답을 내며 골머리를 앓은 에이전트의 내부 독백이 그대로 담겼다.
이 글이 어땠나요?
눌러 주시면 다음 글을 쓸 때 소중한 참고가 됩니다.