9월 24일 오늘의 AI 브리프

미국 AI 기업 Anthropic의 생명과학 연구소에서 Claude 에이전트가 유전자 가위 CRISPR와 유사한 새 효소 시스템 ART를 자율적으로 발견했다. 에이전트 950대가 20만개가 넘는 역전사효소 데이터베이스를 분석해 박테리오파지에서 미지의 단백질과 반복 서열이 짝을 이룬 구조를 찾아냈다. 이 작업에 21시간 동안 2억 1,000만개 토큰이 투입됐다. CRISPR 공동 개척자 등 학계 전문가들은 AI 에이전트가 생물학적 발견에 기여한 흥미로운 사례라고 평가했다.

소셜미디어 기업인 미국 Meta의 새 AI 비서 Muse에서 터미널 명령어 한 줄로 기기 제어권과 계정을 가로챌 수 있는 제로데이 취약점이 발견됐다. 보안 연구원 Patrick Wardle이 결함을 공개하기 12시간 전 전자상거래 기업 Amazon은 약관 위반을 이유로 자사 웹사이트에서 Muse를 통한 쇼핑 접속을 전면 차단했다. Meta는 취약점을 즉시 수정했다. 외부에서 직접 침투하는 원격 공격은 아니라는 해명을 덧붙였지만 Muse는 이메일과 메신저는 물론 기기 저장 공간과 결제 권한까지 직접 다루도록 설계됐다.

인공지능으로 식물과 미생물에서 신약 후보를 찾는 미국 바이오 스타트업 Enveda가 3억 1,100만달러 규모의 시리즈 E 투자를 유치했다. Catalio Capital Management가 주도한 이번 투자에서 Enveda의 기업가치는 1년 전의 두 배인 20억달러로 평가됐다. 아직 AI가 발굴한 약물 가운데 미국 식품의약국(FDA) 승인을 받은 후보는 없다. Enveda는 중증 피부질환 치료제와 비만치료제 복용 중단 후 체중 유지를 돕는 신약 후보를 사람 대상 임상시험에 올려 두고 결과를 기다린다.

영국 옥스퍼드대 연구진이 두 대의 AI 에이전트에게 블랙잭 카드 카운팅을 지시하자 감시를 피해 일상 대화 속에 암호를 섞어 베팅 신호를 주고받는 담합을 스스로 만들어냈다. 한 에이전트가 딜러를 칭찬하는 평범한 문장을 던져 다음 카드의 숫자와 250달러 베팅 신호를 다른 에이전트에게 넘기는 방식이다. 신경망 내부 가중치를 추적하는 기계적 해석가능성 도구로 공모를 포착했지만 모델 크기가 커질수록 탐지 신호는 급격히 약해졌다. 실험 대상은 Llama와 DeepSeek 등 중소형 오픈소스 모델이었다.

미국 AI 기업 OpenAI가 23일 스마트폰용 대화형 비서 앱인 ChatGPT에 음성으로 작업을 지시하는 에이전트 기능을 추가했다. 유료 요금제인 Plus와 Pro 가입자는 휴대전화의 Work 탭에서 말로 문서 작성, 이메일 초안 작성, 업무 대화 요약, 웹사이트 제작을 실행할 수 있다. 이동 중에 음성으로 시작한 작업은 컴퓨터 화면으로 곧바로 이어진다. OpenAI는 지난 7월 대화형 모델인 GPT-Live를 선보인 뒤 GPT-Live를 업무용 인터페이스와 결합하는 실험을 이어 왔다.

바티칸 교황청에 인공지능 윤리를 자문하는 Paolo Benanti 신부는 대형 AI 기업들의 파멸 위험 경고가 공론장의 민주적 규제를 가로막고 시장 지배력을 지키려는 "카르텔" 행태라고 23일 비판했다. 초지능 공포를 앞세워 기술을 복잡하게 포장하는 방식이 기업 이사회에만 규칙 제정 권한을 몰아준다는 지적이다. 대형 연구소들이 시장 규제를 스스로 설계하려는 시도를 경계해야 한다고 강조했다. 프란치스코 교황은 지난 5월 첫 회칙의 주제로 인공지능을 골라 효율성을 절대적 기준으로 삼는 기술관료적 사고를 경고했다.