AI 시장, 치솟은 최고가 대신 9분의 1 가격 실용 모델 뜬다

9분의 1. 세계 최고 수준의 인공지능 모델이 나온 바로 그 주 가격이 9분의 1 수준인 다른 모델이 함께 나왔다. 성능까지 9분의 1로 떨어지지는 않아 가격을 책정한 쪽의 예상을 벗어났다. 반복해서 작성하는 코드는 저가 모델로도 충분해 맥락만 제대로 입력하면 결과물의 차이가 가격 차이만큼 벌어지지 않았다. 성능 1위가 곧 판매 1위는 아니라는 시장의 오랜 상식이 인공지능 분야에서도 확인되기 시작했다.

소프트웨어 업계에는 2005년에 나온 "공짜 점심은 끝났다"는 제목의 글이 있다. 반도체 성능이 18개월마다 두 배씩 향상되던 시절에는 코드를 붙들고 다듬을 이유가 없었으니 굳이 애쓰지 않아도 1년 반 뒤에 나오는 새 칩이 느린 프로그램의 성능을 알아서 끌어올려 줬기 때문이다. 그 발전 속도가 2000년대 중반 둔화하자 개발자들은 병렬 처리와 메모리 배치를 다시 공부해야 했다.

인공지능 시장에서도 같은 일이 벌어졌다. 지난 2년 동안 새 모델은 늘 이전과 비슷하거나 더 저렴한 가격에 나왔고 도구를 손보고 프롬프트를 다듬는 일은 곧 허사가 됐다. 기다리기만 하면 차세대 모델이 웬만한 문제를 알아서 해결해 줬다. 그런데 이번 최상위 모델은 성능이 개선된 만큼 가격도 함께 치솟았고 같은 주에 나온 중국의 공개 모델은 그 9분의 1, 직전 최상위 모델의 5분의 1 가격에 그쳤다.

가격이 치솟자 개발 현장의 업무 분담 방식부터 달라졌다. 설계를 놓고 따져 묻는 과정은 고가 모델에 맡기고 그렇게 정리한 지시서를 저가 모델에 넘겨 실제 코드를 작성하도록 하는 식이다. 상대적으로 가벼운 모델이 제 몫을 다하도록 자료와 프롬프트를 보완하는 작업이 이때부터 진가를 발휘한다. 문제를 알아서 해결해 줄 새 모델이 당장 나오지 않으니 각자 해법을 찾아야 하는 처지다. 가격만 문제였다면 값을 다시 내리면 해결될 일이지만 이번에는 가격 외의 다른 걸림돌도 함께 나타났다. 최상위 모델에 붙은 접근 통제와 데이터 보관 규정, 사용량이 몰리면 성능을 낮추는 운영 방식이 기업과 각국 정부의 경계심을 높였다.

물론 반론도 있다. 추론 비용은 계속 떨어질 테고 결국 모두가 다시 최고 성능 모델로 돌아오게 된다는 분석이다. 다만 비용 하락의 혜택은 저가 모델에도 똑같이 돌아간다. 반도체는 물리적 한계에 직면했지만 모델은 여전히 발전하는 중이어서 단순 비교는 이르다는 시각도 있다.