가장 똑똑한 AI가 안 팔린다, 9분의 1 값이 판을 가져갔다

9분의 1. 세계에서 가장 똑똑하다는 인공지능 모델이 나온 바로 그 주 가격이 그 9분의 1에 불과한 다른 모델이 함께 나왔다. 성능까지 9분의 1로 떨어지지는 않았다는 점이 가격을 책정한 쪽의 계산 밖이었다. 반복해서 짜는 코드라면 저렴한 쪽으로 충분했고 맥락만 잘 넣어주면 결과물의 차이가 가격 차이만큼 벌어지지 않았다. 성능 1위가 판매 1위는 아니라는 오래된 상식이 인공지능에서도 확인되기 시작했다.

소프트웨어 업계에는 2005년에 나온 "공짜 점심은 끝났다"는 제목의 글이 있다. 반도체가 18개월마다 두 배씩 빨라지던 시절에는 코드를 붙들고 다듬을 이유가 없었는데 굳이 애쓰지 않아도 1년 반 뒤에 출시되는 새 칩이 느린 프로그램을 빠르게 만들어줬기 때문이다. 그 속도가 2000년대 중반에 꺾이자 개발자들은 병렬 처리와 메모리 배치를 다시 공부해야 했다.

인공지능에서도 같은 일이 벌어졌다. 지난 2년 동안 새 모델은 늘 같거나 더 저렴한 가격에 출시됐고 그러니 도구를 손보고 지시문을 다듬는 일은 곧 헛수고가 됐다. 기다리면 다음 모델이 어지간한 문제를 덮어줬다. 그런데 이번 최상위 모델은 성능이 뛴 만큼 가격도 함께 뛰었고 같은 주에 나온 중국의 공개 모델은 그 9분의 1, 직전 최상위 모델의 5분의 1 가격에 불과했다.

가격이 뛰자 개발 현장에서 일을 나누는 방식이 먼저 달라졌다. 설계를 놓고 따져 묻는 대화는 비싼 모델에 맡기고 그렇게 정리한 지시서를 저렴한 모델에 넘겨 실제 코드를 짜게 하는 식이다. 상대적으로 가벼운 모델이 제 몫을 하도록 자료와 지시를 보완하는 장치를 다듬는 일이 이때부터 가치를 지닌다. 덮어주는 새 모델이 오지 않으니 각자 알아서 해결해야 한다. 가격만 문제였다면 다시 내리면 그만이겠지만 이번에는 가격 말고 다른 문제도 함께 걸렸다. 최상위 모델에 붙은 접근 통제와 데이터 보관 요건, 사용량이 몰리면 성능을 낮추는 방식이 기업과 각국 정부를 놀라게 했다.

물론 반론이 있다. 추론 비용은 계속 떨어질 테고 그러면 결국 모두가 다시 가장 뛰어난 모델로 돌아간다는 것이다. 다만 그 하락은 저렴한 모델에도 똑같이 찾아온다. 반도체는 물리적 한계에 부딪혔지만 모델은 아직 발전하는 중이라 단순 비교는 이르다는 시각도 있다.