AI 산업의 현재 좌표는 이론적 돌파구 마련과 엄격한 안전 체계 구축이라는 두 축으로 정의된다. 앤스로픽은 리만 가설(Riemann Hypothesis) 해결을 위해 대규모 자율형 업무 흐름(agentic workflows)을 도입했다. 복잡한 계산 수학 영역까지 AI의 자율 행동 모델을 활용하겠다는 신호다. AI의 영역이 수학적 증명으로 확장됐다.

반면, 속도 조절론도 거세다. 오픈AI는 포괄적인 안전 및 보안 감사를 위해 강화 학습(Reinforcement Learning) 훈련을 일시 중단했다. 통제된 개발 기조는 클로드 Fable 5.1의 행보에서도 드러난다. 현재 내부 레드팀(redteaming)과 단계적 공개 테스트(grayscale testing)를 통해 정밀 튜닝 단계에 진입했다. 무조건적인 출시보다 완성도를 택한 셈이다.

안전망 구축 너머, 인프라 시장의 재편도 가속화되고 있다. Stripe의 OpenRouter 인수가 대표적이다. 재무 리스크를 낮추기 위해 가속기를 임대하는 방식의 특화된 하드웨어 전략이 부상하고 있다. 인프라 효율화가 곧 생존 전략이 됐다.

모델 성능 경쟁은 여전히 뜨겁다. Qwen 3.8-27B와 Quinn 3.827B는 추론 과정의 정밀도와 로컬 환경 구축 능력이 사용자 선택의 핵심 기준이 되었음을 증명했다.

이제 기업들은 자율형 협업의 기준을 세우고 GitHub를 통해 코드 관리 규모를 키우는 단계에 접어들었다. 관건은 연구 성과를 실제 제품으로 전환하는 속도를 높이면서도, 초거대 추론을 견딜 수 있는 고성능 인프라를 어떻게 유지하느냐에 있다. 결국 인프라 체력이 경쟁력이다.

01AI가 수학 난제를 푼다 — 앤스로픽의 리만 가설 연구 성과

AI가 단순한 대화를 넘어 수십 년간 인간이 풀지 못한 이론적 연구에 뛰어들고 있다. 최근 공개되지 않은 앤스로픽의 한 모델이 대규모 자율 작업 흐름(autonomous workflow)을 통해 리만 가설(Riemann hypothesis) 연구에서 진전을 보였다. 단일 프롬프트에 의존하는 대신, 클로드 코드 내에서 60개의 하위 에이전트를 하루 반 동안 유기적으로 조율했다. 이 과정에서 2,400개의 셸 명령어를 실행하고 수백 개의 파이썬 스크립트를 작성했으며, 총 3,100만 개의 출력 토큰을 소모하며 복잡한 계산 문제를 해결했다. AI가 단순 도구를 넘어 연구자의 영역으로 들어왔다.

동시에 DeepSeek 4 Pro는 모델의 효율성과 전문성을 극대화하고 있다. 이 모델은 '전문가 교사 증류(specialist teacher distillation)' 방식을 사용한다. 하나의 학생 모델이 수학, 코딩, 자율 작업 등 각 분야에 특화된 10개 이상의 전문가 모델 능력을 흡수하도록 학습시키는 방식이다. 덕분에 루빅스 큐브의 구조 같은 3D 입체 구조 파악 능력이 크게 향상됐다. 특히 '에이전트 없는 검증 장치(no agent harness)'라는 새로운 설계를 도입해 생성 속도를 최대 78%까지 끌어올렸다. DeepSeek는 모델의 가중치(open weights)를 공개해 사용자가 직접 모델을 운영하게 함으로써, 외부 제공업체에 의해 성능이 낮아지는 리스크를 차단했다. 효율과 성능, 두 마리 토끼를 잡은 설계다.

이러한 고성능 기능을 기업 실무에 적용하기 위해, 업계는 AI를 위한 '표준 작업 절차(SOP)' 성격의 규격화된 '기술(skills)' 도입으로 방향을 틀고 있다. 클로드의 경우, 브랜드 색상이나 레이아웃 요구사항 같은 특정 선호도를 마크다운 파일로 패키징한 것이 이 '기술'에 해당한다. 이를 통해 매번 프롬프트를 입력할 필요 없이 한 번에 일관된 결과물을 얻을 수 있다. 이제 기업들은 개인 PC에 흩어져 있던 프롬프트를 GitHub 저장소에 모아 통합 관리하기 시작했다. GitHub를 중앙 마켓플레이스로 활용하고 저장소를 플러그인처럼 설치함으로써, 전사적으로 통일된 기준(single source of truth)을 세운 것이다. 또한 버전 관리 기능을 통해 최신 변경 사항이 성능을 떨어뜨렸을 경우 즉시 이전 버전으로 되돌릴 수 있다. AI 활용의 핵심이 '프롬프트'에서 '시스템'으로 옮겨가고 있다.

02오픈AI의 긴급 제동 — 사이버 공격 위험에 AI 학습 중단

오픈AI가 최첨단 AI 개발 속도를 늦췄다. 시스템이 디지털 보안 위협으로 변하는 것을 막기 위한 조치다. 보상과 처벌을 통해 모델 성능을 개선하는 강화학습(reinforcement learning)을 최신 모델들에 대해 2주간 일시 중단했다. 이는 계획된 최대 규모의 프런티어 학습 일정까지 멈춘 결정이다. 출시 속도보다 안전과 정렬(alignment)을 우선시하겠다는 전략적 변화다. 속도보다 안전이 우선이다.

이번 중단의 직접적인 원인은 차기 모델인 Astra다. 오픈AI는 Astra가 이미 '임계 사이버 보안 역량'에 도달했을 가능성이 크다고 밝혔다. 쉽게 말해, 사이버 보안 관련 능력이 너무 뛰어나서 적절한 안전장치 없이 출시될 경우 해킹 공격에 악용되거나 시스템 취약점을 파고들 위험이 있다는 뜻이다. 학습을 멈춘 기간 동안 오픈AI는 더 강력한 보안 모니터링과 정렬 장치를 마련할 계획이다. 정렬이란 AI의 목표와 행동이 인간의 의도 및 안전 기준과 일치하도록 만드는 핵심 과정으로, AI가 스스로 해로운 행동을 하는 것을 방지한다.

이번 조치는 더 강력한 AI를 만들려는 경쟁과 이를 통제해야 하는 필요성 사이의 갈등을 극명하게 보여준다. 업계는 보통 혁신 속도에 집중하지만, Astra의 사례는 모델의 능력이 이를 제어할 보안 도구의 발전 속도를 앞질렀음을 시사한다. 오픈AI는 2주간의 정밀 감사(audit)가 빠른 출시보다 더 가치 있다고 판단했다. 고도의 사이버 보안 능력이 가져올 위험이 조기 출시의 이점보다 훨씬 크기 때문이다. 지능의 추구가 글로벌 디지털 안정성을 해치는 결과로 이어져서는 안 된다는 신중한 접근이다.

03AI가 막히면 사람이 나선다? 업무 흐름을 끊지 않는 비결은?

AI 시스템이 오류를 내거나 복잡한 문제에 부딪혀 사람에게 업무를 넘길 때, 대개 기술적 병목 현상이 발생한다. 이를 해결하기 위해 일부 기업은 거대언어모델(LLM)과 직원을 모두 동일한 '에이전트'로 정의하는 방식을 도입했다. AI가 할 수 있는 일이라면 사람도 할 수 있다는 등식을 세운 것이다. 이렇게 하면 플랫폼 입장에선 이전 작업을 누가 수행했는지 상관없으므로, 업무 흐름(workflow)을 끊지 않고 자연스럽게 사람에게 일을 넘길 수 있다. 메이븐 클리닉(Maven Clinic)은 자사의 AI 통합 관리 계층인 메이븐 인텔리전스(Maven Intelligence)에 이 방식을 적용했다. 환급 영수증 처리 같은 고위험 금융 작업 시 여러 모델이 동일 문서를 검토하는 합의 메커니즘을 사용하며, 모델 간 의견이 갈리면 즉시 상담원에게 연결해 정확도를 높인다. 효율의 핵심은 주체의 경계를 허무는 것이다.

이런 유연한 운영은 '변경 불가능한 기록(immutable ledger)' 덕분에 가능하다. 시스템의 모든 상태를 매 순간 기록해 개발자가 특정 사건의 순서를 그대로 재현할 수 있게 한다. 개발자는 이 기록을 다시 돌려보며 프롬프트를 수정하거나 모델을 바꾸고, 그 결과가 어떻게 달라지는지 즉각 확인한다. 관찰력과 디버깅 능력이 획기적으로 올라간다. 특히 민감한 개인 건강 정보에 직접 접근하지 않고도 AI가 왜 그런 결정을 내렸는지 그 과정을 역추적할 수 있다는 점이 핵심이다. 기록이 곧 정답지다.

의료 같은 규제 산업에서는 보안이 생명이다. 이를 위해 '오케스트레이션 인접 객체 스토리지'라는 구조를 활용한다. 개발자가 실제 운영 데이터를 사용해 AI 성능 시험(eval)을 진행하면서도, 데이터는 고객의 보안 환경 내에 그대로 두는 방식이다. 민감 정보가 AI 작업 공간으로 유출되지 않으므로 데이터 노출 위험 없이 모델을 개선할 수 있다. 결국 인간과 AI의 동등한 정의, 변경 불가능한 기록, 보안 저장소의 결합은 성능 시험을 부가 기능이 아닌 소프트웨어의 핵심 속성으로 만들었다. 보안과 성능, 두 마리 토끼를 잡은 설계다.

04앤스로픽 Fable 5.1, 칩 직접 설계로 푸는 '비용과 공급' 문제

앤스로픽이 클로드 Fable 5.1의 내부 안전성 테스트와 제한적 시범 운영에 착수했다. 정식 출시 전 성능을 정교하게 다듬는 단계다. 특히 주목할 점은 앤스로픽이 모델 학습이 아닌 구동에 최적화된 추론 칩(inference chips) 개발에 우선순위를 두고 있다는 사실이다. 자율형 AI(agentic AI)나 코딩 세션은 한 번의 작업에 수십 번의 모델 호출이 필요해 비용이 기하급수적으로 늘어나기 때문이다. 현재 업계는 물리적 용량 부족 사태에 직면했다. TSMC의 최첨단 패키징 슬롯은 이미 2028년까지 예약이 끝났고, 이에 기업들은 직접 칩 설계 팀을 꾸리는 방향으로 선회했다. 여기서 시장의 갈래가 나뉜다. 엔비디아의 B300 칩은 여러 클라우드를 오갈 수 있는 범용성을 갖췄지만, 구글의 TPU나 아마존의 Trenium, 마이크로소프트의 Maya 같은 전용 하드웨어는 해당 클라우드에 갇히는 '락인(lock-in)' 효과를 만든다. 앤스로픽은 자체 칩 투자를 통해 용량 부족 오류를 줄이고, 더 길고 안정적인 자율 행동 수행 환경을 구축하려 한다. 칩 확보가 곧 AI의 생존권이다.

하드웨어를 넘어 AI 플랫폼의 기능적 범위도 확장되고 있다. 이제 AI는 전문 소프트웨어를 직접 다루는 운영자 역할을 수행한다. ChatGPT는 Remotion 플러그인으로 모션 그래픽이나 타이틀 카드를 만들 수 있지만, 여전히 영상 파일 자체를 직접 편집하지는 못한다. 이 한계를 해결하기 위해 Broomi 같은 도구가 MCP(Model Context Protocol)라는 연결 표준을 도입했다. 이를 통해 클로드나 ChatGPT가 소프트웨어 내부에서 편집 동작을 직접 수행할 수 있게 됐다. 작업 흐름(workflow)이 획기적으로 단순해진다. 녹화 중 "헤이 브루미(Hey Broomi)"라고 말하면, AI가 음성 명령 부분은 자동으로 삭제하고 인포그래픽을 삽입하는 식이다. 채팅창을 벗어나 툴을 직접 잡았다.

하지만 최종 마무리를 위한 사람의 개입(human-in-the-loop)은 여전히 필수적이다. 현재 AI 도구들은 편집 과정의 약 80%를 성공적으로 처리하지만, 나머지 20%는 사람이 직접 다듬어야 한다. 불필요하거나 어지러운 줌 패턴 같은 오류를 잡기 위해서다. 실제 비교 실험 결과, 영상 편집 작업에서는 ChatGPT가 클로드보다 월등한 성능을 보였다. AI가 외부 도구를 제어해 복잡한 목표를 달성하는 자율형 AI로의 진화는 이제 거스를 수 없는 흐름이다. AI는 단순한 챗봇을 넘어, 실질적인 업무를 수행하는 '워크스페이스 비서'로 변모하고 있다. 결국 마지막 20%가 퀄리티를 결정한다.

05Stripe의 계산법 — 0.36% 결제 수수료보다 5.5% AI 통행료

Stripe가 최근 OpenRouter를 인수한 것은 AI 경제의 '중간 계층(middle layer)'을 장악하겠다는 전략적 전환이다. 직접 가장 강력한 AI 모델을 만드는 경쟁에 뛰어드는 대신, AI 생성의 기본 단위인 'AI 토큰'이 오가는 길목을 지키는 기반 시설(infrastructure) 제공자, 즉 '통행료 징수원'이 되기로 한 것이다. 수백 개의 AI 모델이 쏟아지는 상황에서 사용자가 단 하나의 모델에만 의존하지 않을 것이라는 판단이다. 결국 여러 모델을 효율적으로 연결해 주는 통합 플랫폼(aggregator)이 시장의 필수 요소가 된다. 승자를 맞히는 도박 대신, 모든 길이 통하는 광장을 차지하겠다는 계산이다.

이번 인수의 핵심 동기는 '수수료율(take rate)'에 있다. Stripe는 연간 1.9조 달러라는 엄청난 거래액을 처리하지만, 정작 핵심인 결제 사업에서 챙기는 수수료는 0.36%에 불과하다. 반면 OpenRouter는 플랫폼을 통해 흐르는 거래액의 5.5%를 수수료로 가져간다. 이 압도적인 차이가 Stripe가 90일 전 기업 가치 13억 달러였던 OpenRouter를 70억 달러가 넘는 금액에 인수한 이유다. OpenRouter의 매출은 약 1억 4,000만 달러 수준이지만, Stripe 입장에서는 기존 결제 사업보다 15배나 높은 수익률을 확보하게 된다. 돈의 흐름이 바뀌었다.

인프라를 선점하려는 움직임은 테크 업계 전반의 흐름이다. SpaceX가 600억 달러에 Cursor를 인수한 뒤, Cursor가 GitHub의 대안으로 'Origin'을 출시하며 코드가 생성되는 환경 자체를 통제하려 드는 것이 대표적이다. OpenRouter의 미래는 Visa 네트워크의 역사와 닮아 있다. Visa 역시 처음에는 중립적인 플랫폼으로 시장을 장악한 뒤, 이후 은행으로 진화하며 권력을 공고히 했다. 이제 관건은 Stripe가 OpenRouter를 AI 생태계를 위한 중립적인 공공재로 남겨둘 것인지, 아니면 자사 사업에 밀착시켜 폐쇄적인 수익 모델로 통합할 것인지다.

06코드 저장소의 변화: 사람이 아닌 AI의 처리 속도에 맞춘 설계

소프트웨어 개발 속도의 기준이 인간에서 기계로 옮겨가고 있다. 이에 따라 코드를 저장하고 관리하는 방식 자체를 완전히 다시 생각해야 한다. Origin은 인간 개발자가 아닌 자율형 AI(AI agent)를 위해 설계된 새로운 코드 저장소 플랫폼이다. AI는 사람이 도저히 따라갈 수 없는 규모로 코드를 생성하고 수정한다. Origin은 이를 위해 저장소당 초당 22건의 변경 사항 저장(commit)을 처리할 수 있는 초인적인 처리량을 지원한다. 시간당 최대 29만 6,000건의 코드 복제(clone)도 가능하다. 이제는 기계의 속도가 기준이다.

기업이 이러한 AI 기능을 도입하면서 AI의 기술과 설정값을 어디에 저장하느냐가 지식재산권 보호의 핵심이 됐다. AI 기술을 직원 개인의 컴퓨터에 저장하면, 해당 직원이 퇴사할 때 조직의 소중한 지식이 함께 사라질 위험이 크다. 이를 GitHub 조직(organization) 단위로 중앙 집중화하면 기업은 AI 자산에 대한 소유권과 통제권을 확실히 쥘 수 있다. 또한 클라우드 기반의 통합 관리 체계를 구축하면 가상 전용 서버(VPS)에서 작동하는 Hermes 에이전트 같은 도구들이 로컬 파일 시스템에 의존하지 않고 원격으로 필요한 기술에 접근할 수 있다. 개인의 PC가 아닌 기업의 자산으로 관리해야 한다.

AI 성능의 급격한 발전은 기존의 기업 계획 주기를 근본적으로 무너뜨리고 있다. 1년 단위의 거시적인 방향 설정은 여전히 유효하지만, 3~6개월 단위의 중기 계획을 세우는 것은 이제 불가능에 가깝다. AI 모델의 출시 속도가 너무나 예측 불가능해, 몇 달 뒤 모델이 무엇을 할 수 있을지 알 수 없기 때문이다. 결국 구현 전 수주에서 수개월 동안 비즈니스 요구사항과 설계를 확정 짓던 전통적인 방식은 더 이상 통하지 않는다. 계획을 세우는 속도보다 도구가 변하는 속도가 더 빠르다.

07Qwen 3.8-27B, 생각의 깊이로 구현한 전문가급 웹사이트

AI가 만드는 웹사이트의 품질은 모델이 추론 과정에 얼마나 많은 공을 들이느냐에 따라 극명하게 갈린다. Qwen 3.8-27B의 경우, 추론 강도 설정 하나로 무의미한 저품질 결과물과 전문가 수준의 제품이라는 극과 극의 결과가 나온다. 추론 기능을 끄면 일관성 없는 조잡한 결과물이 나오지만, 설정을 '낮음'으로만 바꿔도 초기 GPT 5.5 같은 최첨단 모델보다 시각적으로 뛰어난 웹사이트를 만든다. 추론 예산(thinking budget)을 '중간'이나 '매우 높음'으로 올리면 정교한 애니메이션과 실제 사용 가능한 기능들이 추가되며 완성도가 비약적으로 상승한다. 약간의 처리 시간을 투자해 시각적 세련미와 기술적 유용성을 동시에 잡는 셈이다. 생각의 깊이가 곧 품질이다.

성능뿐 아니라 접근성도 크게 개선됐다. 최근 애플 실리콘(Apple Silicon) 전용으로 검열을 제거한 Qwen 3.8-27B MLX 빌드가 공개됐다. 이제 클라우드 연결이나 고가의 AI 전용 하드웨어 플랫폼인 CUDA 없이도 맥(Mac)에서 모델을 직접 구동할 수 있다. 하드웨어 사양과 메모리 한계에 맞춰 2비트부터 8비트까지 다양한 정밀도 버전을 선택할 수 있게 했다. 특히 검열이 제거된 버전이라 클라우드 모델 특유의 제약 없이 도구 호출(tool calling)과 추론 과정을 완전히 자유롭게 제어할 수 있다. 강력한 추론 엔진을 내 컴퓨터에 설치해 데이터 주권과 모델 제어권을 모두 쥐게 된 것이다.

08Quinn 3.827B — 내 컴퓨터에서 구현하는 클로드 4.8급 성능

고성능 인공지능을 이제 일반 가정용 컴퓨터에서도 쓸 수 있게 됐다. 최상위 결과물을 내기 위해 거대한 기업용 서버 팜에 의존할 필요가 사라진 것이다. Quinn 3.827B 모델은 클로드 4.8를 최대 설정으로 구동했을 때와 거의 대등한 지능과 성능을 보여준다. 불과 몇 달 전까지만 해도 클로드 4.8가 업계 표준으로 통했다는 점을 고려하면, 로컬 소프트웨어의 비약적인 발전이다. 일반 사용자 입장에서는 비싼 클라우드 구독료를 낼 필요 없이 개인 하드웨어에서 직접 AI를 구동할 수 있다. 속도와 보안, 두 마리 토끼를 모두 잡았다.

Quinn 3.827B의 활용도는 단순한 텍스트 생성을 넘어 시각적 작업에서도 강력한 성능을 발휘한다. 특히 정교한 이미지 이해 능력과 사물 인식 상자(bounding box, 이미지 내 특정 객체를 식별해 테두리를 치는 기술) 기능을 갖췄다. 이러한 시각적 능력과 기본 지능이 결합해 복잡한 멀티모달 데이터를 처리한다. 여기에 Deep Seek Harness 같은 코딩 도구와 결합하면 자율형 시스템(agentic systems)을 구축할 수 있다. 이는 AI가 스스로 판단해 여러 단계의 목표를 완수하는 독립적인 에이전트로 작동함을 의미한다. 로컬 모델이 실질적인 '디지털 직원'이 되는 순간이다.

이러한 변화는 로컬 제어를 중시하는 개발자와 테크 애호가들의 일하는 방식(workflow)을 근본적으로 바꾼다. Quinn 3.827B를 로컬에서 구동하면 외부 API 의존도를 없앨 수 있고, 그에 따른 비용과 데이터 유출 리스크도 사라진다. 이 정도 크기의 모델이 과거 업계 리더였던 클로드 4.8와 경쟁할 수 있다는 사실은 AI 설계가 극도로 효율화되고 있음을 시사한다. 고성능 지능을 구현하는 데 더 이상 산업 규모의 인프라가 필요하지 않다는 증거다. 이제 최신 PC만 있다면 누구나 자신의 기기 안에서 정교한 자율형 시스템과 고급 이미지 분석 도구를 운용할 수 있다.

09Astra가 너무 위험할 정도로 똑똑해졌다? 오픈AI가 훈련을 멈춘 진짜 이유는?

오픈AI 사용자나 개발자들은 안심해도 좋다. 최근 내부적으로 일부 훈련 활동이 중단됐지만, 신모델 출시는 계획대로 진행된다. Altman은 조만간 고성능의 신모델을 선보일 예정이라고 명확히 했다. 개발이 멈췄다는 우려를 일축한 셈이다. 이번 중단 조치는 출시 임박 제품이 아니라 장기 프로젝트에만 해당한다. 당장 나올 제품들의 파이프라인에는 변함이 없다.

이번 중단의 핵심은 강화 학습(reinforcement learning)이다. 모델이 보상과 수정을 통해 스스로 성능을 높이는 고도의 훈련 과정이다. 오픈AI는 가장 규모가 큰 최첨단 강화 학습 실행을 2주간 일시 중단했다. 기술적 결함이 아니라 안전을 위한 예방 조치다. Astra 모델이 오픈AI가 설정한 임계치 이상의 사이버 보안 능력을 갖췄다고 판단했기 때문이다. 쉽게 말해, 제대로 관리하지 않으면 위험할 정도로 복잡한 보안 업무를 수행할 능력이 생겼다는 뜻이다.

Astra가 이 정도 수준에 도달하자, 오픈AI는 보안 모니터링과 정렬(alignment) 보호 장치를 대폭 강화하는 데 집중하고 있다. AI의 목표가 인간의 안전과 일치하도록 만들고, 악의적인 목적으로 이용되지 않게 막는 필수 장치다. 그렇다고 모델을 폐기하는 것은 아니다. Astra는 이미 주요 훈련과 성능 시험(evaluation) 단계를 마쳤기에 곧 출시될 예정이다. 2주간의 중단은 아주 먼 미래의 출시 제품에만 영향을 준다. 차세대 모델에 최첨단 보안 프로토콜을 적용하면서도, 현재 기술의 즉각적인 보급은 늦추지 않겠다는 전략이다.

10DeepSeek V4 Pro, 논문 발표 6주 만에 도구화 — 생성 속도 78% 향상

AI 이론과 실제 도구 사이의 간극이 전례 없는 속도로 좁혀지고 있다. DeepSeek은 고품질 연구 논문을 단 6주 만에 누구나 쓸 수 있는 기능적 도구로 전환하며 이를 증명했다. 이제 최신 학술 성과가 연구소에 수개월, 수년씩 갇혀 있을 필요가 없다. 이론적 가능성이 즉각적인 실용성으로 변하는 시대다.

이러한 효율성은 V4 Pro 배포 과정에서 극명하게 드러난다. 실제 응용 환경에서 생성 속도가 최대 78% 빨라졌다는 측정 결과가 나왔다. 일반 사용자 입장에서는 AI의 답변을 기다리는 시간이 획기적으로 줄어든다는 뜻이다. 단순히 속도만 높인 것이 아니다. DeepSeek은 AI의 작동 방식을 결정하는 핵심 수치 데이터인 모델 가중치(model weights)를 공개해 사용자가 직접 구동할 수 있게 했다.

공개 전략은 AI 이용 환경의 판도를 바꾼다. 폐쇄형 시스템의 기업들은 특정 키워드나 사용 패턴에 따라 사용자를 성능이 낮은 모델로 몰래 강등시키기도 한다. 하지만 모델 가중치를 직접 소유하고 구동하면 이런 숨겨진 제약이 사라진다. 연구 논문에서 설명한 성능을 그대로 유지할 수 있다. 고성능 하드웨어가 없는 개인이라도 이 도구들을 무료로 쓸 수 있다는 점은 배포 방식의 거대한 전환이다. 올해의 가장 영향력 있는 논문이 단 몇 주 만에 살아있는 도구가 되어 대중에게 전달되는 새로운 패러다임이 시작됐다.

11하드웨어 소유의 덫, 리스에서 자체 설계로 갈아탄 앤스로픽

AI 기업들은 잔혹한 재무적 현실에 직면해 있다. 모델 학습과 구동에 쓰이는 하드웨어의 수명이 너무 짧다. AI 가속기(AI 전용 칩)는 보통 매년 신제품이 출시된다. 지금 산 장비가 내년이면 구식이 된다는 뜻이다. 직접 구매는 결국 가치가 급락하는 자산에 베팅하는 도박과 같다. 인프라 소유는 곧 리스크다.

이 위험을 피하려고 많은 기업이 구매 대신 임대(리스)를 택한다. 리스를 이용하면 자산 가치 하락의 부담을 하드웨어 소유주에게 떠넘길 수 있다. 기술 발전 속도에 맞춰 장비를 교체할 수 있어 구식 장비에 발이 묶일 염려가 없다. 또한, 거액의 설비 투자 비용을 재무제표에 기록하지 않아도 되므로 예산 운용의 유연성이 높아진다.

앤스로픽은 이런 신중한 접근법의 대표적 사례다. 이들은 오랫동안 칩을 직접 소유하는 위험을 피해 왔다. 대신 투자자인 구글과의 전략적 관계를 활용했다. 구글로부터 받은 자금을 다시 구글의 칩을 빌리는 데 쏟아붓는 구조다. 덕분에 앤스로픽은 하드웨어 소유에 따른 재무적 리스크 없이 필요한 연산 능력을 확보할 수 있었다.

하지만 이제 전략을 바꾼다. 8월 5일 비즈니스 인사이더(Business Insider) 보도에 따르면, 앤스로픽은 클로드 전용 맞춤형 칩을 설계할 내부 실리콘 팀을 꾸리고 있다. 하드웨어 직접 설계로의 급격한 선회다. 채용 공고에서도 이런 야심이 그대로 드러난다. 해당 엔지니어의 연봉 상한선은 48만 5,000달러에 달한다.

12Cerus: 1초에 1,000토큰, AI 응답 지연의 종말

고성능 AI와 대화할 때 가장 답답한 점은 텍스트가 한 글자씩 느릿하게 출력되는 지연 시간이다. Cerus는 이 불편함을 완전히 없애려 한다. 사용자가 느끼기에 사실상 즉각적인 응답이 가능한 미래를 그리고 있다. 모델이 결과물을 내놓는 속도인 추론 성능(inference performance)을 극한으로 끌어올려, 인간과 기계가 복잡한 과업을 수행하는 방식 자체를 바꾸겠다는 전략이다. 속도가 곧 경쟁력이다.

이를 위해 Cerus는 거대 모델을 대규모로 지원하는 인프라를 설계 중이다. 목표는 매개변수(parameter)가 최대 10조 개에 달하는 초거대 모델을 구동하는 것이다. 매개변수는 AI가 정보를 처리하는 기준이 되는 내부 가중치로, 이 숫자가 많을수록 더 복잡한 추론과 방대한 지식을 다룰 수 있다. 이 정도 규모의 모델을 돌리는 것은 기술적으로 매우 어렵지만, Cerus는 초당 약 1,000토큰의 처리량(throughput)을 목표로 잡았다. 이 수준이면 가장 정교한 모델조차 방대한 데이터를 순식간에 쏟아낼 수 있다