핫칩스 발표와 한 달 실측기

인프런 강의 제작자는 이번 여름 영상 열여덟 편을 완성했다. 편당 길이는 오 분에서 이십오 분 사이였다. 정작 발목을 잡은 것은 촬영이 아니라 검수였다고 그는 기록에 남겼다. 딜리버리에서 말이 끊기는 지점, 강조 표시와 발화가 맞아떨어지는지, 페이싱이 늘어지는 구간까지 하나씩 짚어야 했고, 편집본 한 편당 최소 두 번은 처음부터 끝까지 다시 봐야 했다. 전체로 치면 열 시간을 넘겼다.¹ 이 숫자는 누군가 실제로 시계를 보며 얻은 값이라는 점에서, 같은 시기 나온 다른 발표들과 성격이 다르다.

열 시간이라는 기록

그의 기록에는 시간 말고 다른 대목도 있다. 제작자 본인이 이미 자기 영상의 이음새 위치를 전부 안다는 사실이다.¹ 자기가 찍고 자기가 편집한 사람이 다시 보면서 검수하면, 아무리 꼼꼼해도 놓치는 지점을 스스로 채워 넣기 쉽다.

이 문제는 사소해 보이지만 이 글 전체를 관통하는 물음과 닿아 있다. 무언가를 확인했다고 말할 때, 그 확인은 누가 했는가? 확인한 사람이 발표 당사자인지, 아니면 그 결과를 직접 지켜본 제삼자인지에 따라 같은 문장이라도 무게가 달라진다.

같은 시기 반도체와 클라우드, 추론 배포를 놓고 나온 발표 세 건은 이런 자기 기록을 남기지 않았다.

세 개의 입

지난 8월 23일부터 25일까지 스탠포드대 메모리얼 오디토리엄에서 열린 핫칩스 2026(Hot Chips 38)에는 엔비디아, 구글, 오픈AI를 포함해 스무 곳 넘는 기업이 발표자로 참가했다. AI타임스는 이 자리를 두고 AI가 스스로 구동할 반도체를 설계하는 시대가 확인됐다고 전했다.² 다만 이 확인은 발표장에 선 기업들 자신의 발표를 근거로 삼는다.

구글 클라우드는 개발자 블로그에서 vLLM 서빙 엔진에 TPU 지원을 네이티브로 통합했다고 밝혔다. 만오천 토큰이 넘는 긴 문맥을 다루는 Qwen3-Embedding-8B 같은 모델을 위해 텐서 정렬과 JAX/XLA 사전 컴파일, 하이브리드 스텝풀 같은 최적화를 적용했다는 내용이다.³ 엔비디아는 개발자 블로그에서 TensorRT Model Connect를 소개하며, 체크포인트를 받아 추론까지 두 줄 명령으로 배포할 수 있다고 적었다.⁴

세 건 모두 발표 주체가 자기 입으로 전한 소식이다. 발표자가 곧 증인이다. 콘퍼런스 무대든 자사 블로그든, 말하는 쪽과 결과를 낸 쪽이 같다.

시간을 잰 사람

지금 확인할 수 있는 부분과 아직 확인할 수 없는 부분을 가르면 이렇다. 핫칩스에서 어떤 기업이 무슨 발표를 했는지, 콘퍼런스가 실제로 열렸는지는 지금도 확인된다. 구글이 어떤 최적화 기법을 적용했다고 밝혔는지, 엔비디아가 어떤 명령어 두 줄을 예시로 들었는지도 문서로 남아 있어 확인된다.

확인되지 않는 쪽은 다르다. 그 설계가 실제로 얼마나 자율적인지, 그 최적화가 실제 서비스 부하에서 얼마나 시간을 줄이는지, 그 두 줄 명령이 실제로 얼마나 걸리는지는 발표문 밖에서 아직 아무도 재지 않았다.

이번 여름 나온 근거들 가운데 실제로 시계를 들고 시간을 잰 기록은 인프런 강의 제작자의 한 달짜리 사용기 하나뿐이다.¹ 재본 사람은 하나였다.

파이프라인 위의 증언

다만 이 기록도 완전히 독립된 자리에 서 있지는 않다. 그가 검수 파이프라인을 짠 도구는 TwelveLabs가 만들어 배포한 Jockey다.¹ 열 시간이라는 숫자는 그가 직접 앉아서 정주행하며 얻은 값이지만, 그 정주행 절차 자체는 도구 제작사가 설계한 흐름 위에서 이뤄졌다.

발표와 무관한 제삼자의 실측이라 부르기는 그래서 어렵다. 시간을 잰 주체와 도구를 만든 주체가 완전히 갈라서 있지 않기 때문이다. 다만 그 시간 자체, 열여덟 편을 두 번씩 돌려 보며 쌓인 열 시간이라는 값은 도구 제작사가 아니라 사용자의 몸이 만들어 낸 숫자다. 이 둘을 섞으면 안 된다.

열 시간이 바꾼 것

여름이 끝나갈 무렵까지 이 셋의 확인 가능성은 그대로였다. 핫칩스의 설계 자동화도, TPU 임베딩 최적화도, 두 줄 명령 배포도 여전히 발표 주체의 말로만 존재한다. 콘퍼런스 발표문과 블로그 글은 그대로 남았고, 그 위에 누군가 시계를 들고 다시 잰 기록은 아직 붙지 않았다.

달라진 것은 다른 자리에 있었다. 강의 열여덟 편을 검수하던 한 사람이 열 시간짜리 숫자를 남겼고, 그 숫자는 발표문이 아니라 실제로 앉아서 본 시간이었다. 발표 세 건과 실측 한 건이 같은 여름에 나란히 나왔다는 사실, 그리고 그 실측조차 도구 제작사의 파이프라인 위에서 얻어졌다는 사실만이 남았다.

각주

1. TwelveLabs Jockey로 강의 검수 파이프라인 만들기, 한 달 실측기 — news.hada.io, 2026-08-30 발행, 2026-08-31 접속 확인. ↩ ↩² ↩³ ↩⁴

2. "AI가 AI 칩을 만든다"...'핫칩스 2026'서 확인된 반도체 설계의 대변혁 — www.aitimes.com, 2026-08-30 발행, 2026-08-31 접속 확인. ↩

3. Enterprise-Grade Precision for Long-Context Multimodal Embedding Inference on Cloud TPU — developers.googleblog.com, 2026-08-30 발행, 2026-08-31 접속 확인. ↩

4. Deploy an Open Model from Checkpoint to Inference in Two Commands with NVIDIA TensorRT Model Connect — developer.nvidia.com, 2026-08-28 발행, 2026-08-31 접속 확인. ↩