엔비디아가 ‘백과사전급’ 데이터 세트를 처리해야 하는 질문에도 즉시 답변할 수 있는 새로운 기술을 공개했다.

이번에 발표된 ‘헬릭스 패러렐리즘(Helix Parallelism)’는 엔비디아의 블랙웰 프로세서 성능을 활용해 AI 에이전트가 수백만 단어를 처리하고 최대 32배 더 많은 동시 사용자를 지원할 수 있다. 실시간으로 방대한 텍스트를 분석하는 AI 에이전트의 능력을 비약적으로 끌어올릴 수 있다는 기대가 나오지만, 기업 환경에서는 과잉이라는 지적도 있다.

노스웨스트 AI 컨설팅의 CEO 와이어트 메이햄은 “기존 모델의 한계였던 장문 추론(long-context reasoning)이나 이차 확장성(quadratic scaling) 문제를 해결하는 것은 맞지만, 기술적으로 가능한 것과 실제로 유용한 것 사이에는 여전히 간극이 있다”라고 설명했다.

LLM의 고질적인 메모리 문제 해결하는 헬릭스 패러렐리즘

전문가들은 LLM이 여전히 초장문 컨텍스트에서 집중력을 유지하는 데 어려움을 겪고 있다고 지적한다. 인포-테크 리서치 그룹의 기술 고문 저스틴 세인트 모리스는 “오랫동안 LLM은 제한된 컨텍스트 윈도우 때문에 병목에 시달렸다. 이 때문에 작업이나 대화가 길어질 경우, 앞서 입력된 정보를 ‘잊어버리는’ 문제가 발생했다”라고 설명했다.

메이햄은 이른바 ‘중간에서 잃어버리는’ 문제 때문에 모델이 입력된 정보의 10~20% 정도만 실제로 활용하는 실정이라고 덧붙였다.

엔비디아 연구팀은 주요 병목 요소로 키-값(KV) 캐시 스트리밍과 피드포워드 네트워크(FFN) 가중치 로딩 두 가지를 꼽았다. 모델이 출력을 생성할 때, GPU 메모리 대역폭을 소모하면서 캐시에 저장된 과거 토큰들을 훑어야 하고, 각 단어를 처리할 때마다 큰 FFN 가중치를 다시 불러와야 해 처리 속도가 느려진다는 설명이다.

이를 해결하기 위해 기존에는 모델 병렬 처리(model parallelism) 방식을 사용했는데, 거대한 신경망을 여러 장치(예: 엔비디아 GPU)로 나눠 처리하는 머신러닝 기법이다. 하지만 이 방식도 결국 메모리 병목을 초래할 수 있다.

헬릭스 패러렐리즘은 DNA 구조에서 영감을 얻었다. 메모리 작업과 연산 작업을 분리해 각각 여러 그래픽카드에 분산 처리하는 방식이다. 엔비디아는 이 ‘라운드로빈’ 방식이 특정 유닛의 메모리 부담을 줄이고, 유휴 시간과 GPU 과부하를 줄이며, 중복을 피하고 전체 시스템 효율성을 높일 수 있다고 설명했다.

연구팀은 6,710억 개 매개변수를 가진 딥시크-R1 671B 모델을 이용해 시뮬레이션을 진행한 결과, 응답 시간이 최대 1.5배 빨라졌다고 밝혔다.

세인트 모리스는 “단순한 기술 발전에 그치지 않고, LLM의 상호작용과 설계 방식을 재정립하는 전환점”이라고 평가했다. 모리스는 헬릭스 패러렐리즘과 최적화된 KV 캐시 샤딩 덕분에 LLM의 ‘온보드 메모리’가 확장됐고, 이는 과거 펜티엄 프로세서를 개선했던 방식과 매우 유사하다고 분석했다.

또한, “이제 LLM은 실시간으로 일관성을 유지하면서 방대한 데이터를 처리하고 추론할 수 있게 됐다”라며, “LLM을 현대 아키텍처의 새로운 프로세서라고 본다면, 이는 자연스러운 기술 진화”라고 강조했다.

법률, 코딩, 규제 산업의 사용례

엔비디아 연구팀은 새로운 기술의 사용례로 수개월에 걸친 대화를 추적하는 AI 에이전트, 수 기가바이트 분량의 판례를 분석하는 법률 보조 시스템, 거대한 코드 저장소를 탐색하는 코딩 보조 에이전트 등을 제시했다. 엔비디아는 이 기법을 다양한 산업의 AI 시스템 추론 프레임워크에 통합할 계획이다.

메이햄도 이 기술이 “문서 전체의 정확성”이 요구되는 규제 중심 산업이나 평생 환자 기록을 한 번에 분석하는 의료 시스템처럼 특정 영역에서 유용하다는 데 동의했다. 하지만 극히 예외적인 사례에 불과하다고 선을 그었다.

메이햄은 “대부분 기업은 GB200 랙을 구매하는 대신 더 똑똑한 데이터 처리 파이프라인을 구축하는 편이 훨씬 낫다”라고 말했다. 일반적으로는 ‘정확한 1만 개 토큰’을 찾아주는 RAG 방식이 수백만 개 토큰을 단순히 밀어붙이는 방식보다 성능이 더 좋다는 것.

세인트 모리스는 “오늘날 사람에게 백과사전 수준의 답변을 만들어주는 게 중요한 게 아니다. 그보다는 LLM이 생성한 결과물이 다른 AI에도 유용하고 적절한 정보가 되도록 하는 것이 더 중요하다”라며, “이번 기술은 AI 에이전트가 더 풍부한 내부 상태를 유지하고, 훨씬 복잡하고 장기적인 대화를 이어가며, 더 깊이 있는 문서 분석을 수행할 수 있도록 해주는 게임체인저가 될 수 있다”라고 평가했다.

또한 이번 기술은 최근 주목을 받는 컨텍스트 엔지니어링(context engineering) 영역과도 맞닿아 있는데, 방대한 컨텍스트 윈도우 안에서 정보를 선별하고 최적화해 AI 에이전트의 효율성과 신뢰도를 높이는 기술이다.

세인트 모리스는 특히 이 기술이 AI 연구에서 중요한 발전 중 하나인 ‘멀티에이전트 설계 패턴(multi-agent design patterns)’에 중대한 영향을 미칠 수 있다고 강조했다. 확장된 컨텍스트 윈도우를 통해 더 많은 데이터를 처리하고 주고받을 수 있게 되면서 AI 에이전트 간의 소통과 협업이 “이전에는 실현 불가능했던 방식으로” 이뤄질 수 있다는 것. 세인트 모리스는 “더 개선된 ‘기억력’과 컨텍스트 인식 능력은 AI 에이전트 간의 정교한 조율, 복잡한 이력에 대한 공동 이해, 그리고 다단계 작업에서의 협업 능력을 끌어올릴 수 있다”라고 설명했다.

시스템 차원에서는 하드웨어와 소프트웨어의 밀접한 공동 설계를 통해 확장성 문제를 해결하려는 엔비디아의 접근방식이 데이터 계층의 소프트웨어 중심 패턴 관리에 의존하는 기존 방식보다 더 효과적이라는 평가를 받고 있다.

한편, 세인트 모리스는 “메모리 계층 간 데이터 이동이라는 근본적인 문제는 여전히 남는다”라고 지적했다. GPU 메모리에서 방대한 컨텍스트 데이터를 불러오고 저장하는 작업은 병목을 유발하고, 데이터 전송의 복잡성을 높인다. 이런 문제는 컨텍스트의 규모가 계속 커지면서 실시간 처리에서는 스와핑 같은 비효율성으로, 결국은 성능 저하로 이어질 수 있다. 세인트 모리스는 “하드웨어 혁신이 있더라도, 데이터 흐름 최적화는 여전히 중요한 과제로 남을 것”이라고 덧붙였다.
dl-itworldkorea@foundryco.com