생성형 AI가 기술 업계의 관심을 독점하면서 AI PC에 대한 과대광고 또한 증가하고 있다. 생성형 AI를 처리할 수 있을 만큼 강력한 PC가 어떤 매력이 있는지는 쉽게 알 수 있다.

모든 주요 PC 업체에서 제공하는 AI PC에는 CPU부터 GPU, NPU(Neural Processing Unit)에 걸쳐 AI 워크로드를 가속화하도록 설계된 하드웨어와 소프트웨어가 포함되어 있다. AI는 주로 서버에서 구동되는 애플리케이션이지만, AI PC는 적어도 일부 처리를 클라이언트가 맡는다.

그러나 AI PC 시장은 아직 초기 단계이고, IT 구매자는 웹을 통해 수많은 생성형 AI 도구를 이용할 수 있는데 굳이 AI PC에 투자해야 하는지 의구심을 가질 수 있다.

결론부터 말하자면, 원하든 원치 않든 결국 AI PC를 사용하게 된다는 것이다. 모든 업무용 PC가 AI PC를 향하고 있기 때문이다. 머지않아 지금의 와이파이나 vPro처럼, AI는 업무용 PC의 표준 사양이 될 것이다. 그러나 아직은 그렇지 않으므로, 지금 AI PC를 구입할 것인지 아니면 시장이 성숙할 때까지 기다릴 것인지 고민해 봐야 한다.

AI PC로 얻을 수 있는 이점

클라우드 대신 데스크톱에서 AI 애플리케이션을 실행하는 주된 이유는 개인정보보호와 보안 강화다. 특히 금융이나 의료와 같이 규제가 엄격한 산업군에서는 민감한 데이터를 방화벽 경계 안에 묶어두기 위해 클라우드 서비스 업체의 서버가 아닌 로컬에서 처리해야 할 수 있다.

또 다른 핵심 고려 사항은 비용이다. 서버 기반 AI 처리는 매우 비싸다. 자체 개발 LLM 배치 비용은 많으면 수백만 달러에 이른다. 서비스형 AI(AIaaS)를 사용하더라도 매달 수만 달러의 비용이 들 수 있으며, 데이터를 클라우드로 전송하기 때문에 앞서 언급한 개인정보 보호 및 보안 문제가 걸린다. AI 워크로드의 일부를 PC를 포함한 엔드포인트 디바이스에 나눠 맡기면 서버 기반 처리의 필요성이 줄어들고 응답 시간도 빨라진다.

레노버의 인텔리전트 디바이스 그룹 수석 부사장 스티브 롱은 AI PC가 마케팅 전략 그 이상이라고 주장한다. 롱은 “AI PC는 사용자에게 시간을 돌려준다”라며, “마이크로소프트 365 코파일럿 같은 앱을 통한 마케팅 콘텐츠 생성, 회의 요약, 워크플로우 간소화 등 어떤 작업이든 AI PC가 무거운 작업을 처리해 주므로 직원들은 더 가치 있는 작업에 집중할 수 있다. 그 결과 생산성이 향상된다”라고 설명했다.

또한 AI PC에는 성능에 영향을 미치지 않으면서 실시간 위협 탐지와 같은 능동적이고 자율적인 기능을 실행할 수 있어 IT 부서가 장애를 미리 예방할 수 있도록 도와주는 예측 유지보수 기능도 제공한다.

마지막으로, 롱은 AI PC가 사용자의 작업 방식에 적응하는 디바이스이기 때문에 한층 더 개인화된 경험을 제공한다고 말한다. 예를 들어, 회의 내용을 사용자의 말투로 요약하거나 M365 코파일럿을 사용해 이메일을 작성하거나, 이전 프로젝트에서 사용한 개인 AI 에이전트를 사용해 관련 인사이트를 제시하는 등의 기능을 제공한다.

롱은 “매일 더 똑똑해지고 잠들지 않는 디지털 비서를 갖는 것과 같다. 모든 것이 로컬에서 이루어지기 때문에 빠르고 안전하며 사용자에게 맞춤화된다”라고 덧붙였다.

AI PC를 구매해야 하는 시기

가장 중요한 문제이다. 새로운 디바이스는 구매를 정당화할 수 있는 킬러 앱이 필요하다. IBM PC는 로터스 1-2-3이 출시되기 전까지는 업무용 도구로 각광받지 못했다. 마찬가지로 AI PC에도 자체적인 킬러 앱이 필요하다.

가트너는 2026년 말까지 모든 PC가 AI PC가 될 것으로 예측하지만, 모든 사람이 AI 기능을 사용할 수는 없을 것이다. 가트너의 수석 리서치 디렉터 란짓 아트왈 “클라우드 기반 AI와 달리 디바이스 내장 AI 기능의 사용은 더 느리게 진화할 것이며, 기업은 규정 준수 규칙을 충족하기 위해 시간이 지남에 따라 단계적으로 도입할 가능성이 높다. 따라서 가트너는 2028년까지 약 24%의 직원만이 향상된 NPU 기능을 사용할 것으로 추정한다”라고 밝혔다.

레노버의 롱은 2027년이나 2028년이면 모든 PC가 AI PC가 될 가능성이 더 높을 것으로 예측한다. 롱은 “기업과 사용자 모두 지금 당장 킬러 사용례를 찾으려고 노력하는, 서부 개척 시대와도 같은 상황”이라고 말했다.

킬러 앱이 없는 상황에서 AI PC를 판매하는 것은 쉽지 않은 일이다. 저가형 디바이스가 아니기 때문이다. 아트왈은 표준 비즈니스 PC와 AI PC의 가격 차이가 200달러 이상이라고 추정한다. 이 차이를 기업의 업무용 PC 수백, 수천 대에 적용하면, 비용 차이는 정말로 커진다.

AI 솔루션 업체는 AI PC가 미래에 대비할 수 있는 제품이라고 주장한다. 그러나 아트왈은 그렇게 생각하지 않는다. 아트왈은 “구매자가 즉각적인 가치를 얻지 못한다면, 프리미엄을 지불하려 하지 않을 것”이라며, “아무도 이점이 무엇인지 정확하게 알지 못한다면, 미래에 대비할 수 있는 제품이라고 그 정도 가격을 지불하지 않는다”라고 지적했다.

IT 구매자에게 또 하나의 중요한 요소가 있다. 바로 윈도우 10이 올 10월에 지원이 종료된다는 것이다. 윈도우 10 PC를 사용하는 기업은 해당 PC에 대한 확장된 기술 지원을 구매하거나 새로운 윈도우 11 PC로 업그레이드해야 한다.

어쨌든 새 PC를 구입할 계획이라면 AI 기능이 있는 제품에 조금 더 투자하는 것이 합리적일 수 있다. 실제로 최근 전 세계 대기업 IT 의사결정권자를 대상으로 한 IDC 설문 조사에 따르면, 80%의 기업이 2025년에 AI PC를 배포할 계획이다.

기라지 않고 바로 AI PC의 세계로 뛰어드는 기업도 있다. 글로벌 B2B 마케팅 및 광고 대행사인 트랜스미션(Transmission)은 직원들이 AI 도구에 익숙해지도록 지금 당장 회사 전체에 새로운 PC를 배포하고 있다. 트랜스미션의 글로벌 분석 책임자인 조나단 코섹은 “우리는 이것이 미래라는 것을 알고 있으며, 직원들이 AI 도구에 익숙해져 스스로 더 나은 결정을 더 빨리 결정을 내릴 수 있는 방법을 익히기를 원한다”라고 말했다.

코섹은 또한 “처음에는 모든 사람의 컴퓨터에 코파일럿을 설치했다. 직원들이 AI 사용에 익숙해지고, 시대를 앞서가는 방법을 익히도록 돕기 위한 것이었다”라고 덧붙였다.

AI PC를 구매할 때 고려해야 할 사항

지금 AI PC를 구입하기로 결정했다면, 어떤 구성의 AI PC를 구매하는지가 사용자의 경험에 영향을 미친다. 구매 전에 몇 가지 확인해야 할 사항을 알아보자.

AI에 적합한 프로세서. AI PC에는 머신러닝과 딥러닝 작업의 처리 속도를 높이기 위해 설계된 NPU가 탑재되어 있으며, 행렬 곱셈, 컨볼루션, 그리고 AI 알고리즘에서 일반적으로 사용되는 다른 유형의 연산과 같은 작업에 최적화되어 있다.

NPU는 CPU의 일부로, 인텔 코어 울트라(메테오 레이크 세대),  AMD 라이젠 7040 시리즈,  맥의 애플 M 시리즈 칩, 윈도우 AI PC용 퀄컴 스냅드래곤 X 엘리트 ARM 기반 칩 등 최신 세대의 CPU에만 있다.

TOPS 성능. NPU는 TOPS(Tera Operations Per Second)라는 벤치마크로 측정된다. TOPS는 1초 동안 얼마나 많은 연산을 수행할 수 있는지를 의미한다. GHz나 다른 숫자는 이제 잊어버리자.

AI PC에는 CPU, GPU, NPU라는 세 가지 처리 장치가 있다. NPU가 가장 중요하지만, CPU와 GPU도 중요한 역할을 한다. 인텔의 데스크톱 프로세서 루나 레이크 제품군은 TOPS 등급이 120인데, NPU는 48, GPU는 67, CPU는 5이다. AMD의 라이젠 AI MAX 시리즈 프로세서의 NPU는 TOPS 등급이 50으로, 인텔과 거의 비슷하지만, AMD는 CPU와 GPU 성능을 구분하지 않는다.

확실하게 말할 수 있는 것은, 미래 세대의 CPU는 훨씬 더 빠른 NPU 성능을 제공할 것이라는 점이다. 루나 레이크 이전 세대의 인텔 프로세서는 TOPS 등급이 10에 불과했다.

좋은 GPU. 비즈니스용 PC는 CPU 칩에 통합 그래픽이 탑재되어 있는 경우가 많다. 이 통합 그래픽은 성능이 그리 높지 않다. AI 프로세서는 이전 세대보다 훨씬 더 우수한 성능의 GPU를 가지고 있지만, 여전히 외장 GPU와는 비교할 수 없다. 유일한 문제는 외장 GPU를 사용하도록 만들어진 앱을 찾는 것이다. CAD/CAM 소프트웨어와 같은 몇 가지 예외를 제외하고, 대부분 비즈니스용 애플리케이션은 GPU를 활용하지 않는다.

그러나 결국에는 게임용 외장 GPU의 놀라운 TOPS 성능을 활용하기 위해 AI 앱이 다시 작성될 것이다. 예를 들어, 엔비디아의 새로운 최고급 RTX 5090의 TOPS 등급은 3350이다. 가격은 4,100달러이다. AMD나 엔비디아의 외장형 GPU를 사용하기로 결정했다면, 모델 번호가 높을수록 더 빠르고 최신 제품이라는 것을 기억해 두기 바란다.

많은 메모리. 전통적인 PC를 사용하는 대부분 비즈니스 사용자는 8GB의 시스템 메모리로 충분하다. 특히 SaaS 앱을 주로 사용하고 브라우저에서 작업하는 경우에는 더욱 그렇다. 그러나 AI 처리를 하려면 훨씬 더 많은 메모리가 필요하며, 모델의 크기에 따라 16GB, 32GB 또는 64GB가 필요하다.

통합 AI 소프트웨어. PC는 텐서플로우, 파이토치와 같은 AI 프레임워크와 윈도우 스튜디오 이펙트, 어도비 파이어플라이, 기타 AI 애플리케이션과 호환되어야 한다. 소프트웨어 솔루션 업체는 로컬 AI 처리 성능을 활용하기 위해 계속 애플리케이션을 최적화하고 있기 때문에, AI 지원 앱의 속도를 높이려면 표준 도구와 프레임워크를 지원하는 하드웨어를 갖추는 것이 중요하다.
dl-itworldkorea@foundryco.com