최근 보도에 따르면 애플이 더 똑똑해진 시리를 구현하기 위해 오픈AI 또는 앤트로픽의 인공지능 모델을 사용할 가능성이 있다고 한다. 작년에 약속한 기능을 드디어 제공한다는 점에서는 긍정적이지만, 동시에 애플이 온디바이스에서 실행되는 생성형 AI 모델 개발에 충분한 투자를 계속하지 않을 수 있다는 우려를 낳는다.

온디바이스 기반, 즉 엣지에서 실행되는 인텔리전스는 앞으로 AI 서비스 발전에서 매우 중요한 역할을 하게 될 것이다. 보안과 개인정보 보호는 물론, 네트워크 리소스라는 또 다른 중요한 이유 때문이다.

잊지 말아야 할 네트워크 문제

기술에 민감한 기업은 AI 서비스를 배포하기 위해 네트워크 인프라에 대규모 투자를 진행하고 있다. 시스코(Cisco)의 최근 설문조사에 따르면 IT 책임자의 97%가 AI, IoT, 클라우드 배포에서 네트워크를 핵심 요소로 인식하고 있으며, 91%는 네트워크 예산을 증액할 계획이다. 이들은 데이터센터에도 투자하고 있으며, 네트워크 자체도 더 스마트해져야 한다고 본다.

시스코 EMEA의 최고기술책임자(CTO) 친탄 파텔은 보도자료에서 “AI는 모든 것을 변화시키고 있으며, 인프라는 이 변화의 중심에 있다. 네트워크는 IoT, 클라우드, 하이브리드 업무, 그리고 고도화된 보안 위협에 대응하는 디지털 전환의 모든 물결을 이끌어왔다. IT 리더는 지금 구축하는 네트워크가 미래의 비즈니스를 결정할 것이라는 사실을 잘 알고 있다. 지금 행동하는 이들이 AI 시대를 이끌게 될 것”이라고 밝혔다.

이미 알려진 바와 같이, 네트워크 용량을 최적화하는 가장 좋은 방법은 가능한 트래픽을 다른 서비스로 오프로드하는 것이다. 예를 들어, 스마트폰이 통화 시 셀룰러 대신 와이파이를 사용하는 것이 그러한 사례다. AI도 마찬가지일 수밖에 없다.

AI를 일상 속으로 되돌리기

이러한 자원 접근 최적화 전략을 인정하게 되면, AI 모델을 디바이스 자체에서 실행하는 것이 네트워크 수요를 줄이는 방법이라는 점도 수용하기 쉬워진다. 애플 기기에는 이미 고성능 저전력 프로세서가 탑재되어 있어 다양한 AI 기반 작업을 처리하기에 충분하다. 따라서 애플이 자사 디바이스에서 작동할 수 있는 생성형 AI 모델에 지속적으로 투자하는 것은 타당하다. 이미 많은 애플 인텔리전스 기능이 채택한 방식이기도 하다.

네트워크 자원을 절약해야 하는 이유는 단지 비용 효율성 때문만이 아니라, 응답 속도와도 관련이 있다. 예를 들어, AI가 필수적인 미션 크리티컬 환경에 더 폭넓게 도입될수록, AI 요청과 그 해결 간의 지연은 치명적일 수 있다.

보행자 횡단보도 앞에서 자율주행차의 AI가 지연되는 것을 누구도 원하지 않으며, 고속열차가 같은 선로에서 서로를 향해 돌진하는 상황에서 철도 운영 시스템의 AI가 지연되는 것도 마찬가지로 허용될 수 없다. 일부 상황에서는 네트워크 지연이 생명을 위협할 수 있다. 그렇기 때문에 철자 교정, 요약, 녹취 등과 같은 일상적인 요청은 가능한 디바이스에서 처리함으로써 네트워크 혼잡 환경에서 더 중요한 작업에 자원을 집중할 수 있어야 한다.

이러한 이유로 엣지 인텔리전스에 대한 투자는 계속되어야 한다.

보안과 개인정보 보호의 해법

엣지 인텔리전스 투자는 기업 환경에서 프라이버시와 보안이라는 또 하나의 핵심 요구에도 부합한다. 더 많은 인텔리전스를 엣지 디바이스로 이동시키는 것이 바람직하며, 이를 위해 디바이스에서 실행 가능한 AI 모델을 개발해야 한다.

이러한 방식은 공격 표면을 대폭 줄이고, 네트워크 지연을 없애며, 개인정보 보호도 더욱 강력하게 보장할 수 있다.

따라서 엣지에서의 인텔리전스는 시간이 갈수록 중요해질 수밖에 없다. 애플이 자사 디바이스에서 작동하는 애플 인텔리전스 기반 기능은 더 큰 기능군의 출발점일 가능성이 크며, 그 전체 구성을 완성하려면 시간이 걸릴 수도 있다. 이러한 시간적 제약이 애플이 시리를 외부 AI 서비스와 연동하려는 움직임으로 이어졌다는 점도 주목할 만하다.

엣지 인텔리전스는 AI 생태계의 핵심이 될 것이다

결국, 엣지 인텔리전스가 AI 생태계의 핵심 요소가 되려면 여러 다양한 요소가 결합해야 한다. 더 많은 서비스와 시스템이 점차 네트워크에 의존하게 됨에 따라, 모든 이해관계자는 수요의 일부를 다른 쪽으로 오프로드하려 할 것이다. 모바일 통신사가 이미 통신 트래픽을 와이파이로 넘기는 전략을 통해 보여준 방식이다.

가장 상식적인 해법은 가장 흔한 요청을 디바이스에서 처리하는 것이다. 디바이스에서 생성형 AI 트랜잭션을 처리할 수 있다면, 서버 사용을 줄이는 동시에 명령을 보내고 결과를 받는 데 드는 전력까지 절약할 수 있다.

모바일 AI 인프라는 누가 만들 것인가

지금까지 살펴본 수많은 AI 기업과 이들과 협력하는 빅테크 기업 가운데, 이런 방식을 실질적으로 구현하기 위해 상당한 투자를 한 곳은 애플뿐이다. 이것이 애플만이 유일하다는 의미는 아니며, 성공을 보장하는 것도 아니다. 어쩌면 애플 내부에서는 이미 이 전략을 포기했을 수도 있다. 그러나 한 가지 분명한 점은, 네트워크는 점점 더 스마트해지고 디바이스는 더 복잡한 모델을 자체 처리할 수 있도록 발전할 것이라는 점이다.

그렇기에 단기적으로는 장애물이 존재하더라도, 장기적으로는 애플이 온디바이스 AI에 계속 투자해야 한다는 주장은 충분히 설득력이 있다. 그것이 바로 우리가 가야 할 방향이기 때문이다. 그리고 필자가 애플이 그 길을 계속 가길 바라는 이유이기도 하다.
dl-itworldkorea@foundryco.com