자율형 AI를 위한 전용 데스크톱 애플리케이션은 비교적 기술 지식이 많지 않은 사용자도 대형 언어 모델(LLM)을 쉽게 활용하도록 돕는다. 사용자가 직접 파이썬 프로그램을 작성하거나 모델 파일을 일일이 관리할 필요가 없다. IDE와 유사한 인터페이스를 열고, 하나 이상의 LLM과 상호작용하며 대화 기록을 확인하거나 세부 동작을 점검할 수 있다.

아마존과 구글도 AI 기반 코드 개발에 초점을 맞춘 전용 제품을 각각 선보였다. 아마존의 키로(Kiro), 구글의 안티그래비티(Antigravity)가 대표적이다. 두 제품 모두 모델을 로컬 환경에서 실행하거나 클라우드에서 구동하는 방식을 지원한다.

엘리먼트 랩스(Element Labs)가 개발한 LM 스튜디오(LM Studio)는 로컬 우선 경험을 전면에 내세운다. LLM을 실행하고 운영하며 활용하는 전 과정을 PC에서 처리하는 방식이다. 코드 개발보다는 일반적인 대화형 활용에 초점을 맞췄다. 기능 구성은 아직 단출하지만, 기능적인 면에서는 충분한 완성도를 갖췄다.

모델 설치와 관리

LM 스튜디오를 처음 실행하면 가장 먼저 하나 이상의 모델을 설치해야 한다. 사이드바 버튼을 누르면 개발사가 선별한 모델 검색 패널이 열린다. 모델 이름이나 제작자 기준으로 검색할 수 있고, 현재 사용 중인 PC의 가용 메모리에 맞는 모델만 필터링하는 기능도 제공한다. 각 모델 페이지에는 파라미터 규모, 주요 용도, 도구 사용 학습 여부 등이 정리돼 있다. 이번 테스트에서는 다음 3가지 모델을 내려받았다.

• 지에이아이(Z.ai)의 GLM 4.7 플래시(GLM 4.7 Flash)
• 엔비디아의 네모트론 3 나노(Nemotron 3 Nano)
• 오픈AI 오픈소스 모델 GPT-OSS 20B 버전

모델 다운로드와 관리는 모두 애플리케이션 내부에서 처리한다. 컴피UI(ComfyUI)처럼 모델 파일을 수동으로 정리하거나 경로를 직접 관리할 필요가 없다.

LM 스튜디오의 모델 선택 화면. 목록은 개발사가 선별해 제공한다. 사용자는 앱의 모델 디렉토리에 파일을 추가하는 방식으로 이 인터페이스 외부에서 모델을 직접 설치할 수도 있다.

Foundry

LLM과 대화

LLM과 대화를 시작하려면 창 상단 선택기에서 메모리에 올릴 모델을 고르면 된다. 모델 실행 방식도 세부 조정할 수 있다. 예를 들어 모델 전체를 메모리에 적재할지, 추론 처리에 사용할 CPU 스레드 수를 얼마나 할당할지, 일부 레이어를 GPU로 넘길지 등을 설정한다. 기본값만으로도 무리 없이 작동한다.

모델과의 대화는 별도 탭에 기록된다. 모델 내부 추론 과정이나 도구 연동 정보도 함께 확인할 수 있다. 현재 대화에서 사용했거나 남은 토큰 수를 실시간으로 보여주기 때문에 대화가 길어질수록 자원 사용량이 어떻게 변하는지 가늠할 수 있다.

로컬 파일을 활용하려면 파일을 대화 창으로 끌어다 놓으면 된다. 예를 들어 “이 문서의 표현을 더 명확하게 다듬어 달라”라고 요청할 수 있다. 통합 기능을 통해 모델에 로컬 파일 시스템 접근 권한을 부여하는 것도 가능하다. 다만 업무에 필수적인 데이터가 저장된 시스템에서는 신중하게 사용하는 것이 안전하다.

LM 스튜디오에서 모델과 대화하는 화면 예시. 대화 내용은 다양한 형식으로 내보낼 수 있으며, 모델 내부 추론 과정을 펼쳐 확인할 수 있다. 오른쪽 사이드바에는 여러 통합 기능이 표시돼 있으며 현재는 모두 비활성화 상태다.

Foundry

통합 기능

LM 스튜디오는 모델 컨텍스트 프로토콜(Model Context Protocol, MCP) 서버 애플리케이션을 추가해 에이전트 기능을 확장할 수 있다. 기본으로 제공하는 통합 기능은 하나뿐이다. 자바스크립트 코드 샌드박스로, 모델이 데노(Deno) 환경에서 자바스크립트나 타입스크립트 코드를 실행하도록 지원한다. 웹 검색을 지원하는 통합 기능이 기본 포함됐더라면 더 유용했을 것이다. 다만 약간의 설정만으로 브레이브(Brave) 검색 통합 기능을 추가할 수 있었다.

문제는 통합 기능 추가 과정이 전적으로 수동이라는 점이다. 자동으로 통합 기능을 설치하는 방식도 없고, 탐색할 수 있는 통합 기능 디렉토리도 제공하지 않는다. 사용자가 직접 mcp.json 파일을 수정해 원하는 통합 기능을 정의하고, 필요한 코드도 스스로 추가해야 한다. 동작은 하지만 절차가 번거롭다. 이 부분은 LM 스튜디오에서 가장 먼저 개선해야 할 대목으로 보인다.

그럼에도 MCP 서버 연동 구조 자체는 비교적 잘 설계됐다. 프로그램을 완전히 종료하지 않아도 통합 기능을 비활성화하거나 다시 활성화하고, 추가하거나 수정할 수 있다. 특정 대화에만 통합 기능을 허용하거나, 프로그램 전체에 대해 접근을 승인하는 방식으로 화이트리스트를 설정할 수도 있다. 매번 에이전트 접근 권한을 승인하지 않아도 된다는 점은 편리하다. 다만 필자는 보안 우려 때문에 이 기능은 활성화하지 않았다.

API로 에이전트 기능 확장

LM 스튜디오는 데스크톱 애플리케이션 형태뿐 아니라 헤드리스 서비스로도 모델을 실행할 수 있다. 어떤 방식이든 REST API를 제공해 모델과 상호작용하고, 채팅을 수행하며, 결과를 한 번에 받거나 스트리밍 형태로 받아볼 수 있다. 최근에는 앤트로픽 호환 엔드포인트도 추가됐다. 이를 활용하면 클로드 코드를 LM 스튜디오와 함께 사용할 수 있다. 코드 중심 제품인 키로나 안티그래비티 같은 도구와 연계해 자체 호스팅 모델을 워크플로우에 포함하는 것도 가능하다.

또 하나 주목할 기능은 API 엔드포인트를 통한 도구 사용이다. 사용자가 LM 스튜디오 API와 상호작용하는 스크립트를 작성하면서, 자체 도구를 함께 연결할 수 있다. 이렇게 하면 모델과 외부 도구 사이에 복합적인 상호작용을 구성할 수 있다. 기본 구조만 제공하는 것이 아니라, 사용자가 직접 에이전트형 동작을 설계하고 구현하는 기반을 마련해 준다는 점에서 의미가 있다.

LM 스튜디오의 내부 서버 설정 화면. 산업 표준 API를 통해 모델을 제공하도록 설정할 수 있으며, 사용자 인터페이스에서 성능과 보안 관련 세부 옵션을 조정할 수 있다.

Foundry

결론

LM 스튜디오는 깔끔한 인터페이스와 기본적인 편의 기능을 갖춘 출발점이라는 인상을 준다. 다만 핵심 기능 상당수가 아직 빠져 있다. 향후 릴리즈에서는 실질적으로 활용도를 높일 기능을 보강해야 할 것으로 보인다.

도구 통합은 여전히 수동 작업에 의존한다. 선별한 도구 디렉토리를 탐색하고 내려받는 구조도 없다. 기본 제공 도구도 매우 제한적이다. 예를 들어 웹 브라우징이나 웹 콘텐츠 수집 기능조차 제공하지 않는다.

또 다른 문제는 일부 구성 요소, 예를 들어 명령줄 도구는 공개했지만 LM 스튜디오 자체는 오픈소스가 아니라는 점이다. 현재 라이선스는 무료 사용을 허용하지만, 향후에도 같은 조건을 유지할지는 미지수다. 그럼에도 이 초기 버전만으로도 LM 스튜디오는 로컬에서 모델을 실행할 수 있는 하드웨어와 기본 지식을 갖춘 사용자에게 충분히 실용적인 도구다.
dl-itworldkorea@foundryco.com