최근 오픈AI가 추론 모델인 OpenA1 o1과 개발자를 위한 새로운 도구를 API로 릴리즈한 데 대해 업계 전문가들은 “많은 기업이 단순한 채팅 기반 애플리케이션보다 에이전트 애플리케이션으로 초점을 옮기고 있는 상황에서 기업이 주로 거론하는 업체로 남기 위한 현명한 대처”라고 평가한다.

무어 인사이트 앤 스트래티지스의 부사장 겸 대표 애널리스트인 제이슨 앤더슨은 “AWS, 구글, 마이크로소프트가 베드록과 AI 파운드리 같은 API 기반 다중 모델 개발 프레임워크를 출시하고 있기 때문에 일종의 방어적인 움직임”이라고 분석했다. 앤더슨은 또 이런 프레임워크 중 일부는 “오픈AI를 잠재적 모델 대상으로 삼고 있지만, 모델 라우팅과 같은 새로운 기능도 갖추고 있어 프레임워크 솔루션 업체가 오픈API를 지속적으로 사용한다는 보장은 없다”고 덧붙였다.

12일간 진행되는 자사의 쉽마스(Shipmas) 캠페인의 일환으로 발표된 OpenA1 o1 API에 대해 오픈AI는 프로덕션 준비가 완료됐으며, “시각적 입력이 중요한 과학, 제조 또는 코딩 분야에서 더 많은 애플리케이션을 활용하기 위해 이미지를 추론할 수 있는 비전 기능을 포함하고 있다”라고 설명했다. 다른 향상된 기능으로는 o1을 외부 데이터 및 API에 연결하는 함수 호출과 개발자가 “모델이 응답하기 전에 생각하는 시간을 제어”할 수 있는 API 매개변수 등이 있다. 이 기능은 API의 최상위 사용 계층인 티어 5에서 사용할 수 있다.

개발자 도구 세트에 추가된 다른 기능으로는 실시간 API의 개선 사항이 포함됐는데, 오픈AI는 “개발자가 지연 시간이 짧은 다중 모드 대화 환경을 만들 수 있다. 현재 텍스트와 오디오를 입력과 출력을 모두 지원하며 함수 호출 기능도 지원한다”고 밝혔다.

그중에서도 가장 중요한 것은 여러 플랫폼에서 실시간 음성 제품을 더욱 쉽게 구축하고 확장할 수 있는 개방형 표준인 WebRTC와의 통합이다. 오픈AI는 “WebRTC 통합은 네트워크 품질이 다양한 실제 환경에서도 원활하고 반응이 빠른 인터랙션이 가능하도록 설계됐다”고 강조했다. 또한 사용자 및 개발자의 선호도에 따라 모델을 쉽게 조정할 수 있는 새로운 모델 맞춤화 기술인 선호도 미세 조정과 베타 버전으로 제공되는 고(Go) 및 자바용 새 SDK도 출시했다.

앤더슨은 후자에 대해 “퍼블릭 클라우드를 사용하는 개발자가 많이 사용하는 언어이기 때문에 상당히 흥미롭다. 이 API는 클라우드 서비스 업체가 ‘기성품’으로 제공하는 모델만 사용하는 사람들에게 의미 있는 대안을 제공한다”고 평가했다.

그러나 포레스터의 수석 애널리스트 앤드류 콘월은 “오픈AI가 ‘개발자를 위한 새로운 도구’라고 말할 때, 그것은 AI 개발자를 위한 도구를 의미한다”며, “다른 모든 사용자는 AI 개발자가 좋은 것을 손에 넣은 후에야 혜택을 볼 것이다. 현재 o1-2024-12-17 API는 티어 5 사용자에게만 배포되고 있기 때문에 시간이 좀 걸릴 것”이라고 지적했다.

콘월은 “아마도 가장 관심을 끄는 것은 o1-preview에는 없는 기능인 비전 지원일 것이다. 또한 최신 o1 모델은 프리뷰보다 더 정확한 응답을 반환하고 더 적은 거부율을 보고할 것이다”라고 말했다.

수학 및 코딩 기능에 대해서도 “프리뷰보다 향상됐으며, 경우에 따라서는 크게 향상됐지만, o1의 점수가 SWE 벤치 검증 리더보드의 리더인 아마존 Q의 자리를 빼앗지는 못할 것이다. 이외에도 오픈AI는 함수 호출과 구조화된 출력, 즉 AI 쿼리에서 프로그램을 호출하고 자연어가 아닌 개발자에게 친숙한 JSON으로 출력을 반환하는 기능을 개선했다”고 설명했다.

콘월은 “혁명적이지는 않다”며, “고와 자바용 SDK가 알파에서 베타로 전환됨에 따라 더 많은 개발자가 오픈AI의 가장 강력한 모델을 사용할 기회를 얻게 될 것이다. 많은 기업이 베타 버전의 안정성을 기다려 왔다”고 평가했다.

인포테크 리서치 그룹의 AI 시장 조사 책임자인 토마스 랜달은 “개발자를 위한 개방성과 유연성을 높임으로써 오픈AI는 개발자가 가장 선호하는 모델 제공업체로서 시장 점유율을 유지하는 것을 목표로 하고 있다. 오픈AI의 모델과 이미 AI 강화 제품에 오픈AI를 활용하고 있는 소프트웨어 회사 사이에 더 깊은 의존성이 형성될 수 있다”라고 덧붙였다.
dl-itworldkorea@foundryco.com