생성형 AI가 우리의 삶을 얼마나 더 편리하게 만들어 주는지에 대해 모두가 찬양하는 가운데, 이런 ‘기적의 앱’을 만들어야 하는 개발자 사이에서는 다른 의견이 많다는 점이 IBM이 후원한 새로운 설문조사 결과에서 드러났다.

이 설문조사에서는 미국 내 1,000명 이상의 기업 개발자를 대상으로 생성형 AI 앱 개발 과정에서 직면하는 다양한 어려움을 조사했다.

프로세스의 문제점

예상대로 기술 격차가 주요 쟁점이다. 생성형 AI 분야에서 자신의 숙련도와 전문적 경험을 평가해 달라고 요청한 문항에서 스스로 생성형 AI 전문가라고 평가한 비율은 24% 미만이었다. 개발자를 7가지 직군(▲생성형 AI 개발자 ▲데이터 과학자 ▲소프트웨어 엔지니어 ▲시스템 개발자 ▲ML 엔지니어 ▲소프트웨어 개발자 ▲IT 엔지니어 ▲AI 엔지니어 ▲애플리케이션 개발자)으로 구분했을 때, 생성형 AI를 전문적으로 다룬다고 자평한 직군은 AI 개발자와 데이터 과학자뿐이었다. ML 엔지니어(43%)와 AI 엔지니어(38%) 중에서도 절반 이하만이 자신을 생성형 AI 전문가로 간주했다.

IBM 데이터 및 AI 총괄 매니저 리티카 군나는 블로그에서 이를 언급하며, “이는 생성형 AI 분야의 기술 격차를 잘 보여준다. 많은 개발자에게 이 분야는 새로운 영역이며, 가파른 학습 곡선을 요구한다. 또한 빠른 혁신 주기는 새로운 기술이 끊임없이 등장한다는 의미다”라고 말했다.

하지만 AI 기술 수준이 충분히 높은 개발자조차도 어려움을 겪는 경우가 많다고 군나는 지적했다. “기술 격차를 더욱 악화시키는 요인 중 하나는 신뢰할 수 있는 프레임워크와 툴킷 부족이다. 응답자들은 표준화된 AI 개발 프로세스의 부재를 주요 과제로 꼽았으며, 이와 함께 투명성과 추적 가능성의 우선 순위 지정도 중요한 문제로 지적했다”라고 설명했다.

이 두 가지 항목(▲표준화된 AI 개발 프로세스의 부재 ▲투명성과 추적 가능성의 우선 순위 지정)은 설문 응답자의 1/3이 언급하며 보고된 10가지 과제 중 최우선 과제로 꼽혔다. 그 뒤를 이어, 기업 상황에 맞춘 조정(32%), 기술 변화 속도(31%), 인프라 복잡성(29%), 거버넌스 및 규정 준수(28%)가 주요 도전 과제로 나타났다.

한편 LLM 품질은 응답자의 19%만이 과제로 지목했으며, 26% 이상의 개발자는 모든 프로그래머의 악몽으로 불리는 문제, 즉 ‘비즈니스 결과/목표에 대한 명확성 부족’에 직면했다고 답했다.

불적절한 툴

보고서에 따르면, 대부분 개발자는 업무 수행에 5~15가지의 툴을 사용한다. 응답자 35%는 5~10개, 37%는 10~15개, 13%는 15개 이상의 툴을 사용한다고 답했다. 하지만 이들 툴이 항상 개발자의 요구 사항을 충족하는 것은 아니다.

군나는 “기업용 AI 개발 툴에서 가장 중요한 특성으로 성능(42%), 유연성(41%), 사용 용이성(40%), 통합 가능성(36%)이 꼽혔다. 하지만 응답자 1/3 이상은 이런 특성이 가장 희귀한 요소라고 답했다”라고 말했다. 또한 응답자 약 1/3은 문서화 품질, 비용 효율성, 커뮤니티 지원 및 자원, 툴의 오픈소스 여부라는 다른 4가지 필수적인 특성에 대해서도 불만을 표시했다.

개발 업무에 필요한 툴의 수를 고려하면, 새로운 툴을 추가하는 데 시간을 많이 투자하기를 꺼린다는 점은 놀랍지 않다. 응답자 2/3(66%)는 새로운 AI 개발 툴을 배우는 데 2시간 이하만 할애할 의향이 있다고 답했으며, 22%는 3~5시간, 11%만이 5시간 이상을 투자할 의향이 있다고 밝혔다.

또한 전반적으로 개발자는 새로운 툴을 자주 탐색하지 않는 편이다. 매달 새로운 툴을 확인한다고 답한 응답자는 21%에 그쳤으며, 78%는 1~6개월에 한 번 새로운 툴을 살펴보고, 나머지 2%는 거의 또는 전혀 확인하지 않는다고 답했다. 새로운 툴을 탐색할 때는 평균 6가지를 살펴보는 것으로 나타났다.

한편, 응답자 절반 이상이 로우코드(65%)와 노코드(59%) 툴을 활용하고 있지만, 프로코드(Pro Code) 툴이 여전히 주를 이루고 있다(73%). 응답자 거의 대부분은 AI 개발 작업에서 AI 코딩 어시스턴트를 사용하고 있으며, 41%는 이를 통해 하루에 1~2시간을 절약할 수 있다고 답했다.

에이전트에 대한 우려

설문조사의 마지막 영역은 에이전트였다. 응답자 거의 전부(99%)가 AI 에이전트를 탐구하거나 개발 중이라고 답했으며, 이에 대한 우려 사항은 예상 가능한 수준이었다.

31%는 신뢰성(출력이 정확하고 편향되지 않도록 보장)을 걱정했으며, 23%는 악의적인 행위자가 악용할 수 있는 새로운 공격 벡터가 될 것을 우려했다. 또한, 22%는 규정 준수 및 법규 준수를, 또 다른 22%는 에이전트가 지나치게 자율적이 되어 인간의 감독과 시스템에 대한 가시성이 상실될 가능성을 우려했다.

그럼에도 불구하고 가장 인기 있는 3가지 사용례는 예상대로였다. 고객 서비스 및 지원(50%), 프로젝트 관리/개인 비서(47%), 콘텐츠 제작(46%)이 주요 사례로 꼽혔다. 에이전트 관련 활용례를 탐구하지 않는다고 답한 응답자는 1%에 불과했다.

변화의 요구

이번 설문조사는 AI와 생성형 AI가 비즈니스에서 점점 더 중요해지고 있지만, 이를 개발하는 데 필요한 툴과 기술이 충분히 그 속도를 따라오지 못하고 있다는 사실을 부각한다.

군나는 “설문 결과는 AI 개발의 복잡성을 해결하는 데 도움이 될 수 있는 방안을 제시하며, 이미 일부 도움이 되는 툴도 소개하고 있다. 생성형 AI 환경의 빠른 변화 속도를 고려할 때, 개발자는 배우기 쉬운 툴을 갈망하고 있다는 점이 명확하다. 또한 개발자 생산성과 관련해서는 AI 기반 코딩 툴의 광범위한 채택과 상당한 시간 절약 효과가 확인됐다”라고 말했다.

이는 점점 더 중요해지고 있는 생성형 AI 애플리케이션을 구축하기 위해 개발 스택에 더 많은 관심과 노력이 필요하다는 것을 의미한다.

군나는 “생성형 AI와 관련한 광범위한 논의에서 AI 개발 스택은 충분한 주목을 받지 못하고 있다. 그러나 이 스택은 기술의 영향력에서 매우 중요한 역할을 할 수 있다. AI 스택을 이 기술이 만들어내는 애플리케이션만큼이나 간단하고 직관적으로 만들어야 한다”라고 덧붙였다.
dl-itworldkorea@foundryco.com