많은 기업이 작업을 자동화하고 프로젝트 속도를 높이고 코드 품질을 개선하고 개발자 생산성을 강화할 방법을 모색하면서 소프트웨어 개발에서 AI의 중요성이 점점 더 커지고 있다. AI 툴은 버그 탐지, 소프트웨어 테스트, 코드 생성과 같은 작업에 도움이 될 수 있다.

소프트웨어 개발에서 AI의 역할이 중요해지면서 많은 개발자가 원하는 회사에 취업하기 위해 갖춰야 할 기술과 역량이 무엇인지 궁금해하고 있다. 이 궁금증에 답하기 위해 여러 기술 책임자에게 현재 AI 중심 개발에서 반드시 필요한 기술이 무엇인지 물었다.

AI가 비즈니스에 미치는 영향을 평가하는 능력

AI 중심 조직은 AI/ML, 딥러닝에 대한 개념적 이해뿐만 아니라, 비즈니스 목표를 달성하기 위해 이런 기술을 어떻게 적용해야 하는지에 대한 이해까지 갖춘 개발자를 원한다.

AI 기반 신용 위험 분석 플랫폼인 엔파이(EnFi)의 CTO 스콧 웰러는 “트랜스포머 모델이 어떻게 작동하는지를 아는 것만으로는 충분하지 않다. 비즈니스 성과를 이끌어내기 위해 언제, 왜 AI를 사용해야 하는지를 아는 것이 중요하다”면서 “개발자는 휴리스틱, 전통적인 소프트웨어, 머신러닝 간의 절충을 이해해야 하며 실용적이고 측정 가능하고 책임감 있는 방식으로 AI를 워크플로우에 통합할 수 있어야 한다”라고 말했다.

옴니채널 고객 참여 플랫폼 제공업체인 슬릭플로우(SleekFlow)는 제품의 많은 부분을 AI에 의존한다. 이 회사의 CTO인 라이 가오는 “슬릭플로우는 단순히 새로운 기술이라고 해서 AI를 사용하는 것이 아니라, 명확한 비즈니스 수익이라는 비전을 두고 있다. 개발자 또는 엔지니어는 LLM이나 추천 시스템 같은 모델이 어떻게 실질적인 가치로 전환되는지를 이해해야 한다”라고 말했다.

예를 들어 개발자는 AI 기반 소프트웨어가 전환율을 높이거나 고객 지원을 자동화하는 데 어떻게 도움이 될 수 있는지를 이해해야 한다. 가오는 “단순히 좋은 모델을 만드는 것이 아니라 비즈니스 프로세스에 유익하게 활용하는 것이 관건”이라고 말했다.

소프트웨어 공급망 관리 툴 제공업체인 소나타입(Sonatype)의 최고 제품 개발 책임자 미첼 존슨은 “저수준 코딩 부담을 AI가 상당 부분 가져가는 만큼 개발자는 단순히 뭔가를 만들 방법을 고민하기보다는 그것을 만드는 이유에 더 많은 관심을 기울여야 한다”라고 말했다.

존슨은 “고객 영역, 제품-시장 적합성, 그리고 비즈니스 영향을 이해하는 것이 중요해지고 있다. AI 네이티브 기업은 제품 관리 분야에 더 근접한 개발자, 즉 사용자 문제를 파악하고 절충안을 마련하고 결과물을 구체화할 역량을 가진 개발자를 높이 평가한다”라고 말했다.

데이터 인프라, 관리, 분석 분야의 경험

AI/ML은 효과적인 결과를 도출하기 위해 방대한 양의 데이터에 의존한다. 따라서 개발자에게는 데이터 인프라와 관리, 분석에 대한 탄탄한 이해가 필요하다.

웰러는 “AI 우선 시스템에서는 데이터가 곧 제품이다. 위생 절차가 제대로 이뤄지지 않으면 모델 성능이 그만큼 떨어지기 때문에 개발자는 데이터 수집, 정제, 라벨링, 분석에 익숙해야 한다. 이러한 능력에는 현대 데이터 스택, SQL, 클라우드 네이티브 데이터 툴에 대한 높은 숙련도가 포함된다”라고 말했다.

가오는 AI 모델의 성능은 그 모델을 움직이는 데이터 파이프의 성능에 좌우된다면서 “분산 데이터 플랫폼을 다루고 데이터 수집부터 실시간 분석에 이르기까지 모든 부분을 조율할 수 있는 엔지니어를 찾고 있다”라고 말했다.

또한 데이터 메시, 스트림 처리, 이벤트 기반 아키텍처와 같은 새로운 개념에 대한 지식이 점점 더 중요해지고 있다면서 “슬릭플로우는 서비스 간에 고속 데이터 전송이 가능하도록 분산 메시징 인프라를 구축했으며, 새로운 컨텍스트 기반 입력에 AI 모델을 적용할 수 있도록 했다”라고 덧붙였다.

IT 서비스 제공업체 에퀴닉스(Equinix)의 기술 리더이자 IEEE 선임 회원인 바이바브 투페는 “AI 애플리케이션의 성능은 전적으로 데이터에 의해 좌우되지만 기존 데이터 엔지니어링 접근 방식은 AI 워크로드를 처리하는 데 역부족”이라고 덧붙였다.

투페는 “개발자는 데이터 파이프라인 구축, 머신러닝에 최적화된 특성 개발, 그리고 AI 요구사항에 맞는 데이터 품질 관리에 특화된 역량을 갖춰야 한다. 예를 들어 실시간 특성 저장소를 구축하고 데이터 검증을 자동화하고 학습 데이터와 추론 데이터 간의 차이를 효과적으로 관리하는 역량이 여기에 포함된다”라고 말했다.

기존 시스템에 AI 툴을 통합하는 역량

AI 기반 툴이 기존 시스템과 조화롭게 작동하지 않으면 고객은 아무런 혜택을 얻지 못할 수 있다.

IFS의 CTO 케빈 밀러는 “IFS는 산업계 기업의 AI 도입을 돕는 만큼 탄탄한 AI/ML 통합 및 구현 역량을 갖춘 개발자를 최우선으로 채용한다”라고 말했다. IFS는 복잡한 자산을 제조, 정비, 관리하는 기업을 위한 산업용 소프트웨어를 공급한다.

밀러는 “AI 기반 예측 유지보수는 IFS의 모든 고객에게 매우 중요한 기능이다. 이를 잘 작동하는 제품으로 구현하려면 어떻게 해야 할까? 상황을 종합해 결론을 내리고, SCADA(감시 제어 및 데이터 수집) 시스템과 같은 산업용 툴과 호환되는 예측 유지보수 알고리즘을 구현하고, 실시간 센서 데이터를 머신러닝 모델에 공급하는 강력한 데이터 파이프라인을 구축할 수 있는 개발자가 필요하다”라고 설명했다.

AI 안전성과 신뢰성 확보에 대한 경험

산업 제조와 같은 몇몇 분야에서는 AI 시스템의 안전성과 신뢰성을 최우선으로 고려해야 하므로 이러한 분야의 AI 중심 기업들은 안정성 및 신뢰성 확보 측면에서 역량과 경험을 갖춘 소프트웨어 엔지니어를 찾는다.

밀러는 “공장에서는 AI 오류가 안전사고 또는 생산 중단으로 이어질 수 있기 때문에 AI 안정성 및 신뢰성 엔지니어링은 무결점 안전 환경을 중시한다”라고 강조했다.

밀러에 따르면 고객의 신뢰를 얻기 위해 IFS에는 AI 예측이 불안정해질 때를 감지하고 필요시 기존 제어 방식으로 자동 롤백 메커니즘을 구현하는, 포괄적인 모니터링 시스템을 구축할 수 있는 개발자가 필요하다.

밀러는 “여기에는 엣지 케이스와 적대적인 조건에서 AI 행동을 검증할 수 있는 중복 시스템과 광범위한 테스트 프레임워크를 개발하는 것이 포함된다”라고 말했다.

클라우드 기반 AI 배포 경험

현재 IT 인프라에서 클라우드 서비스의 주도적인 역할을 고려하면 클라우드 AI 배포와 API 통합 분야에서 경험이 있는 개발자가 유리하다.

마이크로소프트의 수석 소프트웨어 엔지니어링 관리자인 나가 산토시 레디 부투쿠리는 “지금은 클라우드가 모든 것”이라고 언급했다. 따라서 개발자는 아마존 웹 서비스, 구글 클라우드 플랫폼, 마이크로소프트 애저와 같은 클라우드 플랫폼에서 AI 툴을 사용하는 데 능숙해야 한다.

부투쿠리는 “이런 역량을 갖추면 AI 애플리케이션이 외부 툴과 데이터 소스에 쉽고 안전하게 연결할 수 있게 해주는 개방형 표준인 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)을 활용해서 AI 솔루션을 호스팅하고 기존 레거시 시스템에 통합할 수 있다”라고 말했다.

고급 프롬프트 엔지니어링과 LLM 통합

프롬프트 엔지니어링은 생성형 AI 모델에서 가능한 최선의 결과를 도출하기 위한 명령을 설계하고 생성하는 과정이다. 이 프롬프트 엔지니어링이 부상하면서 다양한 산업 분야에서 사용 사례가 확대되고 있다. 프롬프트 엔지니어링은 콘텐츠 생성, 문제 해결, 언어 번역에 사용되며, 생성형 AI 모델이 다양한 유형의 질의에 응답할 수 있게 해준다.

투페는 “대형 언어 모델이 빠르게 성장하면서 이제 개발자는 프롬프트 설계, 효과적인 컨텍스트 윈도우 관리, LLM API와의 원활한 통합을 심층적으로 이해해야 한다. 이런 역량은 기본적인 챗GPT 상호작용을 훨씬 뛰어넘는 수준”이라고 말했다.

이어 “개발자는 정교한 프롬프트 체인을 구축하고, 대규모 배포를 다루고, 요청 수 제한을 관리하고, 비용을 최적화하고, 여러 LLM을 원활하게 통합하는 방법을 알아야 한다. 단순히 기초적인 프롬프트를 작성할 줄 아는 개발자와 철저한 테스트와 평가, 모니터링으로 뒷받침되는 견고한 엔터프라이즈급 LLM 시스템을 설계할 수 있는 개발자 사이에는 큰 차이가 있다”라고 조언했다.

전략적 사고방식

AI 중심 프로젝트에 참여하는 개발자에게는 자신이 수행하는 작업에 대해 전략적으로 사고하는 역량이 필요하다.

여행 최적화 플랫폼 업체 컨펌드(Confirmed)의 CEO이자 “AI 시대의 시간 관리(Time Management in the Age of A.I.)” 워크숍 제작자이기도 한 데이비드 라딘은 “개발에서 단조로운 작업의 상당부분을 AI가 처리하면서 개발자로서는 전략적 사고방식, 즉 문제를 보고 분석하고 해결 방향을 결정하는 능력을 갖추는 것이 중요해지고 있다”라고 말했다.

라딘은 “양질의 프롬프트를 입력하면 많은 경우 AI도 좋은 코드를 제공하며, 프롬프트에 전략적 방향을 제시해서 원하는 유형의 해결책을 찾도록 AI를 유도할 수 있다. 전략적 사고방식을 갖추면 AI가 기대 이하의 응답을 제공할 때 그 응답을 분석하고 필요한 방향에 더 근접할 수 있도록 프롬프트를 제공하거나 직접 보완하는 데 도움이 된다”라고 말했다.

뛰어난 시간 관리 능력

시간 관리는 거의 모든 유형의 직무에 적용되는 역량이며 AI 중심 조직의 소프트웨어 개발자도 예외는 아니다.

라딘은 “AI 중심 기업에서는 뛰어난 시간 관리 능력이 여전히 가장 중요한 자격 요건 중 하나”라고 강조했다.

또한 “이는 조직과 개인이 각자의 목표를 달성하는 데 도움이 될 뿐만 아니라, AI 시대에 개발 센터에서 인간의 중요성을 보여주는 역할도 한다. 이 능력을 갖추면 감원 위험이나 마감일 또는 목표 미달에 대한 우려를 줄일 수 있다”라고 설명했다.

모호함을 받아들이는 자세

기술이 끊임없이 변화하므로 AI를 다루는 개발자에게는 적응력과 배움에 대해 열린 자세가 필요하다.

존슨은 “툴과 패러다임은 매달 바뀐다. 성장에 대한 지금의 사고방식은 단순한 학습을 넘어 기본적으로 AI를 출발점으로 본다. 우수한 개발자는 본능적으로 ‘이 문제를 먼저 AI로 해결한다면 어떻게 해야 할까?’를 자문한다. 이들은 접근 방식 자체를 처음부터 새로 정립해서, AI를 나중에 붙이는 부가 기능이 아닌 중심에 두고 프로세스와 툴, 기능을 설계한다”라고 말했다.

또한 웰러는 개발자가 모호함과 빠른 반복에 익숙해져야 한다면서 “AI 개발은 본질적으로 확률 기반이다. 출력은 달라질 수 있고 시스템은 변질되고 피드백 루프가 발생한다. 개발자에게는 잘못된 코드뿐만 아니라 잘못된 전제까지 디버깅할 수 있는 노련함이 필요하다. 최고의 개발자는 이와 같은 모호함을 받아들이고, 시간이 지나면서 진화하는 탄력적이고 테스트할 수 있는 시스템을 구축한다”라고 부연했다.

웰러는 빠른 반복에 대한 익숙함이 필수 요건이라면서 “이 분야는 변화의 속도가 워낙 빠른 만큼 개발자는 부단히 전제를 검증해야 한다”라고 덧붙였다.
dl-itworldkorea@foundryco.com