소프트웨어 개발자는 그 어느 때보다 높은 생산성을 경험하고 있지만, 동시에 점점 더 큰 불안감을 느끼고 있다. 생성형 AI 모델과 AI 코딩 어시스턴트의 부상은 소프트웨어 개발 방식을 근본적으로 바꿔 놓았지만, 여기에는 함정이 있다. 스택 오버플로우 2025 개발자 설문조사에 따르면, 개발자의 84%가 현재 AI를 사용하거나 사용할 계획이라고 답했다(2024년 76%에서 증가). 그러나 AI 출력 결과를 신뢰한다고 답한 비율은 33%에 그쳤다.

이 신뢰 격차는 AI의 한계를 체감한 현장의 경험에서 비롯한다. 응답자 66%는 AI가 생성한 코드가 “거의 맞지만 완전히 맞지는 않은” 경우가 많다고 보고했다. 그 결과, 개발자는 AI가 작성한 코드를 디버깅하고 다듬느라 추가 시간을 들이게 되고, 이는 눈에 보이지 않는 생산성 손실로 이어진다.

이것은 개발자만의 문제가 아니다. 오늘날 AI 기반 애플리케이션을 개발하려면 개발자와 데이터 과학자, 프롬프트 엔지니어, 제품 관리자, UX 디자이너 등 다양한 역할이 함께한다. 이들은 AI가 만든 신뢰 격차를 해소하기 위해 각자 고유한 역할을 맡고 있으며, 개발자는 다양한 개발 파이프라인을 조율해 신뢰할 수 있는 수준의 프로덕션 코드로 완성하는 데 핵심적인 역할을 한다.

‘거의 맞는’ 코드를 코치는 일

개발자의 삶을 더 편하게 만들어 줄 것이라던 도구에 왜 점점 실망하게 되는 걸까? 문제는 한 단어로 요약된다. 바로 ‘거의’다. 스택 오버플로우 조사에서 응답자의 66%가 AI 출력이 ‘거의 맞다’고 답했다. 복잡한 문제를 잘 처리한다고 믿는 비율은 29%였다(2024년의 35%에서 하락). 회의적인 시각은 충분히 합리적이다. 엔지니어링 책임자를 대상으로 실시한 별도의 설문조사에서 참가자의 약 60%는 AI가 생성한 코드의 절반 이상에서 버그가 발생한다고 답했다. 많은 개발자가 자신의 코드보다 AI가 만든 코드를 디버깅하는 데 더 많은 시간을 쓰고 있었다.

결과적으로 이는 잠재적인 생산성 세금(productivity tax)이 된다. 전반적으로는 여전히 더 빠르게 배포할 수 있지만, 그 속도는 누군가가 엣지 케이스, 보안 취약점, 아키텍처 불일치를 체계적으로 잡아낼 때만 유지된다. 그리고 그 ‘누군가’는 거의 항상 맥락을 이해하고 가드레일을 갖춘 개발자다.

소프트웨어 개발자가 여전히 코드의 상당 부분을 작성하고 시스템을 통합하지만, 그 역할은 이제 AI 감시(AI oversight)까지 확장되고 있다. 오늘날 개발자는 원본 코드를 작성하는 데 쓰는 시간만큼이나 AI가 생성한 코드를 검토하는 데 시간을 쓴다. 그들은 ‘거의 맞는’ 코드를 프로덕션에 반영하기 전에 완전히 올바른 코드로 만드는 최종 방어선 역할을 한다.

이제 개발자는 AI의 감독자, 멘토, 검증자 역할까지 맡는다. 특히 엔터프라이즈 환경에서는 제품의 무결성을 지키기 위해 AI가 기여한 코드를 승인하거나 거부하는 품질·신뢰성의 수호자가 된다. 프롬프트 엔지니어링을 별도의 전문 분야로 자리 잡으려는 시도가 있었지만, 실제 현장에서는 개발자와 데이터 과학자가 이 역량을 함께 익히고 있다. 스택 오버플로우 설문조사에 따르면, 응답자 36%가 지난 1년간 AI를 위해 새롭게 코딩을 배웠다고 답했다. 이는 AI 중심 역량이 전 분야에서 얼마나 중요한지를 보여준다.

좋은 소식이자 나쁜 소식은, 이제 코드를 만드는 주체가 개발자만은 아니다. 코드 작성에 관여할 수 있는 대표적인 역할은 다음과 같다.

• 모델과 데이터를 다루는 데이터 과학자와 머신러닝 엔지니어는 코드의 신뢰성을 높이는 데 핵심적인 역할을 한다. 잘 학습된 모델일수록 환각이나 의미 없는 출력을 내놓을 가능성이 낮다. 이들은 모델이 고품질의 대표성 있는 데이터로 학습되도록 보장하고, 철저한 평가 과정을 거치도록 해야 한다. 또한 가드레일을 구현해, 예를 들어 코드를 제안하는 AI가 보안에 취약한 패턴이나 알려진 취약 함수를 생성하지 않도록 한다.
• 제품 관리자와 UX 디자이너는 모든 소프트웨어 프로젝트의 큰 그림을 염두에 두고, 어디에 AI를 적용할지, 어디에는 적용하지 않을지를 결정한다. 동시에 사용자가 AI 기능과 어떻게 상호작용하고, 그 결과에 어느 정도의 신뢰를 부여할지를 설계한다. 유능한 제품 관리자는 “이 AI 기능이 정말 고객에게 제공할 준비가 되었는가?”, “품질 관리를 위해 휴먼 인 더 루프(human-in-the-loop)가 필요한가?”, “사용자 기대치를 어떻게 설정할 것인가?”와 같은 질문을 던진다. 또한 AI의 감사 가능성(auditability)과 설명 가능성(explainability) 같은 기능을 우선순위에 둘 수 있다. UX 디자이너는 AI 결과의 불확실성을 시각적 신호로 표시하는 방식으로 이를 보완할 수 있다. 뛰어난 제품 관리자와 UX 디자이너는 AI를 절대적인 예언자가 아닌 조력자로 인식시키는 방식으로 AI를 인간 친화적으로 설계해 신뢰를 구축할 수 있다.
• 품질 보증, 보안, 운영팀 등도 AI 애플리케이션 개발에서 빼놓을 수 없는 핵심 역할을 맡는다.

이처럼 수많은 역할이 얽혀 있는 상황에서 전통적인 소프트웨어 개발자의 위치는 어디일까? 여러 측면에서 개발자는 AI 기반 소프트웨어 프로젝트의 총괄자로 자리 잡았다. 이들은 앞서 언급한 모든 역할의 교차점에 서 있다. 제품 관리자의 요구사항을 코드로 구현하고, 데이터 사이언티스트가 제시한 모델과 가이드를 반영하며, 프롬프트 엔지니어가 조정한 프롬프트를 통합하고, 디자이너와 협력해 사용자 경험을 설계한다.

무엇보다 중요한 것은 개발자는 AI가 갖추지 못하는 ‘시스템에 대한 전체적인 관점’을 제공한다는 점이다. LLM은 요청에 따라 파이썬이나 자바 코드를 생성할 수 있지만, 시스템 아키텍처, 특정 비즈니스 로직, 레거시 스택의 특이점을 이해하지는 못한다. 그러나 개발자는 이를 이해하며, 바로 그 맥락이야말로 모든 것의 핵심이다.

무엇보다 중요한 점은 개발자를 대체 가능한 부품이 아니라 AI 책임자로 대우하는 기업이 더 큰 성과를 거두고 있다는 것이다. 흥미롭게도 스택 오버플로우 데이터에 따르면, AI를 더 자주 사용하는 개발자는 AI 도구에 대해 더 긍정적인 경험을 보고했다. 매일 AI를 사용하는 개발자의 88%가 AI 도구에 호감을 보인 반면, 주 1회 사용하는 개발자의 호감도는 64%에 그쳤다. 적절한 교육과 통합이 이루어진다면 개발자가 AI를 언제 신뢰하고 언제 의심해야 하는지 배울 수 있음을 시사한다.

AI 코드에 대한 신뢰 구축

AI를 둘러싼 과대광고 속에서 우리는 AI가 모든 소프트웨어를 완벽하게 작성하는 미래를 상상하거나, 반대로 AI가 말하는 모든 것을 신뢰할 수 없는 미래를 두려워한다. 그러나 현실은 늘 그렇듯 그 중간 어딘가에 있다. 최신 데이터와 개발자의 경험은 AI가 소프트웨어 개발의 강력한 증폭기로 자리 잡고 있음을 보여주지만, 그 성공 여부는 전적으로 이를 다루는 사람에게 달려 있다.

그렇다면 잘 운영되면서도 신뢰를 높이는 AI 애플리케이션 개발 프로세스는 어떤 모습일까?

• AI 시스템에는 반드시 견제와 균형 장치를 내장한다. AI가 코드를 제안한다면, 먼저 자동화된 테스트와 린팅(linting)으로 명백한 오류를 잡고, 나머지는 반드시 사람이 코드 리뷰를 거치도록 해야 한다. AI가 엔터프라이즈 애플리케이션에서 추천을 제공하는 경우(예 : 재무 예측), 신뢰 점수나 설명을 함께 제공하고, 중요한 결정은 반드시 인간 전문가가 검증해야 한다. 이는 책임이 수반되는 역할에서는 인간 검증이 필수적이라는 설문조사 결과와도 일치한다.
• 휴먼 인 더 루프를 유지한다. 이는 자동화를 거부하자는 뜻이 아니라, 자동화를 통해 인간의 전문성을 보완하되 이를 대체하지 말라는 의미다. 실제로는 개발자가 포럼이나 동료를 통해 AI 답변을 재검증하도록 장려하는 단순한 방식부터, 어려운 문제를 인간 전문가에게 자동으로 전달하는 AI 시스템을 구축하는 복잡한 방식까지 다양하게 구현할 수 있다. 어떤 형태이든 안전망이 존재한다는 사실을 인식할 때 사용자의 신뢰가 쌓인다.
• 역할을 명확히 하고 기대치를 설정한다. 팀 내에서 AI가 개입하는 경우, 누가 어떤 책임을 지는지 분명히 해야 한다. 예를 들어, 데이터 사이언티스트가 모델을 제공하면, 소프트웨어 개발자가 애플리케이션 환경에서 해당 출력 결과를 검증하는 식이다. 이렇게 책임 공백을 없애야 ‘거의 맞는’ 버그 같은 문제도 누군가가 반드시 발견할 수 있다.
• AI 뒤에 있는 사람에 투자하라. 어쩌면 가장 중요한 요소다. AI의 성과는 숙련된 인력이 AI를 올바르게 활용할 때만 현실이 된다. 개발자를 교육하고 데이터 사이언티스트를 채용하며, 디자이너에게 권한을 부여하는 등의 노력을 통해 기업은 신뢰할 수 있는 사람이 주도하는 신뢰할 수 있는 AI를 구축할 수 있다.

AI 시대의 소프트웨어 개발자는 신뢰의 수호자로 자리매김하고 있다. 이제 개발자는 단순히 코드를 작성하는 사람이 아니라, 지능형 기계를 이끌고 그 출력물을 신뢰할 수 있는 솔루션으로 통합한다.

‘개발자’의 정의는 소프트웨어 제작 과정에 기여하는 다양한 역할을 포함하는 방향으로 확장됐지만, 이들 모두에게는 공통된 사명이 있다. 기술이 우리에게 올바르게 봉사하도록 하고, 지름길로 가는 일이 없도록 보장하는 것이다. 프롬프트 엔지니어에서 제품 관리자에 이르기까지 앞서 언급한 모든 역할은 AI의 ‘거의 맞는’ 답변을 프로덕션에 투입 가능한 결과물로 다듬는 데 기여한다.
dl-itworldkorea@foundryco.com