영국 초당파 의원 모임인 의회 공공회계위원회(PAC)이 영국 의회의 공공 부문 AI 계획이 기술적난제에 직면했다는 내용의 보고서를 발표했다.

사실 기업에서 AI를 활용하려고 시도해 본 사람이라면 누구나 익숙한 문제가 원인으로 지목됐다. 쓸모없는 시스템의 사각지대, 품질이 낮은 데이터, 그리고 기술을 구현할 수 있는 숙련된 인력의 만성적인 부족이다.

그 외에도 AI 기술을 통제하는 기술 업체의 독점적 권력이라는 또 다른 문제가 있다.

AI를 추진하기 위해 영국 정부 디지털 서비스(GDS)가 만들어진 지 불과 몇 주 만에 발표된 이번위원회의 정부 내 AI(AI in Government) 보고서는 냉정한 현실의 점검 결과로 읽힌다.

자유로운 AI라는 이상

보고서에서 위원회는 “구식 레거시 IT 시스템에 갇혀 있는” 저품질 데이터를 시작으로 여러 가지 우려를 지적했다. 이전에 레거시 장벽으로 확인된 72개 시스템 중 21개 시스템은 이러한 문제를 극복하기 위한 개선 자금을 아직 받지 못했다고 한다.

또한, AI에서 정부 데이터 사용의 투명성이 부족해 대중의 불신과 향후 시민의 동의 철회로 이어질 위험이 있다고 지적했다. 다른 문제로는 2024년 영국 국립감사원(NAO)의 설문조사에 응답한 정부 기관의 70%가 언급한 AI 및 디지털 기술의 지속적인 부족이 있다.

또한 위원회는 영국 정부 부처가 AI 테스트 파일럿을 사일로 방식으로 운영해 더 광범위한 교훈을 얻기가 어렵다고 지적했다. 제프리 클리프턴-브라운 위원장은 영국 정부가 AI를 국가의 핵심으로 삼고 싶다고 말했지만, 조사 결과 공공 부문이 그러한 절차에 대한 준비가 되어 있는지에 대한 의문이 생겼다고 말했다.

클리프턴-브라운은 “불행히도 과거 영국 정부의 경직된 디지털 아키텍처를 면밀히 조사했다면, 정부가 갑작스러운 변화를 약속하면 보통 믿을 수 없음을 알고 있을 것”이라고 덧붙였다.

AI 과독점 우려

이 문제에는 많은 것이 걸려 있다. 많은 정부에서 AI는 종종 국가를 정비하고 더 효율적이고 저렴하게 운영하기 위한 핵심 요소로 언급된다. 여러 국가에서 중요한 의제로 부각되기도 했다. 진전이 더디면 약속에 의문이 제기될 것이다.

위원회는 보고서에서 소수의 AI 기업의 시장 지배력에 주목했다. 기술 산업은 시간이 지남에 따라 독점 경향을 보이지만, AI의 경우 특히 기술 종속과 비용 상승으로 이어질 수 있으며, 장기적으로 개발을 저해할 수 있다는 입장을 보였다.

최근 구글의 지원을 받아 소규모 클라우드 서비스 업체로 구성된 로비 그룹인 오픈 클라우드 연합(OCC)에 따르면, 영국 정부의 인공지능 관련 정책은 2010년대 이후 클라우드 서비스의 경쟁 부족을 포함한 문제와 유사하다.

OCC 수석 고문 니키 스튜어트는 “보고서는 AI의 공공 조달에서 소수의 대형 기술 공급업체가 지배적 위치를 점하면서 경쟁과 혁신을 저해하고 성장을 방해한다는 것을 보여준다. 클라우드 계약에서 OCC가 목격한 문제와 정확히 일치한다”라고 말했다.

클라우드와 AI는 공생 관계에 있으며, 주로 미국 기술 회사로 구성된 소규모 그룹이 둘 중 하나 또는 둘 모두를 지배하게 되면, 탈출하기 어려운 독점 구조가 형성될 위험이 있다.

스튜어트는 “개혁이 없다면 정부는 소수의 주요 공급업체에 지나치게 의존하게 되어 혁신적이고 선도적인 기술에 대한 접근성과 유연성을 제한하고, 납세자들을 비싸고 제한적인 계약에 묶어두게 될 것”이라고 우려했다.

인공지능을 항공우주 분야에 적용하는 업체인 오비스카이 시스템(OrbiSky Systems)의 CTO 실베스터 카츠마렉은 업체의 지배력이 혁신을 저해할 수 있다는 데 동의했지만, 인공지능이 가져올 비용 절감 효과에 대해서는 여전히 회의적이었다. 카츠마렉은 기술이 그 진가를 발휘하는 곳은 언제나 구현 단계라고 지적했다.

또한, 카츠마렉은 단기적으로 절약 효과가 과대 광고일 가능성이 크다며 ”대규모의 신뢰할 수 있는 AI를 안전하게 배포해 의미 있는 절약 효과를 거두기 위해서는 많은 기초 작업이 필요하다. 정부는 현실적인 로드맵과 보다 포괄적인 가치를 우선시해야 한다”라고 강조했다.
dl-itworldkorea@foundryco.com