AI 기업은 고객사가 아무리 민감한 데이터를 많이 제공하더라도 “조금만 더” 공유하면 모든 것이 더 나아질 것이라고 믿는다. ‘데이터가 너무 많다’라는 개념은 대부분의 AI 업체에 존재하지 않는다. 이는 마치 오픈AI에 ‘수익성’이라는 개념이 낯선 것과 같다.

실제로 오픈AI는 기업이 보유한 거의 모든 데이터를 수집하려는 대담한 계획을 추진하고 있다. 그 시도가 어떤 결과로 이어질지는 굳이 상상하지 않아도 짐작할 수 있다.

AI 기업 대부분이 내세우는 공통된 홍보 문구는 “이 시스템은 인간 직원이 3개월 걸릴 일을 단 몇 초 만에 처리할 수 있다”라는 주장이다. 그러나 실제 사용자 경험은 이와 정반대다. 오늘날의 대부분 스마트 시스템은 그 이름과 달리 전혀 스마트하지 않다.

이는 단순히 데이터나 분석의 신뢰성에 국한하는 문제가 아니다. 물론 그 부분도 심각한 이슈다. 많은 모델이 오래된 데이터나 신뢰도가 낮은 정보를 기반으로 학습돼 있으며, 끝없이 이어지는 환각 문제는 여전히 해결되지 않았다. 또한 이러한 시스템은 사용자의 질의 의도를 정확히 이해하지 못하거나 데이터를 잘못 해석하는 경우가 많다. 나아가 사용자가 필요한 정보를 얻기 위해 부적절한 프롬프트를 입력하더라도, 이를 인지하고 교정할 능력이 제한적이다.

이 문제의 본질은 따로 있다. AI 업체는 자사의 기술을 “세상에서 가장 똑똑한 비서를 두는 것과 같다”라고 홍보하지만, 실제 사용자가 이 도구를 현실에서 사용해 보면 그 ‘스마트함’은 어디에서도 찾아볼 수 없다. 이런 현상은 단순히 AI 기술이 복잡해서 생기는 문제가 아니다. 기술의 난해함과는 무관하게, 가장 단순한 기능조차 제대로 작동하지 않는 경우가 많다.

이 문제를 좀 더 명확히 보여주는 사례가 있다. 소비자용 기기만 봐도 충분하다. 예를 들어 아마존의 ‘링(Ring)’ 비디오 도어벨 시스템을 보자. 아마존은 이 제품의 ‘스마트 비디오 검색’ 기능을 강조하며 “링 IQ(Ring IQ)를 활용하면 카메라가 사람, 차량, 택배를 인식하고 해당 대상이 감지될 때만 알림을 보낸다”라고 홍보한다.

정말 그럴까? 필자는 ‘사람이 감지될 때만’ 알림을 보내라고 설정해 놓았다. 그런데 왜 매주 새벽 2시쯤, 현관 카메라를 거미 한 마리가 지나갈 때마다 알림이 울릴까? 폭우가 쏟아질 때도 경보가 울리고, 작년에는 해가 질 때마다 알림이 오기도 했다. (물론 해질녘 문제는 결국 수정됐다.)

필자가 가장 좋아하는 사례는 아이폰이다. ‘인간 비서보다 더 똑똑하다’고? 상상해 보자. 오후 2시에 고객과 중요한 대면 회의가 예정돼 있다. 당신은 비서와 세 명의 동료와 함께 차를 타고 회의 장소로 향하고 있다.

목적지까지 약 10분 남았을 때, 비서가 동료와의 대화를 끊고 이렇게 말한다. “죄송하지만 상기시켜 드려야 할 것 같습니다. 오후 2시에 고객과의 회의가 예정돼 있습니다.” 그 말을 들은 당신은 황당한 표정으로 비서를 바라볼 것이다. “저도 알아요. 지금 우리가 그 회의에 가는 길이잖아요.”

이런 일이 필자의 아이폰에서는 일상적으로 벌어진다. 일정은 이미 캘린더에 등록돼 있고, 회의 장소 주소도 정확히 입력돼 있다. 위치 정보도 알고 있으며, 회의 장소로 이동 중이라는 사실도 인식하고 있다. 심지어 애플 지도로 목적지까지 길 안내를 받고 있으니, 현재 어디로 가는지 아이폰은 분명히 알고 있는 셈이다.

아이폰은 이미 충분한 정보를 가지고 있다. 그럼에도 불구하고 굳이 화면 한가운데에 알림을 띄워 실시간 길 안내를 가려버린다. 애초에 필요 없는 알림임에도 말이다.

또 다른 상황을 상상해 보자. 선거 개표일 밤, 회의 중인 당신에게 비서가 급히 들어와 말한다. “회의 중 죄송합니다. 요청하셨던 선거 결과인데요, 스미스 후보가 승리했습니다.” 당신은 고개를 끄덕이며 “고마워요”라고 답하고 다시 회의에 집중한다.

2분 뒤, 비서가 다시 들어와 회의를 방해하며 말한다. “스미스 후보가 이겼습니다.” 당신은 황당한 표정으로 되묻는다. “2분 전에 이미 들었어요.” 비서는 이렇게 답한다. “그건 AP 통신이 발표한 결과였습니다. 이번엔 로이터 통신이 보도했습니다.” 결과가 달라진 것도 아닌데, 이후 40분 동안 비서는 2분 간격으로 들락날락하며 스미스 후보의 승리 소식을 언론사 이름을 바꿔가며 전한다.

아이폰을 제외한 그 어떤 비서도 그렇게 행동하지 않는다.

애플 워치도 사정은 다르지 않다. 시간을 확인하고 다음 일정을 바로 볼 수 있도록 설정해 두었지만, 하루 종일 시계를 들여다볼 때마다 전혀 다른 화면이 뜬다. 날씨 정보가 표시되거나, 아무 관련 없는 화면이 나타나기도 한다. 음악을 듣거나 영상을 재생 중일 때는 아예 리모컨 설정 화면으로 전환돼 버린다.

필자가 원하는 건 단 하나다. 따로 지시하기 전까지는 시계가 시간과 일정만 보여주는 것. 그뿐이다. 그런데도 애플 워치는 그 기본조차 제대로 수행하지 못한다. 오히려 단순한 타이맥스 시계가 훨씬 더 제 역할을 잘 해낸다.

AI 업체가 이미 보유한 데이터를 제대로 활용하고, 그 데이터를 진정으로 ‘지능적’으로 분석하기 전까지는 고객에게 핵심 데이터를 더 달라고 요구할 이유가 없다. 사소한 기능조차 제대로 작동하지 않는 상황에서 더 크고 복잡한 시스템이 올바르게 작동할 것이라 기대하기 어렵다.
dl-itworldkorea@foundryco.com