기술이 원하는 상품을 최저가로 원하는 물건을 찾을 수 있도록 도와준다고 상상해 보자. 기술이 보행 중 차에 치이는 사고를 방지할 수 있다면 어떨까? 자율주행차가 완벽하게 안전해지고, 길을 잃거나 사람이나 랜드마크를 알아보지 못하는 일이 불가능해진다면? 더 놀라운 것은, 이 모든 것이 우리가 이미 알고 있고 사용하고 있는 기술을 기반으로 한 하나의 통합된 이니셔티브를 통해 이루어질 수 있다는 점이다.

흥미롭지 않은가? 불가능할 것 같은가? 첫 번째 질문에는 확실하게 “예”, 두 번째 질문에는 “아마도 아니”라고 답할 수 있다. 만물인터넷의 세계에 온 것을 환영한다.

모든 것을 보고 아는 만물인터넷

‘사물인터넷(Internet of Things, IoT)’이라는 개념은 MIT에서 케빈 애쉬턴이 공식적으로 제시했다. 애쉬턴은 “사람은 시간, 주의력, 정확성에 한계가 있다. 결국 현실 세계의 사물에 대한 데이터를 효과적으로 수집하지 못한다. 하지만 컴퓨터가 우리의 도움 없이 데이터를 수집하고 사물에 대한 모든 정보를 알 수 있다면, 모든 것을 추적하고 집계할 수 있고 낭비, 손실, 비용을 크게 줄일 수 있다. 또한 사물이 언제 교체, 수리, 또는 리콜이 필요한지, 신선한 상태인지 아니면 유통기한이 지났는지도 정확히 알 수 있을 것”이라고 설명했다.

중요한 것은 오늘날 우리가 IoT라고 부르는 제한된 범위의 기술이 아니라, 모든 것을 보고 모든 것을 아는 ‘만물인터넷’이라는 더 포괄적인 개념이다.

현재 우리는 ‘많이 아는’ 수준에 도달했지만, ‘모든 것을 아는’ 단계에는 이르지 못했다. 애플리케이션이 우리가 무엇을 사고 싶은지, 현재 어디에 있는지를 파악하는 것은 충분히 가능하다. 또한 근처에서 원하는 상품의 가격을 찾아내는 것도 기술적으로 가능하지만, 이는 상당한 복잡성과 비용을 수반하고 얻을 수 있는 이익이 크지 않을 수도 있다. 처음에 언급했던 더 광범위한 기능이 구현된다면, 사용자가 적절한 상점으로 가도록 돕는 기능은 저비용으로 추가할 수 있을 것이다. 그러나 현실적으로 아직 그 수준에 도달하지 못했다. 즉, 우리는 ‘알’ 수는 있지만 여전히 ‘볼’ 수는 없는 상태다.

이 ‘보고 아는’ 능력은 인간이 주도하는 인터넷과 애플리케이션의 장단점을 보여준다는 점에서 중요하다. 우리는 세상을 직접 보고, 실시간으로 현실을 이해한다. 반면 IoT 센서는 단순히 ‘감지’할 뿐이다. 온도, 기압, 위치, 상대 속도를 파악하는 것은 유용할 수 있지만, 자동차를 운전하며 창밖을 보는 것과는 전혀 다르다. 애쉬턴이 1999년에 이런 논의를 펼쳤을 당시에는 인간의 시각적 인식을 모방해 현실 세계의 데이터를 수집하는 실용적인 방법이 없었다. 그러나 이제 AI와 공간 컴퓨팅을 통해 이를 구현할 수 있다. 앞서 언급한 모든 가능성뿐만 아니라 그 이상의 것도 실현할 수 있다.

이제 우리는 필요한 기술을 갖췄다. 하지만 왜 아직 그런 애플리케이션이 존재하지 않을까? 보는 것과 아는 것의 능력 사이에 격차가 있다고 말했지만, 이미 필요한 기술이 있다면 모순된 주장 아닐까? 우리가 기대하는 멋진 미래를 실현할 거대한 기술적 돌파구가 더 이상 존재하지 않는다면, 무엇이 문제일까? 답은 간단하다. 문제는 기술이 아니라 사회적 요인이다.

기술 혁신와 사회적 신뢰의 균형잡기

‘빅 브라더가 지켜보고 있다(Big Brother is watching you)’는 대규모 감시의 위험성을 경고하는 대표적인 표현이다. 광범위한 영상 기술을 활용하면 길을 걷는 범죄자를 식별할 수도 있고, 보행자가 도로로 잘못 들어서는 것을 경고할 수도 있다. 동시에 이 기술은 누군가를 스토킹하거나 몰래 감시하거나, 숨기고 싶은 비밀을 드러내는 데 악용될 가능성도 있다. 일반적으로 사람은 ‘모든 것은 해킹될 수 있다’고 생각하고, 이미 정부가 감시하고 있다고 믿는 경우도 많다. 이런 상황에서 기업이 ‘모든 것을 보고 알고 있는’ 기술을 적극적으로 홍보하지 않는 것은 충분히 이해할 만하다. 제한적인 용도로 활용한다고 해도, 이에 대한 거부감은 여전히 크다.

그렇다면 ‘제한적인 용도’란 무엇을 의미할까? 필자가 정기적으로 연락하는 한 유명 노동 변호사에게 직장 내 사고 방지를 위한 영상 모니터링 활용에 대해 물어본 적이 있다. 그는 “모든 노조가 악용을 우려할 것이고, 모든 고용주는 그런 우려를 부정하면서도 결국 남용하게 될 것”이라고 말했다. 다른 지인은 자율주행 차량의 안전한 운행을 돕기 위해 광범위한 영상 모니터링을 도입하는 것도 거의 확실하게 프라이버시 문제로 소송에 휘말릴 것이라고 지적했다. 특히 있어서는 안 될 곳에 자주 나타나는 사람들의 지지를 받으면서 말이다.

프라이버시는 모두에게 중요한 문제다. 하지만 안전, 건강, 생명도 마찬가지다. 이제 기술이 진화하면서 이들 요소를 어떻게 균형 있게 조율할지 결정해야 하는 시점에 도달하고 있는지도 모른다. AI가 통제 불능 상태에 빠질 것이라는 우려도 이런 고민의 일환일까? 그렇다고 생각한다. 그리고 AI가 인류를 멸종 위기로 몰아넣기 훨씬 이전에, 우리를 구하거나 혹은 우리를 드러내는 역할을 할 수도 있다고 본다. 지금까지 AI에 대한 규제 마련 요구가 계속돼 왔지만, 가장 광범위하고 즉각적인 영향을 미칠 핵심적인 문제는 제대로 다뤄지지 않았다. 바로 AI와 영상 기술이 결합해 현실 세계, 그리고 우리 개개인을 감시하는 능력을 갖게 되는 문제다.

이 문제에 대한 가장 명확한 해결책은 거버넌스다. 즉, 사용을 제한하는 규칙을 만들고, 기술로 이를 강제하는 것이다. 하지만 명확한 해결책이 항상 실현 가능하다고 보기는 어렵다. 기술로 구현하는 것은 물론이고 그런 통제를 신뢰하도록 만드는 것은 더 어려울 수 있다.

아이작 아시모프의 로봇 3원칙을 떠올려 보자. 아시모프의 많은 소설이 이 원칙을 우회하려는 시도를 다룬다. 비슷한 예로, 20년 전 한 연구소에서 사무실 내 소형 카메라를 활용한 원격 협업 실험을 진행한 적 있다. 그런데 직원의 절반이 출근하자마자 카메라를 가려버렸다. 지금도 많은 사람이 일정에 없는 화상 회의가 아닐 때는 웹캠을 덮어둔다. 아마 당신도 그런 사람을 알고 있을 것이다. 카메라의 작동 표시등이 꺼져 있다고 해서 안심할 수 있을까? 이미 해킹당했을지도 모른다고 생각하는 사람이 많다.

기술이 인간의 삶과 밀접하게 통합되는 과정은 사회적 우려와 필연적으로 충돌을 일으킨다. 이런 우려를 설득력 있게 해결하는 것이 기술이 일과 삶을 발전시키기 위한 필수적인 단계가 된 것일까?

AI 거버넌스의 가능성

우리는 완전하지는 않더라도 이미 광범위한 영상 감시 시스템을 가지고 있다. 최근 필자는 산책하면서 지나친 집의 약 1/4곳에서 초인종 카메라나 감시 카메라를 발견했다. 상업 지역에서는 이보다 더 많을 것이다. 그런데 집에 있는 초인종 카메라가 정작 자신을 감시하고 있다고 걱정하는 사람은 얼마나 될까? AI가 인간을 위협하는 존재로 진화할까 봐 걱정하는 사람보다는 훨씬 적을 것이다. 하지만 현실에 존재하는 것은 초인종 카메라이고, ‘위협적인 AI’는 아직 실재하지 않는다. 이런 사고방식을 버리고 웹캠을 덮어두는 습관도 그만둘 수 있을까? 전면적인 영상 감시 체제에 익숙해질 수 있을까? 어쩌면 가능할지도 모른다. 하지만 가장 좋은 방법은 여전히 이 거버넌스 딜레마를 해결하는 것이다.

이 문제는 AI로 해결할 수 있다.

AI가 강력해지고 적용 범위가 넓어질수록 그 사용을 제한하기가 더 어려워진다. 이 사실에 반대하는 사람은 없을 것이다. 그러나 특정 주제나 분야에 집중하는 AI 에이전트는 상대적으로 통제하기 쉬울 것이다. API는 보안과 거버넌스를 적용할 수 있지만, AI와의 대화형 관계는 어떻게 통제할 수 있을까? 결국 우리는 다시 아시모프의 로봇 3원칙으로 돌아오게 된다. 그중 두 번째 원칙은 ‘복종’이다. AI를 포함해 어떤 것에도 자율성을 부여하면, 그만큼 침해의 가능성도 커진다. AI가 영상을 감시하는 맥락에서 보면, 특정한 대상만 식별하도록 설계된 AI 에이전트를 만드는 것보다 무언가를 검색하도록 AI에 요청하는 것이 더 큰 위험을 수반한다.

전문 AI 에이전트를 활용해 AI 애플리케이션을 관리할 수도 있다. 이미 머신러닝 분야에서는 적대적 AI(adversarial AI) 전략이 존재한다. 이는 모델을 속이기 위한 데이터 조작 감지에 사용된다. 같은 방식을 AI 사용에 대한 거버넌스에도 적용할 수 있다. 특히 AI가 일반적인 질문에 응답하는 것이 아니라 특정한 결과만 제공하도록 설계된다면 더욱 효과적일 것이다. 예를 들어, 얼굴 인식 기술은 정부의 범죄자 등록 데이터베이스에 있는 얼굴만 식별하도록 제한할 수 있다. 해킹 가능성이 전혀 없는 것은 아니지만, 최소한 평범한 스토커나 의심 많은 배우자가 악용하기는 훨씬 더 어려울 것이다.

기술이 우리의 일과 삶을 더욱 발전시키기 위해 만물인터넷 실현은 필수적이다. 기술과 새로운 밀착 관계를 형성하는 과정에서 프라이버시와 보안 문제를 피하면서도 기술이 우리의 활동을 더 면밀히 파악하도록 만드는 것이 만물인터넷 실현의 핵심이다. 이를 효과적으로 통제할 수 있는 유일한 방법은 거의 확실히 AI다.

우리가 지금 해야 할 일은 AI의 역할과 거버넌스를 규정하는 것이다. AI가 인류를 멸망으로 이끌 위험보다 AI가 우리의 문제를 해결하지 못하는 데서 오는 위험이 더 크다.
dl-itworldkorea@foundryco.com