일론 머스크는 2025년까지 인공 일반 지능(AGI)이 등장할 것으로 예측하고 있다. 전직 오픈AI 직원인 레오폴드 아셴브레너는 2027년까지 AGI가 등장할 것이라고 말했다. 미래학자 레이 커즈와일은 2029년까지 AI가 인간의 지능을 능가할 것이라는 데에 내기를 걸었다. 오픈AI의 공동 설립자인 일리아 수츠케버는 언어 모델이 “약간의 의식이 있다”고 선언했다.

이러한 주장은 모든 한계나 선천적 결함이 곧 해결될 것이라는 잘못된 생각을 불러일으킨다. 단순히 기다리는 것만으로는 해결되지 않는다. 인간에게는 단지 더 많은 시간이 필요할 뿐이라는 경향은 위험하다. 특히 기업은 더 그렇다. 기업은 대기실이 아니기 때문이다.

전직 구글 엔지니어 블레이크 르몽은 2022년 구글의 챗봇인 LaMDA(Language Model for Dialogue Applications)가 지각 능력을 획득했다고 공개적으로 주장하면서 각종 신문의 1면을 장식했다. 르몽은 LaMDA가 자기 인식과 감정을 보여주고 있다고 주장하면서, 그 반응을 “세상이 우리 모두에게 더 나은 곳이 되도록 돕고 싶어하는 착한 아이”라고 묘사했다. 어떤 아이디어는 너무 어리석어서 인공지능 연구자들만 믿을 수 있다.

우리는 머스크, 아셴브레너, 커즈와일, 서츠키버, 르무아네가 주장하는 근거 없는 주장을 지지하지 않는다. 대신 과대 광고가 혁신을 위해 충분하지는 않지만 필요하고 유익하다고 주장한다. 혁신을 위해서는 과대 광고뿐만 아니라 실험을 통해 “직접 손을 대어 보는 것”이 필요하다.

과대 광고가 지나치다고 느낄 수도 있다. 실제로 그렇기도 하다. 그러나 과대 광고는 자본을 동원하고, 인재를 유치하며, 대중의 관심을 끌기 때문에 혁신에 있어 매우 중요하다. 아무리 불쾌하더라도, 아마라의 법칙(단기적으로는 기술의 효과를 과대평가하고 장기적으로는 과소평가하는 경향이 있다는 법칙)은 과대 광고의 미래 기회를 위한 촉매제이자 신호로서의 역할을 강조한다. 기업은 이러한 기회를 효과적으로 활용하기 위해 단기적인 주의와 장기적인 포지셔닝의 균형을 맞춰야 한다. 즉, 혁신을 위해서는 과대 광고의 까다로운 환경을 헤쳐나가야 한다.

불확실성 극복

비평가들은 과대 광고가 낭비와 거짓 약속으로 이어진다고 주장하는데, 이러한 주장은 확실히 AI와 관련해 탄력을 받고 있다. 골드만 삭스는 2024년 6월에 “생성형 AI: 지출은 많고 이익은 적다?”이라는 제목의 기사를 발표했다. 세쿼이아 캐피털은 2024년 6월에 “6천억 달러가 드는 AI에 대한 질문”이라는 제목의 기사를 발표했다. 이 기사는 “모든 수익은 어디에 있는가?”라고 물었다. 2023년 9월, 같은 저자가 “2천억 달러짜리 AI에 대한 질문”이라는 저서를 냈다. 그러나 지식과 혁신의 축적은 반복되는 질문에 반응하지 않는다. 혁신은 직선이나 포장된 도로에서 발생하지 않으며, 즉각적인 수익이 없다는 것은 실패의 증거가 아니다.

과대 광고가 아니었다면 “그 뒤에 있는 값비싼 필터”가 필요하지 않았을 것이라고 믿는 충동과 욕망은 거의 모든 사람들이 가지고 있다. 그러나 현실은 과대 광고가 없다면 필터링이 필요하지 않다는 것에 더 가깝다. 왜냐하면 아무도 신경 쓰지 않을 것이기 때문이다. 과대 광고가 너무 심하고 과장된 주장이 역겹다고 느낄 수도 있지만, 이러한 과정이 없다면 시장은 정체될 것이다. 과대 광고가 필요 없다는 관점은 과대 광고가 관심과 투자를 유도하는 긍정적인 영향을 간과하는 것이다. 과대 광고가 없다면 참여와 열정이 줄어들어 전반적인 불황을 겪게 될 것이다.

벤처 캐피털리스트는 투자금의 절반 이상이 실패할 것이라고 예상하고, 과대 광고를 미래의 기회와 그에 따른 순풍의 신호로 간주한다. 시장 기반 필터링은 존 와나메이커의 유명한 광고 슬로건인 “광고에 지출하는 돈의 절반은 낭비이다. 문제는 그 절반이 무엇인지 알 수 없다는 것이다”를 반영한다. 이 현실을 반영하는 또 다른 인용구는 “AI 전략에 투자하는 돈의 절반은 손실될 것이다. 문제는 그 절반이 무엇인지 알 수 없다는 것이다”일 것이다. 이 문구는 투자에 내재된 불확실성을 잘 보여준다. 투자에 대한 실사, 전략적 계획, 리스크 관리, 그리고 시장 신호 및 순풍의 원천으로서의 과대 광고의 이점에도 불구하고, 그 결과는 본질적으로 예측할 수 없다.

생성형 AI와 같은 범용 기술에 대한 투자는 일반적인 혁신보다 훨씬 더 많은 불확실성을 수반한다. 생성형 기술은 응용 분야가 광범위하며, 성공적인 사용례를 찾으려면 오랜 기간 동안 축적된 지식이 필요하다. 문제 해결에 관한 한 격언에 따르면, 작업의 90%는 90%의 시간을 차지하고, 나머지 10%는 나머지 90%의 시간을 차지한다고 한다. 이 말은 프로젝트 관리와 기술 개발에서 흔히 발생하는 문제, 즉 문제를 해결하기 전에 해결에 필요한 시간을 예측하는 것이 어렵다는 점을 강조한다. 처음 90%에는 계획과 명시적인 지식이 포함되는 경우가 많다. 계획과 명시적인 지식은 예측이 가능하고 비교적 원활하게 진행된다.

문제의 나머지 10%는 일반적으로 기술의 초기 한계와 우리가 가장 잘 이해하지 못하는 문제의 측면을 포함하기 때문에 가장 많은 노력이 필요하다. 이 단계는 예상치 못한 복잡성과 예상치 못한 도전과제를 포함하며, 그 특성상 더 많은 시간이 소요된다. 이러한 한계와 어려움을 직접 경험해 보기 전까지는 그 중요성을 인식하지 못하기 때문에 특히 까다롭다. 처음에는 작업이 간단할 것이라는 낙관적인 생각과 자신감이 든다. 초기의 자신감은 예상하지 못했던 세부 사항에 문제가 있다는 것을 깨닫게 되는 것으로 대체된다.

1955년 8월 31일, 다트머스 여름 인공지능 연구 프로젝트에 대한 제안서에는 “엄선된 과학자 그룹이 여름 동안 함께 연구한다면, 문제 중 하나 이상에서 상당한 진전이 이루어질 수 있을 것으로 생각한다”라는 악명 높은 문구가 포함되어 있다. 이러한 낙관주의는 계획 단계에서는 중요한 문제가 분명하게 드러나지 않는다는 것을 보여준다. 기술적 문제, 통합 문제, 요구 사항의 변화 등이 될 수 있다. 이러한 문제를 해결하는 데는 예상보다 더 많은 시간과 노력이 필요하다. 궁극적으로 문제의 복잡성은 직접 경험한 후에 습득하게 되는 필터링 기능이며, 개발에는 시간이 걸린다.

회의주의의 역할

과대 광고는 새로운 기대를 만들어 내는데, 일반적으로는 좋은 것이다. 그러나 기대가 모두 현실적인 것은 아니다. 회의주의는 비현실적이고 충족되지 않은 기대를 강조하는데, 이 또한 좋다. 그러나 회의주의는 또한 착한 사람들이 만든 비현실적인 타임라인을 형성하기도 한다. 상상할 수 있는 가장 값비싼 필터링 기능은 혁신의 전면에 문제 해결자가 손을 더럽히지 못하도록 하는 것이다. 혁신의 전면에 필터가 있다면 우리는 여전히 목공 기술로 다리를 만들고 있을 것이다. 궁극적으로, 문제 해결과 시장은 과대 광고 단속보다 훨씬 더 효과적인 필터링 기능이다.

과대 광고가 없었다면 필터가 필요하지 않았을 것이라는 태도는 소원의 숨겨진 도전 과제라고 부를 수 있다. 어떤 사람들은 과대 광고가 사라지거나 프런트 엔드에 값비싼 필터를 구현하기를 원한다. 투자자들이 자신들이 적합하다고 생각하는 방식으로 돈을 쓰고 싶어하는 사람도 있다. 이러한 바람은 간단하고 유익해 보일 수 있지만, 이를 충족시키면 예상치 못한 복잡한 상황과 의도하지 않은 결과가 발생할 수 있다. 다시 말해, 우리의 욕망은 복잡한 현실을 가지고 있기 때문에 균형 잡힌 시각으로 욕망을 평가하는 것이 중요하다.

그렇다고 해서 “비용이 많이 드는” 필터가 필요 없다는 생각은 잘못된 것이다. 비용은 반드시 뒤따른다. 비용에 대한 압박이 없다면 기술을 개선하려는 동기가 생기지 않을 것이다. 경쟁적 열세, 시장 점유율 감소, 규제로 인한 실패 비용은 지속적인 발전을 위해 필수적인 책임, 지속 가능성, 효율성을 촉진한다. 과대 광고가 없다면 미래 기술에 관심이 없을 것처럼, 비용이 없다면 기술 개선에 관심이 없을 것이다.

칼로타 페레즈가 말했듯, “충돌이 없이는 중요한 일도 일어나지 않는다.” 붐과 버스트 사이클은 자본을 재분배하고, 지속 불가능한 벤처를 제거하며, 장기적이고 지속 가능한 개발을 촉진하기 위해 불가피하고 필요한 현상이다. 역사적으로 시장에서는 1960년대 트로닉스 붐, 1990년대 후반의 닷컴 버블, 그리고 수많은 AI 겨울과 여름에 이르기까지 비슷한 패턴을 보였다. 각 사이클은 동일한 초기 과대 광고, 수정, 그리고 최종 안정화 과정을 거친다. 수정 사이클의 필요성에 의해 유발되는 과대 광고와 회의주의의 상호 작용은 기술 발전의 기본이다. 이러한 역동성을 수용하면 기업은 파괴적 혁신의 도전과 기회를 헤쳐 나갈 수 있다.

궁극적으로 과대 광고와 회의주의의 관계는 필수적이다. 과대 광고는 미래를 두려워하지 않기 때문에 기대치를 높이고 대담하고 긍정적인 미래를 상상하게 한다. 과대 광고의 문제는 수익을 얻지 못하거나 고객을 확보하지 못할 수도 있다는 것이다. 회의주의는 집단적 판단을 흐리게 하고 통제되지 않은 열정을 불러일으킬 수 있는 과대 광고를 제거하지만, 동시에 비현실적인 타임라인을 만들어 낸다. 회의론자의 역할은 혁신과 실제 현실 사이의 균형을 유지하고 시장에 안정성을 제공하는 데 매우 중요하다.

아마라의 법칙은 과대 광고가 주목할 만한 선행 지표라는 점을 강조하지만, 모든 과대 광고가 주목할 만한 것은 아니다. 과대 광고는 회의론보다 앞서 나가기 때문에 AGI, 튜링 테스트, 기계 의식 같은 어리석은 목표에 반영된 수익을 무시할 수 있기 때문이다.

또한 회의론이 주목할 만한 후행 지표라는 점을 강조하지만, 모든 회의론이 주목할 만한 것은 아니다. 회의론은 때때로 너무 똑똑하고 자신의 이익을 위해 너무 깨끗하기 때문이다. 과대 광고의 가치를 이해하는 것부터 시작해서, 회의론의 중요성을 결코 잊지 않는 것이 두 가지의 섬세한 조화를 이루는 방법이다.

우리는 언어 모델이 미래에 어떤 문제를 해결할지 알지 못한다. AGI의 공허한 주장에 심각한 의구심을 가지고 있지만, 인간이 생성 기술을 적용할 창의적인 방법을 찾을 것이라고 확신한다. 기술이 지능을 가지고 있다고 믿기 때문이 아니라, 새로운 문제를 원천적으로 해결할 수 있는 인간의 창의성과 지능을 확신하기 때문이다. 좋든 싫든, 과대 광고는 여정에서 중요한 역할을 한다.

*이 기사는 리치 하이만과 클레이튼 펨밀의 ‘생성형 인공지능(Generative Artificial Intelligence Revealed)’에서 발췌한 것이다. 웹사이트에서 무료 전자책 사본을 다운로드할 수 있다.
dl-itworldkorea@foundryco.com