한때 ‘사악해지지 말자(Don’t be evil)’라는 문구로 행동 강령을 시작했던 구글이 이제 AI 기반 무기 및 감시 시스템 개발을 지원할 수 있는 문을 열었다.

최근 블로그를 통해 발표된 AI 원칙 변경 사항에 따르면, 구글은 이런 활동에 참여하지 않겠다는 금지 조항이 삭제됐다. 이는 윤리적으로 논란이 될 수 있는 영역에서 구글이 더 많은 재량권을 갖게 되었음을 의미하며, 구글 내부에서도 직원들과 갈등을 일으켜 온 부분이다.

구글 딥마인드(DeepMind) CEO 데미스 하사비스와 구글의 연구·연구소·기술 및 사회 담당 수석 부사장인 제임스 마니카가 작성한 해당 블로그 게시물은 누락된 부분에 대해 직접적으로 언급하지 않았다. 그 대신 과감한 혁신, 책임 있는 개발 및 배포, 협력적 발전이라는 3가지 핵심 원칙을 강조하는 데 초점을 맞췄다.

구글의 새로운 AI 원칙 전문에서 ‘책임 있는 개발 및 배포’에 관한 부분에는 “이는 사용자 목표, 사회적 책임, 국제법과 인권의 보편적 원칙에 부합하도록 적절한 인간 감독, 충분한 사전 검토, 피드백 메커니즘을 구현하는 것을 의미한다”라고 나와 있다.

웨이백 머신에 보관된 아카이브에 따르면, 과거 구글의 AI 애플리케이션 목표는 ▲사회적 이익을 추구할 것 ▲불공정한 편향을 생성하거나 강화하지 않을 것 ▲안전성을 고려해 개발 및 테스트할 것 ▲사람에게 책임을 질 것 ▲개인정보 보호 설계를 적용할 것 ▲과학적 우수성의 높은 기준을 유지할 것 ▲이 원칙과 부합하는 용도로 제공할 것 등 7가지다.

이 7가지 원칙 아래는 ‘구글이 개발하지 않을 AI 애플리케이션’이라는 제목으로 4가지 금지 사항이 나열돼 있다. 그중에는 ▲무기를 포함해 사람에게 상해를 입히거나 직접적으로 상해를 입히는 것을 주된 목적으로 하는 무기 또는 기타 기술 ▲국제적으로 통용되는 규범을 위반하는 방식으로 정보를 수집하거나 활용하는 감시 기술 등이 포함된다.

구글의 새로운 AI 원칙에서는 이런 금지 조항이 삭제됐다.

1년 전 오픈AI 역시 자사 기술의 군사적 활용을 금지하는 자체 규정을 삭제한 바 있다.
dl-itworldkorea@foundryco.com