유럽연합의 AI법이 본격적으로 시행된다. 2024년에 제정된 이 법은 2026년 8월까지 긴 과도기를 거치지만, 사용자와 AI 서비스 업체는 2025년에도 다음의 두 날짜를 기억해야 한다.

• 2025년 2월 2일부터 특정 AI 애플리케이션이 EU에서 금지된다.
• 2025년 8월 2일부터 범용 AI(GPAI) 서비스 업체 및 운영업체를 대상으로 한 조항이 시행된다.

AI법은 2025년 2월 2일부터 EU에서 특정 AI 애플리케이션의 사용을 금지한다. 간단히 말해, 소셜 스코어링과 같이 사람의 행동이나 특성을 기반으로 사람을 평가하고 분류하는 앱이 적용 대상이다. 공공장소에서 사람을 자동으로 생체 인식하는 것도 더 이상 허용되지 않는다.

특히 AI법은 ‘제5조: 금지된 AI 프랙티스’에서 다음과 같은 애플리케이션을 금지된 것으로 규정한다.

• 무의식 또는 의도적으로 조작적이고 기만적인 기술을 사용해 사람의 행동에 영향을 미쳐 다른 방법으로는 내리지 않았을 결정을 내리도록 하는 AI 시스템.
• 나이, 장애 또는 특정 사회적 또는 경제적 상황으로 인한 사람의 취약성을 악용해 사람의 행동에 부정적인 영향을 미치는 AI 애플리케이션.
• 사회적 행동이나 알려진, 추론 또는 예측된 개인적 또는 성격적 특성을 기반으로 사람을 판단해 불이익이나 불리한 대우를 초래하는 AI.
• 누군가가 범죄를 저지를 위험을 예측하고 자연인의 프로파일링 또는 성격 특성 및 특성에 대한 평가에만 근거해 판단하는 AI 시스템.
• 인터넷이나 비디오 감시 녹화에서 얼굴 이미지를 비표적 판독해 얼굴 인식 데이터베이스를 생성하거나 확장하는 AI 애플리케이션
• 직장 및 교육 기관에서 자연인의 감정을 추론하기 위한 AI 시스템(예외: 의료 또는 안전상의 이유).
• 인종, 정치적 의견, 노동조합 가입 여부, 종교적 또는 철학적 신념, 성생활 또는 성적 취향에 대한 결론을 도출하기 위해 생체 데이터를 기반으로 개별 자연인을 분류하는 생체 인식 분류 시스템의 사용.
• 공공장소에서 AI가 지원하는 실시간 생체 인식 원격 식별 시스템.

그러나 마지막 두 가지 금지 사항과 관련해 EU AI 법은 법 집행의 목적에 대해서는 예외를 허용하고 있다는 점에 유의해야 한다. 따라서 이런 용도로 사용하려면 사례별로 세심하게 평가하는 것이 좋다.

금지된 AI 시스템에 대한 규칙은 비교적 명확하게 정의되어 있지만, 다른 측면에서는 여전히 허점이 많다. 그리고 범용 AI(GPAI)에 대한 구속력 있는 규칙과 규정도 2025년 8월 2일부터 적용될 예정이다.

EU AI법은 GPAI를 GPT-4o, Llama 등과 같은 LLM을 사용하는 AI 애플리케이션으로 정의한다. 따라서 8월부터 적용되는 규정은 주로 마이크로소프트나 구글, 메타, 오픈AI 같은 주요 AI 업체에 영향을 미칠 것으로 보인다.

GPAI 관련 법 적용에는 문제가 있다. 관련 규정이 아직 완성되지 않았기 때문이다. 현재는 2024년 12월 19일에 발표된 ‘범용 AI 실천 강령’의 ‘2차 초안’만이 있다. 2월에 세 번째 초안이 발표될 예정이며, EU는 5월에 최종 지침을 발표할 계획이다. 관련 기업은 2달 만에 관련 규정을 이행해야 하는 것이다.

더구나 대기업과 시민단체는 여전히 이 규정의 적절한 균형을 찾기 위해 막후에서 힘겨루기를 하고 있다. AI 업계는 규제가 너무 엄격해 비즈니스에 위협이 될 수 있다고 우려하는 반면, 시민단체는 GPAI 사용에 대한 더 많은 투명성과 위험 영향 평가를 요구한다.
dl-itworldkorea@foundryco.com