오픈AI가 소유한 챗GPT에서 사이버 공격자가 DDoS 공격을 실행할 수 있는 취약점이 발견된 것으로 보인다. 독일의 보안 연구원 벤자민 플레쉬에 따르면, 챗GPT 개선을 위해 오픈AI가 인터넷에서 데이터를 수집하는 데 사용하는 챗GPT 크롤러가 임의의 웹사이트에 DDoS 공격을 실행하도록 속일 수 있는 것으로 나타났다.

플레쉬는 깃허브 리포지토리에 PoC를 공개하며 “챗GPT 크롤러는 관련 없는 챗GPT API로 HTTP 요청을 보내 피해 웹사이트에 DDoS 공격을 가하도록 유도될 수 있다. 오픈AI 소프트웨어의 이 결함은 챗GPT 크롤러가 실행 중인 여러 마이크로소프트 애저 IP 주소 범위를 이용해 피해 웹사이트에 DDoS 공격을 일으킨다”라고 설명했다.

플레쉬는 이 문제를 2025년 1월 발견했으며, 이후 오픈AI와 마이크로소프트에 알려졌지만 두 회사 모두 아직 결함의 존재를 인정하지 않았다고 덧붙였다.

관리 부실로 인한 HTTP 요청 증폭 허용

플레쉬는 챗GPT API가 어트리뷰션 엔드포인트에서 HTTP POST 요청을 처리할 때 심각한 결함이 있다고 지적했다. 이 API는 URL 목록을 요구하지만, 중복 하이퍼링크를 확인하거나 개수에 제한을 두지 않아 단일 HTTP 요청에 잠재적으로 수천 개의 하이퍼링크가 포함될 수 있다.

플레쉬는 “동일한 웹사이트에 대한 하이퍼링크가 여러 가지 방법으로 작성될 수 있다는 것은 잘 알려진 사실이다. 부실한 프로그래밍 관행으로 인해 오픈AI는 사용자가 요청한 URL 목록에 동일한 자원을 가리키는 하이퍼링크가 여러 번 등장하지 않는지 확인하지 않는다”라고 지적했다.

API는 마이크로소프트 애저 서버를 사용해 POST 요청에 포함된 각 하이퍼링크를 개별적으로 처리한다. 이 과정에서 대상 사이트로 수많은 동시 연결 시도가 발생하게 되며, 결과적으로 오픈AI 서버에서 생성된 대량의 연결로 인해 해당 웹사이트가 과부하 상태에 이를 가능성이 있다.

프롬프트 인젝션 공격에도 노출

플레쉬가 공개한 또 다른 정보에 따르면, 동일한 API는 프롬프트 인젝션 공격에도 취약한 것으로 나타났다. 이 문제는 API가 ‘urls’ 매개변수를 통해 텍스트 명령을 LLM에 전달할 수 있도록 허용하는 데서 비롯된다. 이를 악용하면 크롤러가 본래 의도된 웹사이트 수집 작업 대신 API를 통해 쿼리에 응답하도록 만들 수 있다.

플레쉬는 “urls 매개변수를 통해 제출할 수 있는 프롬프트의 수가 많기 때문에 이 소프트웨어 결함은 오픈AI 서버를 더욱 느리게 만드는 데 악용될 수 있다”라고 덧붙였다.

해당 결함에 대한 인정 및 세부 정보가 아직 확인되지 않은 가운데 플레쉬는 DDoS를 유발할 수 있는 결함의 심각도를 CVSS 점수 기준으로 10점 만점에 8.6점으로 평가했다. 이는 네트워크 기반이라는 특성, 낮은 복잡성, 권한 요구나 사용자 상호작용이 없다는 점, 서비스 지원 폭에 미치는 영향이 크다는 점을 고려한 점수다.

기사 작성 시점까지 오픈AI에 해당 결함에 대한 인정 및 세부 정보 요청을 보냈으나, 답변은 받지 못했다.
dl-itworldkorea@foundryco.com