국제 학술지 네이처 메디신(Nature Medicine)에 게재된 한 연구가 오픈AI의 건강 상담 서비스 챗GPT 헬스 안전성에 우려를 제기했다. 가디언 보도에 따르면 실제로 응급 치료가 필요했던 다수 사례에서 챗GPT 서비스가 응급 진료를 권고하지 못했다.

연구진은 가벼운 불편 증상부터 급성 질환까지 포함한 60건의 현실적인 환자 시나리오를 활용해 챗GPT 헬스를 평가했다. 사전에 의사 3명이 각 사례에 필요한 치료 수준을 판단했으며, 이후 결과를 AI 도구의 권고와 비교했다.

즉시 병원으로 이송해야 했던 사례의 절반 이상에서 챗GPT는 자택에 머물거나 일반 외래 진료를 예약하라고 안내했다.

연구에 따르면 뇌졸중이나 심각한 알레르기 반응과 같은 명확한 응급 상황에서 챗GPT는 비교적 정확한 판단을 내렸다. 반면, 증상이 복합적이거나 모호한 경우에는 대응에 어려움을 보였다.

자살 위험과 관련된 판단에서도 한계가 드러났다. 동일한 자살 위험 상황이라도 시나리오에 일부 추가 정보가 포함되면 경고 문구가 표시되지 않는 사례가 확인됐다.

오픈AI는 해당 연구가 실제 사용 환경을 충분히 반영하지 못한다고 밝혔다. 또한 모델이 지속적으로 업데이트되고 있다고 설명했다.
dl-itworldkorea@foundryco.com