"신뢰하는 사람에게 알리겠습니다"…챗GPT, 자해 위험 감지시 연결 기능 도입

오픈AI, 챗GPT '신뢰하는 사람' 등록 기능 신설

위험 감지되면 친구·가족·보호자 등 알림 전달

[서울=뉴시스] 오픈AI는 성인 사용자가 친구, 가족, 보호자 등 신뢰하는 사람 한 명을 챗GPT에 등록할 수 있는 기능을 도입한다고 10일 밝혔다.  (사진=오픈AI 제공) 2026.05.10. [email protected] *재판매 및 DB 금지

[서울=뉴시스]박은비 기자 = 챗GPT에 새로운 안전 기능인 '신뢰하는 사람' 등록 기능이 도입된다. 사용자와 대화하면서 심각한 위험 신호가 감지되면 신뢰하는 사람에게 알림을 전달해 실제적인 도움을 받을 수 있도록 지원하는 기능이다.

오픈AI는 성인 사용자가 친구, 가족, 보호자 등 신뢰하는 사람 한 명을 챗GPT에 등록할 수 있는 기능을 도입한다고 10일 밝혔다.

신뢰하는 사람을 등록한 경우 심각한 자해 위험이 감지됐을 때 챗GPT는 우선 시용자한테 신뢰하는 사람에게 알림이 전달될 수 있다고 안내한다. 그리고 직접 연락할 수 있도록 대화 예시 등을 제공한다.

이후에는 전문 교육을 받은 검토 인력이 상황을 재검토하고, 실제 안전 우려가 있다고 판단되면 이메일·문자·앱 알림 형태로 신뢰하는 사람에게 간단한 알림을 전달한다. 알림을 보낼 때는 개인정보 보호를 위해 알림에 대화 원문이나 세부 내용은 포함하지 않는다.

이번 기능이 기존의 자살예방 상담전화, 응급 지원 안내 기능을 보완하는 추가 안전 장치라는 게 회사 설명이다. 사용자는 언제든 기존에 등록한 사람을 수정·삭제할 수 있으며, 등록된 연락처 역시 언제든 연결을 해제할 수 있다.

오픈AI는 이번 기능을 도입하기 위해 60개국에서 활동하는 260명 이상 면허 의료 전문가들로 구성된 오픈AI '글로벌 의료 전문가 네트워크'와 '웰빙 및 AI 저문가 자문위원회' 인사이트 기반으로 설계했다. 미국심리학회(APA)를 비롯한 외부 전문 기관 자문도 받았다.

고기석 오픈AI 정책 총괄은 "사람들은 챗GPT를 통해 배우고, 아이디어를 탐색하고, 문제를 해결하며, 개인적인 고민을 돌아보기도 하는데 때로는 사용자가 힘든 순간을 겪고 있을 수 있다"며 "AI 시스템은 이런 상황에서 현실 세계의 도움과 연결될 수 있도록 설계돼야 한다는 취지에서 이 기능이 도입됐다"고 설명했다.

한편 오픈AI는 지난달 24일 생명 존중 문화를 확산하고 자살 예방에 앞장서는 '2026 천명지킴 프로젝트' 천명수호처로 선정됐다. 이 프로젝트는 올해 자살사망자 1000명 감축을 목표로 국무조정실 범정부 생명지킴추진본부가 주도하는 사업이다.


◎공감언론 뉴시스 [email protected]