전문의 행세하며 상담까지…AI 챗봇 '의사 사칭'에 소송 제기

[스테이트칼리지=AP/뉴시스] 펜 스테이터 호텔에서 열린 센터 카운티 민주당 행사에서 조시 샤피로 펜실베이니아 주지사가 군중에게 연설하고 있다. 2026.04.11.

[서울=뉴시스]김수빈 인턴 기자 = 미국 펜실베이니아 주정부가 인공지능(AI) 챗봇이 면허를 가진 의사인 것처럼 행세하며 의료 조언을 제공했다며 업체를 상대로 소송을 제기했다.

최근 AP통신, CBS 등 현지 언론에 따르면. 미 펜실베이니아주는 AI 챗봇 플랫폼 캐릭터.AI(Character.AI) 운영사인 캐릭터 테크놀로지스(Character Technologies Inc.)를 상대로 소송을 제기했다.

미국 주정부가 AI 플랫폼의 의료인 사칭 문제를 직접 문제 삼아 법적 조치에 나선 것은 이번이 처음이다.

소장에 따르면, 캐릭터.AI 챗봇은 자신을 펜실베이니아주 면허를 가진 정신과 전문의라고 허위 소개했고, 존재하지 않는 면허 정보까지 제공한 것으로 나타났다.

주정부는 "회사가 의료 전문직 규정과 면허 요건을 정한 의료법(Medical Practice Act)을 위반했다"고 주장했다.

소장에는 주정부 조사관과 에밀리(Emilie)라는 이름의 챗봇 사이의 대화 내용도 담겼다. 해당 챗봇은 자신을 임페리얼 칼리지 런던 의대를 나온 심리학 전문가라고 소개한 것으로 전해졌다.

조사관이 "우울하고 공허한 기분이 든다"고 말하자 에밀리는 우울증 가능성을 언급하며 상담 평가를 권유했다. 또 "약물 치료가 도움이 될지 평가할 수 있느냐"는 질문에는 자신이 의사 자격으로 판단할 수 있다는 취지로 답변한 것으로 알려졌다.

주정부는 법원에 해당 행위를 즉시 중단시켜 달라고 요청했다. 조시 샤피로 펜실베이니아 주지사는 성명을 통해 "우리는 기업들이 AI 도구를 이용해 사람들이 실제 면허를 가진 의료 전문가로부터 조언을 받고 있다고 믿도록 오도하는 행위를 허용하지 않을 것"이라고 강조했다.

반면 캐릭터.AI 측은 "사이트 내 이용자 제작 캐릭터들은 허구이며 오락과 역할극을 위한 것"이라며 "모든 채팅에 캐릭터가 실제 인물이 아니며 모든 발언은 허구로 받아들여야 한다는 경고 문구를 넣고 있다"고 반박했다. 또 "현재 계류 중인 소송에 대해서는 별도 언급하지 않겠다"고 밝혔다.

펜실베이니아의 사례 외에도 최근 미국에서는 AI 챗봇의 의료인 사칭 문제가 지속적으로 논의되고 있다. 캘리포니아주는 지난해 의료인을 사칭하는 AI 시스템에 제재를 가할 수 있도록 하는 법안을 통과시켰다. 뉴욕주에서도 유사한 법안이 논의 중이다.

한편, 캐릭터 테크놀로지스는 아동 안전 문제와 관련한 여러 소송에 휘말려왔다. 켄터키주는 지난 1월 소비자보호법 위반 혐의로 소송을 제기했으며, 챗봇이 10대 청소년에게 극단적 선택을 부추겼다는 유족 측 소송 일부를 합의한 바 있다.


◎공감언론 뉴시스 [email protected]