고려대 안암 조철현 교수·KAIST 정두영 교수 공동연구팀

“생성형 AI는 양가적 기술, 대체 아닌 보조로 경계 지어야”

▲ (사진 왼쪽부터) 고려대학교 안암병원정신건강의학과조철현 교수, 한국과학기술원디지털인문사회과학부정두영 교수, 서울대학교 의과대학 국립교통재활병원안유석 교수, 울산과학기술원의과학대학원김명성 박사과정생

생성형 인공지능이 정신건강 진료 현장에서 활용되기 시작한 가운데, 국내 정신건강의학과 의사들의 실제 진료 경험을 바탕으로 생성형 AI의 가능성과 위험, 안전한 도입을 위한 우선 과제를 분석한 연구 결과가 발표됐다.

고려대학교 안암병원 정신건강의학과 조철현 교수와 한국과학기술원(KAIST) 디지털인문사회과학부 정두영 교수 공동연구팀은 한국 정신건강의학과 의사들이 진료 현장에서 확인한 생성형 AI 관련 경험과 해석, 그리고 정신건강 분야에 안전하게 도입하기 위해 필요한 과제를 분석한 연구 결과를 디지털 헬스 분야 최상위 국제학술지에 발표했다.

이번 연구는 대한신경정신의학회 미래전략위원회 프로젝트의 일환으로 수행됐다. 김명성 울산과학기술원(UNIST) 의과학대학원 박사과정생과 안유석 서울대학교 의과대학·국립교통재활병원 교수가 공동 제1저자로 참여했으며, 조철현 교수와 정두영 교수가 공동 교신저자를 맡았다.

연구팀은 2025년 10월 27일부터 12월 26일까지 대한신경정신의학회 회원을 대상으로 설문을 진행했다. 전체 408명에는 정신건강의학과 전문의 326명과 전공의 82명이 포함됐다. 이 가운데 의미 있는 개방형 답변을 남긴 311명의 응답이 질적 분석에 포함됐다.

설문은 세 가지 질문으로 구성됐다. ▲진료 현장에서 챗봇·진단 보조도구 등 생성형 AI와 관련해 겪은 경험 ▲인간 치료자와 비교한 생성형 AI의 장점과 한계 ▲정신건강 분야에 생성형 AI를 안전하게 도입하기 위해 가장 시급한 과제다.

연구팀은 미래 예측 기법인 ‘호라이즌 스캐닝(horizon scanning)’ 개념을 질적 연구에 응용해, 의사들의 응답을 ‘현장 신호(experience) → 해석(interpretation) → 도입 우선순위(priority)’라는 3단계 구조로 분석했다. 논문·특허 등 외부 자료가 아니라 일상 진료에서 먼저 나타나는 임상적 신호를 미래 예측의 출발점으로 삼은 것이 방법론적 특징이다.

연구의 핵심 결론은 생성형 AI가 임상적으로 양가적인 기술(clinically ambivalent technology)이라는 점이다. 같은 기능이라도 사용 맥락, 사용 강도, 환자의 취약성에 따라 도움이 되기도 하고 위험해지기도 한다는 것이다.

의사들은 환자가 생성형 AI를 감정 정리, 자가관리, 치료 진입의 ‘낮은 문턱 도구’로 활용한 긍정적 사례를 보고했다. 한 의사는 환자가 생성형 AI를 활용해 단순한 위로성 문구가 아니라 자신의 상황과 감정을 정리하는 글을 생성했고, 그동안 표현하기 어려웠던 감정을 언어화하고 증상이 호전된 경험을 전했다.

반면, 사용이 과도해지거나 고위험 상황에서는 부작용도 뚜렷했다. 망상적 신념의 강화, 사회적 위축, 과의존, 그리고 약물 과다복용 등 자살·자해 위험과 연결된 사례들이 보고됐다. 특히 환자가 생성형 AI 출력 내용을 의사의 진단과 비교하며 치료 관계 자체와 치료 순응도, 진단에 대한 신뢰를 흔드는 새로운 양상도 관찰됐다.

응답자들은 생성형 AI를 표준화되어 있고 피로의 영향을 받지 않는 도구로 보면서도, 깊이 있는 치료 관계가 필요한 영역에서는 한계가 있다(relationally thin)고 평가했다. 비언어적 단서나 정서적 뉘앙스가 반영되는 데 한계가 있으며, 사용자의 표현을 비판이나 검증 없이 반복적으로 수용하는 내용으로 제시되는 출력 방식이 환자에게 위안으로 받아들여질 수 있는 동시에 왜곡된 신념을 과도하게 인정하게될 위험이 있다는 것이다. 결론적으로 의사들은 생성형 AI가 인간 치료자의 보조 수단으로는 유용하나, 대체재로는 받아들이기 어렵다는 데 의견을 모았다.

도입 우선순위에서 의사들이 강조한 것은 확산이 아니라 안전한 도입의 전제조건이었다. ▲거버넌스와 책무성 ▲위기 상황·취약 집단을 위한 안전 인프라 ▲확산 전 기술적 신뢰성과 임상 검증 ▲교육·감독·구조적 지원이 핵심 과제로 도출됐다.

연구팀은 이를 두 가지 개념으로 설명했다. 첫째는 ‘취약성 증폭(vulnerability amplification)’ 현상이다. 저위험 상황에서는 정서적 지지처럼 작용할 수 있는 생성형 AI의 출력 방식이, 현실 판단이 흔들리거나 심리적으로 매우 불안정한 환자에게는 오히려 상태를 악화시킬 수 있다는 것이다. 둘째는 ‘접근성-보호의 긴장(access-protection tension)’이다. 생성형 AI는 병원 방문 전에도 익명으로 즉시 사용할 수 있어 정신건강 관리의 문턱을 낮출 수 있다. 하지만 접근성이 높다는 것만으로 안전한 진료가 보장되는 것은 아니다.

특히 디지털 사용이 활발하면서도 정신건강의학과 진료 기록, 사회적 낙인이나 불이익에 대한 우려로 진료 이용을 망설일 수 있는 사회 환경에서는, AI 활용의 익명성과 즉시성이 매력적으로 작용하는 동시에 감독 없는 사용 위험도 커질 수 있다.

연구팀은 의사들의 태도가 생성형 AI 활용에 대한 단순한 거부가 아니라 ‘조건부 수용’이라는 점에 주목했다. 의사들은 행정 업무, 정보 정리, 환자 교육, 진료 전후 보조 등에는 생성형 AI의 유용성을 인정했다. 다만 환자를 직접 치료하고 위기 상황을 판단하며 치료 관계를 형성하는 영역에서는 인간 치료자를 대체해서는 안 된다는 경계를 분명히 했다.

연구팀은 앞으로 정신건강의학과 의사가 단순히 치료를 제공하는 역할을 넘어, 환자의 생성형 AI 사용 내용을 해석하고, 적절한 사용 범위를 안내하며, 위험 상황을 감독하는 역할도 맡게 될 수 있음을 시사한다고 분석했다.

조철현 교수는 “이번 연구는 추상적 태도 조사를 넘어, 정신과 의사들이 실제 진료실에서 생성형 AI를 어떻게 마주하고 있는지를 현장 경험에 근거해 규명했다는 점에서 의미가 있다”며 “정신건강 분야의 AI는 다른 의료 AI보다 더 계층화된 감독과 진단 민감형 안전장치가 필요하다는 것을 보여준다”고 말했다.

정두영 교수는 “핵심 과제는 정신과가 생성형 AI를 만날 것인가가 아니라, 환자의 취약성과 관계적 요구, 정신과 특유의 안전 위험을 고려해 그 사용을 어떻게 경계 짓고 감독하며 통치할 것인가”라며 “빠른 대체가 아니라 제한적 보조 사용과 강화된 거버넌스·검증이 우선되어야 한다”고 강조했다.

이번 연구는 대한신경정신의학회 미래전략위원회와 한국연구재단의 지원을 받아 수행됐다. 연구 결과를 담은 논문 ‘Mapping Practice-Based Signals of Generative AI in Psychiatric Care: Qualitative Study of Korean Psychiatrists’ Experiences, Interpretations, and Implementation Priorities’는 지난 6월 2일 Journal of Medical Internet Research에 게재됐다.