서울시 공무원 반복적 업무, AI가 해준다…'챗봇 2.0' 시작

내부망에 자체 LLM 단계적 도입

반복적이고 정형화된 업무 지원

[서울=뉴시스]서울시청 전경 서울광장 포함. 2025.06.25. (사진=서울시 제공)  *재판매 및 DB 금지

[서울=뉴시스] 이재은 기자 = 공무원이 문서를 찾거나, 규정을 확인하고 보고서를 작성하는 일까지 인공지능(AI)이 대신해 주는 새로운 행정지원 시스템이 구축된다.

서울시는 공무원의 반복 행정업무를 생성형 AI로 대체하는 새로운 행정 지원 체계 '챗봇 2.0' 사업에 들어간다고 7일 밝혔다.

올해 내부망에 자체 LLM(초거대 언어모델)을 도입, 일부 부서를 대상으로 시범 운영하고 내년부터는 내부 행정 시스템과 연계한 고도화 기능을 순차적으로 확대한다는 계획이다.

이번 챗봇 2.0 사업은 1세대 챗봇의 기술적 한계를 넘어 생성형 AI 기반의 유연하고 정교한 AI 행정 지원 체계로 전환한다는 점이 특징이다. AI가 내부 시스템과 연계된 정보를 기반으로 실시간 응답해 직원이 일일이 부서로 문의하거나 자료를 요청하지 않아도 된다.

또 기술적 측면에서 '서울시 자체 LLM'을 내부망에 직접 도입한다. 시는 이번 사업을 통해 민감한 공공데이터를 안전하게 처리할 수 있는 독립적 인프라를 바탕으로 행정 수요에 최적화된 실용적인 생성형 AI 서비스를 구축, 이를 통해 공공행정 전반의 AI 전환을 선도해 나간다는 방침이다.

'챗봇 2.0' 시스템이 본격 가동되면 문서 작성, 규정 조회, 질의응답 등 반복적이고 정형화된 업무를 AI가 대체하면서 행정 효율성과 속도가 획기적으로 향상될 것으로 보인다.

시는 LLM 내부 도입을 중심으로 단계적 확장 전략이 필요하다는 전문가 자문에 따라 연말까지 시범 적용 이후, 내년부터는 행정 시스템 연계 LLM API와 AI 에이전트를 도입해 문서 자동화, 의사결정 지원 등 고도화된 기능으로 확대할 계획이다.

강옥현 서울시 디지털도시국장은 "챗봇 2.0 도입을 시작으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것으로 기대된다"며 "공공행정 전반에 AI를 적극 활용해 국내를 넘어 '글로벌 AI 행정도시'로 거듭날 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]