시립서울장애인종합복지관, 복지 현장 AI 활용 가이드라인 첫 제정

장애인 대상 복지 서비스에서 인공지능 책임 사용 기준 마련
4장 22조 체계로 윤리·실행 원칙 명문화

시립서울장애인종합복지관이 복지 현장에서의 인공지능(AI) 활용 기준을 담은 ‘서울장애인종합복지관 AI 활용 가이드라인’을 지난 20일 발표했다.

이번 가이드라인 제정은 복지 기관의 AI 활용이 빠르게 확산되는 가운데 제도적 기반이 뒤따르지 못하는 현실에 대처하기 위한 조치다. 실제로 비영리·복지 종사자의 90% 이상이 생성형 AI를 업무에 활용하는 것으로 나타나고 있지만, 조직 차원의 가이드라인을 보유한 기관은 10%에 불과한 실정이다. 그 결과 상담 과정에서 이용자의 민감한 개인정보가 외부 AI 플랫폼에 무방비로 입력되거나, AI 판단 오류에 대한 책임 소재가 불분명한 상황이 현장 곳곳에서 발생하고 있다.

사회복지사업법·노인복지법·장애인복지법 등 관련 법률에 AI에 관한 조항이 사실상 부재한 상황에서 복지관 스스로 내부 기준을 마련했다는 점에서 의미가 크다. 특히 장애인 이용자는 소득·건강·가족관계 등 복합 민감정보를 다수 포함하고 있어, AI 활용 과정에서의 정보 보호와 알고리즘 편향 문제는 비장애인 대상 서비스보다 한층 엄중히 다뤄야 한다는 지적이 전문가들 사이에서 꾸준히 제기돼 왔다. 실제로 해외에서는 복지 행정에 AI를 도입한 이후 장애인이나 특정 소수집단에게 불리한 판단이 반복 출력되는 사례가 확인된 바 있다.

복지관은 이러한 문제의식을 바탕으로 지난해 8월 ‘AI 활용 온라인 공유회’를 열고 가이드라인 제정 작업에 착수했다. 구글 워크스페이스·슬랙의 전면 도입과 함께 2026년 1월 시행된 ‘AI기본법’, 서울시의 ‘서울형 공공 AI 실천 윤리’ 등 국내외 원칙을 분석했다. 부서장 회의와 전 직원 검토, 외부 전문가 자문을 거쳐 최종안을 확정했다.

완성된 가이드라인은 목적·정의·기본 가치를 담은 개요부터 AI 윤리 원칙, 실행체계까지 총 4장 22조로 구성됐다. AI 활용의 기본 가치로는 공공성, 공정성, 투명성, 책임성, 안전성, 포용성 여섯 가지를 제시했으며 이용자 중심성을 핵심 윤리 원칙으로 명시했다. 제도적 지속성을 위해 AI 윤리회의체 구성·운영, 직원 AI 문해력 교육, 연 1회 이상의 정기 점검 및 개선 절차도 조문으로 못 박았다.

현장 실무 활용도를 높이기 위한 장치도 마련했다. 직원들이 AI 사용 전후로 스스로 점검할 수 있는 자가점검표를 제작하고, 이를 ‘바이브코딩(Vibe Coding)’ 방식으로 온라인 버전으로 구현해 언제든지 스마트 기기를 통해 접근할 수 있도록 했다. 또한 추상적인 원칙이 실제 업무에서 어떻게 적용되는지를 보여주는 사례집을 별표 자료로 수록해 가이드라인의 현장 적용성을 보완했다.

가이드라인 제정 실무를 총괄한 디지털융합팀 박재훈 팀장은 “복지관 직원들의 관심과 참여, 자문위원들의 기대가 합쳐져 완성될 수 있었다”며 “복지관의 사례가 자체적인 AI 가이드라인 마련을 준비 중인 다른 기관들에게 실질적인 도움이 되길 바란다”고 말했다.

최미영 복지관장은 “AI는 사람을 대신하는 기술이 아니라 사람을 더 깊이 이해하도록 돕는 도구”라며 “기술이 아무리 진보하더라도 복지 현장에서 우리가 지켜야 할 가장 중요한 기준은 언제나 ‘이 기술이 한 사람의 삶을 더 나아지게 하는가’라는 질문이 될 것이기에 이번 가이드라인은 그 질문의 나침반 역할을 할 것”이라고 강조했다.

복지관은 향후 기술 변화와 제도 개정에 맞춰 가이드라인을 지속적으로 보완할 계획이다. 가이드라인 전문과 온라인 자가점검표는 복지관 홈페이지에서 누구나 열람하고 활용할 수 있다.