공공 AX의 심장, ‘범정부 AI 공통기반’ 사업의 모든 것

행정 현장에 인공지능(AI)이 적용되는 속도가 빨라지고 있습니다. 과거 개별 부처 단위의 파편화된 도입을 넘어, 이제는 국가 차원의 통합 AI 자원을 통해 공공 업무의 패러다임을 바꾸는 ‘범정부 AI 공통기반 구현 사업’이 그 중심에 있습니다. 본 사업의 핵심 가치와 기술적 지향점을 정리해 드립니다.

1. 사업의 본질: '파편화'에서 '통합'으로의 대전환

한국지능정보사회진흥원이 수행하는 범정부 AI 공통기반 사업은, 행정안전부와 과기정통부가 공동으로 추진하는 범정부 차원에서 AI 서비스 개발 및 운영 환경을 제공하는 AI 공통기반 구현 프로젝트입니다.

이 사업의 핵심은 개별 정부가 각각 인공지능 시스템을 구축하던 기존 방식에서 벗어나, 정부 전체가 공동으로 활용할 수 있는 AI 자원 제공 환경을 마련하는 것에 있습니다.

2. 추진 배경과 목적

범정부 AI 공통기반 구현 사업 이미지 (출처 : 구글 재미나이)

그동안 정부기관은 필요에 따라 개별적으로 AI 시스템을 도입해 왔습니다. 그러나 이러한 방식은 AI 서비스 개발 및 운영에 필요한 GPU 서버, AI 모델, AI 서비스 개발도구, 학습 및 RAG 데이터에 중복 투자 발생 및 기관별 예산, 조직 구조, 운영관리 상황에 따라 AI 도입 수준의 편차로 신속한 도입 및 빠른 기술 변화 대응을 어렵게 만듭니다.

범정부 AI 공통기반 사업은 이러한 문제를 해결하고자, 공통 AI 자원을 기반으로 한 효율적이고 안전한 AI 서비스 개발 및 운영 환경을 구현하는 것을 목표로 합니다.

특히 최근 주목받고 있는 생성형 AI 기술을 공공의 업무 영역인 행정망 내 적용하기 위해, 보안성과 확장성을 동시에 확보하는 것이 중요한 과제로 설정되어 있습니다.

3. 주요 구축 내용

본 사업은 크게 여섯 가지로 구성됩니다.

AI 컴퓨팅 자원 관련 이미지 (출처 : 구글 재미나이)

① Infrastructure (AI 컴퓨팅 자원)

정부 전용 클라우드 컴퓨팅서비스 환경에서 운영되는 국가정보자원관리원 대구센터 내 PPP(Public Private Partnership)존에 인프라 및 보안 환경을 구현하였습니다. AI 모델을 서빙하는데 필요한 GPU 서버는 공통기반 인프라에서 관리되기 때문에 정부기관은 범정부 AI 공통기반 제공하는 AI 모델을 이용 시 별도로 GPU 서버를 구매 또는 임차할 필요가 없습니다.

② Data (데이터/지식 공유 체계)

내부 행정 문서 및 외부에 공개된 공공데이터를 정제하여, AI 학습과 AI 서비스 개발에 활용 가능한 학습데이터와 지식(RAG)을 구축하였습니다. 이러한 문서와 데이터를 기반으로 범용적 공공 행정 업무 이해 능력 향상에 포커스한 학습데이터를 제공합니다. 

또한, 각 정부기관이 공공 행정에 특화된 AI 서비스 개발 시 법적 근거, 행정 업무 절차 및 최신 정책 정보를 기반으로 한 지식(RAG)을 제공하여 AI 답변의 정확성, 최신성을 확보하도록 지원합니다. 

③ Platform (PaaS 기반 환경)

AI 플랫폼을 통해 각 기관은 니즈에 맞춰 AI 모델을 선택하고, RAG 구축을 위한 데이터 전처리 및 검색하고, AI 서비스 개발을 위한 에이전트 설계, 평가 및 배포 등 AI 서비스 개발 및 운영 환경을 제공합니다. 특정 벤더 종속 방지 및 공공서비스의 안정성 확보를 위해 멀티 플랫폼 정책에 따라 현재 2개의 AI 플랫폼(CLOVA Studio for GOV, FabriX)를 도입하여 운영 중입니다.

④ AI 모델 

AI 모델은 신뢰성, 윤리성이 검증된 언어 모델, 추론 모델, 멀티 모달 등 다양한 유형을 제공합니다. 현재 한글 특화 중소형 LLM, 멀티모달 VLM, 추론 모델이 AI 플랫폼에 설치되어 서빙(Serving) 중입니다. 범정부 AI 공통기반이 제공하는 모델 외 다른 모델을 사용하고자 할 경우 AI 플랫폼에서의 성능/안정성 평가 후 해당 모델을 서빙하기 위한 GPU 자원 확보 후 AI 플랫폼에 적용되어 서빙됩니다. 

⑤ AI 서비스 

범정부 AI 공통기반이 제공하는 AI 서비스는 7종의 RAG를 활용하여 공공 행정 분야의 지식 문서를 검색하고, 이를 바탕으로 신뢰성 있는 답변을 생성하는 서비스로 ‘연관정보검색’과 ‘문서초안작성’ 서비스 2종이 있습니다. 

이 두 가지 서비스는 Agent 단위로 API 호출하거나 7종의 RAG를 API로 호출하여 정부기관이 자체 AI 서비스를 개발하는데 활용할 수 있습니다. 

⑥ 개발시스템 

정부기관이 선택한 AI 플랫폼에 대한 접근 창구 및 사용자 등록/관리를 지원하며, 이용하는 AI 자원 및 개발도구의 사용량 및 이용료를 대시보드를 통해 모니터링 할 수 있습니다. 이외 학습데이터 구축 및 RAG(Knowledge)에 활용된 데이터에 대한 카탈로그 제공 등 정부기관의 범정부 AI 공통기반 이용에 대한 관리시스템입니다. 

위 총 6가지의 구성요소를 기반으로 AI 서비스 개발 및 운영 단계별로 필요한 자원을 유연하게 선택하고 활용할 수 있는, 범정부 차원의 통합 AI 공통기반을 구현 하였습니다. 

4. 보안과 신뢰성: "국정원 보안 가이드라인 준수"

보안 관련 그림 (출처 : 구글 재미나이)

공공 영역의 데이터 취급에 있어 가장 중요한 '보안'은 다음과 같은 이중 장치를 통해 철저히 관리됩니다.

① 망 분리 및 폐쇄형 환경: 범정부 AI 공통기반의 인프라는 국가정보자원관리원 대구센터 내 PPP(Public Private Partnership) 존에 구축되어, 외부 인터넷망과 차단된 행정망 내에서 운영됩니다. 이는 내부 데이터의 유출 가능성을 원천 차단합니다.

② 검증된 신뢰성: 범정부 AI 공통기반의 클라우드 컴퓨팅 인프라와 AI 플랫폼 및 AI 모델은 국정원의 보안성 검토 및 국가 망 보안체계(N2SF), 한국정보통신기술 협회 (TTA) CAT(Certification of AI Trustworthiness) 인증을 통해 보안성과 보안성· 윤리성·신뢰성을 확보하였습니다.

5. 경제성 및 효율성: "쓰는 만큼 내는 종량제 모델"

범정부 AI 공통기반의 AI 플랫폼은 PaaS(Platform as a Service) 형태로 제공됩니다.

6. 사업의 특징과 의의

■ AI 자원 공통 이용방식으로의 전환

기존의 개별 구축 방식에서 벗어나, AI 모델, 플랫폼, 서비스 등 AI 자원을 범정부 차원에서 여러 기관이 함께 사용하는 구조로 전환됩니다. 이를 통해 예산 효율성과 시스템 확장성이 동시에 개선될 것으로 기대됩니다.

■ 행정망 내 생성형 A 서비스 이용 기반 마련

공무원이 행정망 내에서 보안 걱정없이 챗 서비스를 업무에 활용할 수 있도록 공통기반 Chat 서비스를 무료로 이용 가능하며, 범정부 공통기반이 제공하는 7종의 RAG 기반의  

공공 행정업무에 대한 지식 검색, 정책에 대한 질의응답, 행정 업무 지원 등 실제 행정 업무에 AI 활용 및 적용할 수 있습니다. 

■ 보안 중심 설계

공공 영역 데이터의 특성상 보안은 핵심 요소입니다. 본 사업은 외부 서비스 의존을 최소화 하고, 정부 내부망 중심의 안전한 AI 활용 환경을 지향합니다.

7. 향후 전망: 지속적인 고도화와 민관 협력

1차 사업(25년 6월 ~ 26년 1월)이 성공적으로 안착되어 현재 운영 중이며, 올해부터는 보다 유연한 AI 자원 이용 방식 제공 및 인터넷망과 연계 시 보안성 강화를 위한 2차 고도화 사업이 추진될 예정입니다. 

범정부 AI 공통기반 사업 관련 그림 (출처 : 구글 재미나이)

8. 맺음말

범정부 AI 공통기반 사업은 단순한 시스템 구축을 넘어, 공공부문의 AI 적용 및 업무 방식 자체를 변화시키는 중요한 전환점이 될 것으로 기대합니다. 

특히 생성형 AI 기술이 빠르게 발전하는 현 시점에서, 이를 안전하고 효율적으로 활용할 수 있는 기반을 선제적으로 마련한다는 점에서 그 의미는 더욱 크다고 할 수 있습니다.

향후 이 사업이 실제 행정 현장에서 어떻게 활용되고, 어떤 변화를 만들어낼지 지속적인 관심이 필요해 보입니다.