생성형 AI는 이제 국가·공공기관과 민간기업의 업무 자동화 및 혁신 기술로 빠르게 자리잡고 있습니다.

​하지만 AI 도입이 확산됨에 따라
프롬프트 입력, 데이터 학습의 과정에서 발생하는 보안 위협도 함께 증가하고 있습니다.

​이에 따라 지난 12월 10일, 국가정보원(이하 국정원)이 『AI 보안 가이드라인』을 발표하며
국가·공공기관의 안전한 AI 활용을 위한 보안 원칙과 대응체계를 공식화했습니다.
해당 가이드라인은 실무에서 바로 적용할 수 있도록 실용성을 중심으로 구성되었습니다.

더불어 『2026년도 사이버보안 실태평가지표』에도 AI 보안 관련 항목이 신설되며,
실제 행정 평가와 예산 배분 기준에도 AI 보안 대응 여부가 반영되기 시작했습니다.

오늘은 정부에서 공식적으로 발표한 AI 보안 가이드라인의 핵심 내용을 정리하고
사이버보안 실태평가지표를 통해 어떻게 하면 기업이 기본 점수와 함께 가산점까지 챙겨갈 수 있는지 확인해보겠습니다.

1️⃣국정원『AI 보안 가이드라인』핵심 요약 (2025.12.10 발표)

이번 가이드라인은 생성형 AI 시스템 사용 시 발생 가능한 보안 위협에 대응하기 위한 30개 항목을 제시하고 있습니다.
이 중 주요 항목들을 5개 영역으로 구분해 정리해보았습니다.

M01: 신뢰할 수 있는 출처의 데이터 활용
👉🏻 공공기관, 인증기관 등 검증된 출처의 데이터만 사용해야 합니다.

​M03: 데이터 검사
👉🏻 악성코드 포함 여부, 개인정보 포함 여부 등
데이터의 악의적인 변조 또는 비인가 민감정보 포함 여부 등을 검증해야 합니다.

M05: 데이터 접근통제
👉🏻 사용자, 데이터, 접근경로별 권한 부여를 통해 접근을 제어해야 합니다.

​M09: AI 시스템 로깅·모니터링
👉🏻 사용자의 요청, 응답 및 접속이력 등을 실시간 수집하여 로그로 기록하며
비정상 입력 프롬프트 등을 탐지해야 합니다.

M13: 입·출력 모니터링
👉🏻 민감정보·금칙어·기밀정보 등이 프롬프트에 포함되지 않도록
AI-DLP(Data Loss Prevention) 등의 솔루션을 사용해야 합니다.

​M15: 가드레일 다중화 / 다중 가드레일 구성
👉🏻 단일 보안장치로는 대응이 어려우므로
입·출력, 민감정보 필터링 등 다수의 보호장치가 배치해야 됩니다.

M20: 민감 명령 승인 절차 마련
👉🏻 시스템 운영 목적에 부합하더라도 정책 결정, 문서 승인, 시스템 제어 명령같이
중요 제어명령 등은 반드시 사람(관리자)이 승인해야 합니다.

​M23~24: 적대적 입력(Adversarial Prompt)에 대한 모의공격 및 재학습
👉🏻 프롬프트 인젝션, 회피·교란 등의 공격값을 입력해 이상동작 발생여부를 확인하며
AI 모델의 취약점을 파악하고 보안성을 강화합니다.

M11: AI 시스템 구성요소 명세서 관리
👉🏻 형상관리(버전관리)를 통해 현재 AI 모델이
어떤 학습 데이터로 어떤 환경에서 학습됐는지 명확히 관리해야 합니다.

​M25: AI 시스템 구성요소 취약점 점검 및 보안 업데이트
👉🏻 AI 시스템을 구성하는 라이브러리, 소프트웨어에 대한 취약점을 점검하고 보안패치를 진행해야 합니다.

​이처럼 이번 가이드라인은 단순한 권고사항을 넘어, 실질적인 가이드 역할을 할 수 있는 기준점이 됩니다.

📌Point.
AI DLP 솔루션이나 생성형 AI 보안 솔루션 등을 통해
‘어떻게 통제할 것인가’가 핵심