[AI·디지털 이슈 공론화 리포트 2호] AI 환각 : 위험 관리와 창의적 활용을 위한 정책 대응 전략
본 보고서는 AI 환각(Hallucination) 현상이 AI 시스템의 신뢰성을 저해하는 중대한 위험 요소인 동시에
새로운 창의성을 발현시킬 수 있는 창의의 원천이라는 양가적 특성에 주목하며,
위험 관리와 창의적 활용을 아우르는 정책 대응 동향을 종합적으로 분석하는 것을 목적으로 한다.
또한 AI 환각의 개념 정의, 발생 유형, 글로벌 기업 동향 및 의료·법률·공공 등 분야별 심층 사례 검토를 기반으로,
'환각'이라는 부정적 용어를 기능적 관점으로 전환할 것을 제언한다.
나아가 위험 관리와 활용의 균형을 맞추는 CURE 프레임워크(Control – Utilize – Regulate – Evaluate)라는 독자적인 대응 전략 모델을 제시한다.
제시된 CURE 프레임워크를 적용하여, 영역별 환각 위험 수준(5단계)에 따른 차등형 규제 제도,
AI 안전 검증 위원회 도입, 그리고 환각의 창의적 활용을 장려하는 프롬프트 가이드라인 개발 등의 구체적인 정책 방향을 도출한다.
Ⅰ. 서론.............................................................................. 5
Ⅱ. AI 환각의 개념과 유형.................................................... 6
Ⅲ. AI 환각 관련 기업 동향................................................... 12
Ⅳ. 분야별 AI 환각 사례 : 법률, 의료, 과학, 문화.................... 16
Ⅴ. AI 환각 관련 해외 정책 동향.......................................... 20
Ⅵ. 정책적 시사점 및 대응 전략............................................ 24
작성 및 문의
- 작성 : 디지털포용본부 디지털포용기획팀 고현지 선임(053-230-1332, ghjnia@nia.or.kr)
- 기획·자문 : 디지털포용본부 최문실 본부장, 정기호 팀장