개요
생성형 AI 확산으로 디지털 기술의 이용 장벽은 낮아지고 있지만, AI가 제공하는 정보와 결과를 판단하는 새로운 어려움이 나타나고 있다.
기존 디지털 취약계층뿐 아니라 AI를 능숙하게 이용하는 사람도 취약해질 수 있다는 점에 주목하여, AI 시대의 취약계층을 새롭게 살펴보고 디지털 포용 정책의 확장 방향을 제시하고자 한다.
주요 내용
AI 시대의 디지털 격차는 기존의 접근과 이용 격차에 더해 AI의 결과를 이해하고 검증하며 판단하는 역량의 격차로 확대되고 있다.
생성형 AI의 오류와 허위정보, 이용자에 대한 과도한 동조, 정서적 의존, AI 에이전트의 행동 등은 새로운 취약성을 유발할 수 있다.
이에 디지털 접근성과 AI 판단 역량을 기준으로 취약성 유형을 구분하고, 결정의 중요도와 정서 상태, 확인 및 통제 여건에 따라 실제 피해 가능성이 달라질 수 있음을 분석했다.
또한 AI를 직접 이용하지 않더라도 AI가 만든 정보나 결정의 영향을 받는 사람까지 살펴봄으로써 기존 취약계층 구분의 한계와 새로운 정책적 과제를 도출했다.
시사점
AI 시대의 취약계층은 AI를 이용하기 어려운 사람을 넘어 AI의 결과를 판단하고 잘못된 결과에 대응하기 어려운 사람까지 포괄적으로 살펴볼 필요가 있다.
앞으로는 기존의 접근성 지원을 지속하면서 AI 판단 역량 교육을 강화하고, 이용자가 AI의 결과를 확인하고 바로잡을 수 있도록 서비스 설계와 보호 체계를 개선해야 한다.
특히 연령이나 집단 구분뿐 아니라 이용 상황과 피해 가능성을 함께 고려하여 포용 정책의 기준을 '접근'에서 '판단'과 '상황'으로 확장할 필요가 있다.