방송통신위원회와 정보통신정책연구원은 어제(19일) 국내외 인공지능(AI) 기술과 정책 동향을 분석하고 AI 이용자 보호 정책 방안을 논의하기 위한 '인공지능서비스 이용자 보호 민관협의회'의 첫 회의를 개최했다.

그동안 운영돼 온 '지능정보사회 이용자보호 민관협의회'를 올해부터 'AI서비스 이용자보호 민관협의회'로 확대 개편해 운영하기로 한 것이다. 이는 인공지능 기술이 빠르게 발전하면서 이용자 보호의 필요성이 더욱 커지고 있기 때문이다.

AI 기술의 발전과 함께 증가하는 위험성

인공지능 기술은 다양한 산업 분야에서 혁신을 이끌고 있지만, 동시에 여러 문제점도 발생하고 있다. 대표적인 문제로는 AI의 알고리즘 편향, 개인정보 유출, 가짜뉴스 및 허위정보 생성, 딥페이크 악용 등이 있다. 특히, AI 챗봇이나 생성형 AI 기술이 발전하면서 이용자들이 의도치 않게 허위 정보를 접하거나 사생활이 침해될 가능성이 커지고 있다.

AI가 결정하는 과정이 불투명해 이용자가 어떤 기준으로 판단이 내려졌는지를 알기 어려운 '블랙박스 문제'도 중요한 이슈로 떠오르고 있다. 이에 따라 AI의 투명성을 높이고, 이용자가 안전하게 기술을 활용할 수 있도록 제도적 보완이 요구되고 있다.

AI 이용자 보호법 추진… 법적 안전망 구축 필요

방통위는 AI의 잠재적 위험성과 부작용으로부터 이용자를 보호하기 위해 'AI 이용자 보호법' 제정을 추진하고 있다. 해당 법안에는 AI 서비스 제공자의 책임 강화, 이용자 보호를 위한 가이드라인 마련, 개인정보 보호 강화 등이 포함될 전망이다.

전문가들은 AI 기술이 사회 전반에 미치는 영향이 점점 커지고 있는 만큼, 이용자 보호를 위한 법적 안전망 구축이 시급하다고 입을 모은다. AI의 윤리적 문제를 해결하고 이용자의 신뢰를 확보하기 위해 정부와 기업, 학계가 협력하여 적극적인 대응책을 마련해야 한다는 의견도 제기된다.

이번 AI서비스 이용자보호 민관협의회의 출범이 AI 관련 정책을 발전시키고, 안전한 AI 환경을 조성하는 중요한 계기가 될 것으로 기대된다.