사람사는세상 노무현재단(이하 노무현재단)이 노무현 전 대통령을 대상으로 한 온라인 혐오 콘텐츠에 대응하기 위해 인공지능(AI) 기반 모니터링 시스템을 본격 가동했다.

노무현재단은 지난 1월 15일부터 ‘노무현 대통령 온라인 혐오 표현 AI 모니터링’ 시스템을 운영하고 있다고 밝혔다. 해당 시스템은 온라인 공간에서 확산되는 혐오 표현을 상시 감시하고, 신속하고 체계적인 대응을 목표로 한다.

유희화된 혐오, 민주주의 가치 훼손

노무현재단은 그간 온라인상에서 노무현 전 대통령을 소재로 한 혐오 콘텐츠가 ‘놀이’처럼 소비·확산되는 현상에 주목해 왔다. 재단은 이러한 유희화된 혐오가 인권 침해에 대한 사회적 감수성을 약화시키고, 사회적 약자에 대한 차별과 혐오를 용인하는 분위기를 조성할 수 있다고 지적했다.

특히 혐오 표현이 일상적으로 소비되며 고착화되는 현상은 민주주의의 근간인 인권 존중과 다양성의 가치를 훼손할 수 있다는 판단이다.

이에 노무현재단은 지난해 노무현 전 대통령 사례를 중심으로 한 온라인 혐오 표현 기초 연구를 진행하고, 이를 바탕으로 ‘차별 없는 사람사는세상을 위한 5대 대응 방안’을 수립했다. 해당 방안은 △법적 대응 강화 △온라인 플랫폼·커뮤니티 대응 △디지털 인권 교육 △정책 및 입법 활동 △공익 캠페인 등으로 구성돼 있다.

AI 자동 감지와 시민 제보의 이중 대응 체계

이번 AI 모니터링 사업의 핵심은 ‘AI 자동 감지’와 시민 제보를 결합한 이중 대응 체계다. AI 시스템은 온라인 공간을 상시 모니터링하며 사자명예훼손, 모욕, 허위 정보 및 왜곡, 혐오 표현 등을 자동으로 감지한다.

여기에 시민 제보 시스템을 연계해 AI가 포착하기 어려운 사례까지 폭넓게 수집한다는 계획이다. 시민 제보는 노무현재단 홈페이지를 통해 누구나 참여할 수 있다.

노무현재단은 수집된 데이터를 통합 분석해 온라인 플랫폼에 삭제 요청을 하는 등 실효성 있는 대응에 집중할 방침이다.

법률 대응·정책 개선 근거로 활용

모니터링을 통해 확보된 자료는 향후 법률 대응 검토는 물론, 온라인 혐오 문화 개선을 위한 정책·제도 개선 제안의 근거 자료로 활용될 예정이다.

노무현재단은 “이번 사업은 전직 대통령 개인의 명예를 보호하는 차원을 넘어, 우리 사회가 지켜야 할 민주주의 가치와 ‘사람사는세상’의 원칙을 회복하기 위한 노력”이라며 “앞으로도 시민사회와 관계 기관과 협력해 온라인 혐오 문화에 책임감 있게 대응해 나가겠다”고 밝혔다.