마크롱 “아이들을 희생시키는 AI 발전은 안 된다”… 파리 평화 포럼서 아동 보호 국제규범 촉구

인공지능(AI)과 소셜미디어가 일상생활은 물론 교육과 인간관계에 이르기까지 사회 전반을 빠르게 변화시키고 있다. 기술의 발전은 새로운 지식과 기회를 제공하고 있지만, 동시에 성장기에 있는 아동과 청소년의 인지발달과 정서적 안정, 사회적 관계에 어떤 영향을 미칠 것인가에 대한 우려도 커지고 있다. 이러한 가운데 에마뉘엘 마크롱(Emmanuel Macron) 프랑스 대통령이 AI 시대의 기술혁신은 아동의 권리와 안전을 최우선으로 고려해야 한다는 메시지를 국제사회에 제시했다.

마크롱 대통령은 11월 11일 자신의 사회관계망서비스 X를 통해 파리 평화 포럼(Paris Peace Forum)에서 논의한 아동 보호 의제를 소개하며, 아이들이 모든 정치적 약속과 정책적 결정의 중심에 있어야 한다고 강조했다. 특히 인공지능과 소셜미디어가 어린 세대의 성장환경을 근본적으로 바꾸고 있는 만큼 기술의 편익을 확대하는 동시에 그에 따른 위험을 과학적으로 검증하고 예방하는 노력이 필요하다고 밝혔다.

그는 기술이 인류에게 새로운 가능성을 열어주는 수단이 되어야 하며, 그 발전이 아이들의 건강과 행복을 희생시키는 방식으로 이루어져서는 안 된다는 원칙을 분명히 했다.

이번 발언은 10일부터 11일까지 프랑스 파리에서 열린 제9회 파리 평화 포럼에서 아동의 디지털 권리가 주요 의제로 다뤄지고, 글로벌 AI 기업들이 아동 보호를 위한 공동 약속에 참여한 가운데 나왔다. 국가 정상과 정부 수반, AI 연구기관 책임자, 과학자와 국제기구 관계자들이 함께 논의에 참여했다는 점에서 아동의 디지털 안전이 국제사회의 공동 정책과제로 부상하고 있음을 보여준다.

AI가 아이들의 삶에 들어오기 전에 안전부터 검증해야 한다

마크롱 대통령이 이번 포럼에서 가장 중요하게 강조한 것은 아동이 사용하는 AI 기술에 대한 독립적인 사전 검증이다. 새로운 기술이 시장에 출시된 이후 문제가 발생하면 대응하는 기존 방식에서 벗어나, 개발과 설계 단계부터 아동에게 미칠 영향을 면밀히 평가해야 한다는 취지이다.

생성형 AI는 이미 학습과 정보검색, 창작활동뿐 아니라 개인적인 고민을 상담하고 감정을 나누는 도구로 활용되고 있다. 특히 사람과 자연스럽게 대화하는 AI 챗봇의 확산은 아동과 청소년에게 새로운 형태의 디지털 관계를 만들어주고 있다.

그러나 아직 판단력과 정서적 조절능력이 발달하는 과정에 있는 아동은 AI가 제공하는 정보와 조언을 비판적으로 받아들이는 데 어려움을 겪을 수 있다. AI를 실제 사람처럼 인식하거나 지나치게 의존할 경우 현실의 인간관계와 자율적인 사고 형성에도 영향을 받을 가능성이 제기된다.

프랑스 일간지 르피가로가 11일 AFP 보도를 인용해 전한 내용에 따르면, 마크롱 대통령은 어린이 장난감에는 엄격한 안전기준이 적용되는 반면 인간과 복잡하게 상호작용하는 AI 시스템은 충분한 검증 없이 아동에게 제공되는 현실을 지적했다.

이는 AI가 단순히 정보를 전달하는 기술을 넘어 인간의 사고와 감정, 행동에 영향을 미칠 수 있는 환경으로 발전하고 있다는 문제의식에서 비롯된 것이다. 따라서 아동이 이용하는 AI 서비스에는 정보의 신뢰성뿐 아니라 심리적 안전, 개인정보 보호, 유해 콘텐츠 차단, 정서적 의존 가능성 등을 종합적으로 고려한 안전기준이 필요하다는 주장이다.

오픈AI·앤트로픽 등 글로벌 기업, 아동 보호 헌장에 동참

이번 파리 평화 포럼에서는 이러한 문제의식을 구체적인 실천으로 연결하기 위한 ‘아동을 위한 더 안전한 인공지능 약속 헌장(Charter of Engagement for Safer AI for Children)’이 발표됐다.

마크롱 대통령은 11일 X를 통해 앤트로픽(Anthropic), 블랙 포레스트 랩스(Black Forest Labs), 마이크로소프트(Microsoft), 오픈AI(OpenAI)가 헌장을 지지했다고 밝혔다.

헌장은 AI 개발과 운영 과정에서 아동의 발달단계와 취약성을 고려하고, 미성년자가 안전하게 기술을 이용할 수 있도록 보호장치를 마련하는 데 초점을 맞추고 있다. 특히 독립적인 연구와 평가를 통해 AI가 아동에게 미치는 영향을 객관적으로 확인하고, 위험성이 발견될 경우 적절한 예방조치를 취해야 한다는 방향을 제시했다.

AI를 이용한 아동 성착취 콘텐츠와 동의 없는 성적 이미지 생성 등 심각한 디지털 위해를 방지하는 문제도 중요한 과제로 다뤄졌다.

이번 헌장은 법적 구속력을 갖는 국제조약이나 강제규제가 아니라 기업들의 자발적인 참여를 바탕으로 한 약속이라는 점에서 한계도 있다. 그러나 세계 AI 산업을 이끄는 주요 기업들이 아동 보호를 공동의 책임으로 인정했다는 점은 의미가 있다.

앞으로 이러한 약속이 실제 제품 설계와 서비스 운영, 안전성 평가, 위험정보 공개 등으로 이어질 수 있을지가 중요한 과제가 될 전망이다. 기업의 선언을 넘어 독립적인 검증과 투명한 이행체계를 마련하는 것이 실질적인 아동 보호의 출발점이기 때문이다.

프랑스 대통령실, 생성형 AI의 인지적·정서적 위험에 주목

프랑스 대통령실 엘리제궁은 10일 ‘생성형 AI와 취약성’ 전문가위원회의 연구보고서를 공개하며 AI 기술이 인간의 사고와 행동, 정신건강에 미칠 수 있는 영향을 정책적으로 검토해야 한다고 밝혔다.

‘막지 않으면서 보호하기: 생성형 AI 시대의 취약성(Protéger sans empêcher)’이라는 제목의 보고서는 AI 연구자 세레나 빌라타(Serena Villata)와 정신의학 전문가 라파엘 가이야르(Raphaël Gaillard), 아민 베냐미나(Amine Benyamina) 등이 이끈 9명의 독립적인 전문가위원회가 작성했다.

위원회는 보건의료 전문가와 연구자, 기업 관계자, 아동 보호단체 등을 대상으로 55차례 의견을 청취하고, 생성형 AI 시대의 위험을 줄이기 위한 18개 정책 권고안을 제시했다.

보고서는 AI 활용 과정에서 나타날 수 있는 인지적 의존과 과도한 정서적 유대, 디지털 폭력, 정보 왜곡 등을 주요 위험요인으로 살펴봤다. 특히 이용자의 생각과 요구에 지나치게 동조하는 AI의 응답 방식이나 인간과 유사한 성격을 부여하는 설계가 취약한 이용자의 판단과 행동에 영향을 미칠 수 있다고 지적했다.

학습과 글쓰기 과정에서 AI에 지나치게 의존할 경우 스스로 생각하고 문제를 해결하는 능력을 충분히 활용하지 못할 가능성도 검토 대상에 포함됐다.

다만 이러한 우려가 모든 AI 이용의 부정적인 결과를 의미하는 것은 아니다. AI의 영향은 이용자의 연령과 발달단계, 사용 목적과 시간, 서비스 설계방식 등에 따라 달라질 수 있으며 장기적인 인과관계를 규명하기 위해서는 추가적인 과학적 연구가 필요하다.

전문가위원회는 이러한 불확실성을 고려해 생성형 AI의 시장 출시 이전에 다양한 분야의 전문가가 참여하는 위험평가를 실시하고, 아동과 취약계층을 대상으로 하는 서비스에는 더욱 엄격한 보호장치를 마련할 것을 권고했다.

이는 AI의 활용 자체를 제한하기보다 기술이 제공하는 교육적·사회적 혜택을 유지하면서 인간의 자율성과 안전을 보호할 수 있는 제도적 환경을 조성하자는 접근이다.

13세 미만 소셜미디어 접근 제한… 유럽 차원의 규제 강화 추진

마크롱 대통령은 AI 안전과 함께 아동의 소셜미디어 이용환경을 개선하는 문제에도 적극적인 입장을 보였다.

그는 11일 X에서 프랑스가 과학적 연구를 바탕으로 어린이의 화면 노출과 휴대전화 사용을 제한하는 정책을 추진해 왔다고 설명하면서, 앞으로 13세 미만 아동의 소셜미디어 접근을 제한하고 13~15세 청소년의 이용에 대해서도 엄격한 규제체계를 마련해야 한다고 밝혔다.

특히 이러한 기준을 프랑스 국내정책에 머무르게 하지 않고 유럽연합 차원의 공동 규범으로 발전시키겠다는 의지를 나타냈다.

연령별 접근 제한은 아동의 발달단계에 따라 디지털 환경에서 요구되는 보호 수준이 달라야 한다는 판단에 기반한다. 어린 나이부터 과도한 화면 노출이나 자극적인 콘텐츠에 반복적으로 노출될 경우 수면과 집중력, 정서적 안정, 사회적 관계 등에 부정적인 영향을 받을 가능성이 있다는 연구들이 정책 논의의 배경이 되고 있다.

다만 연령 제한의 구체적인 효과와 적절한 규제 수준에 대해서는 지속적인 검토가 필요하다. 또한 마크롱 대통령이 제안한 유럽 차원의 규제 구상은 현재 시행 중인 법률과 구분해야 하며, 모든 제한이 이미 유럽 전역에서 시행되고 있는 것은 아니다.

유로뉴스는 10일 마크롱 대통령이 아동의 정신건강이나 인지발달에 심각한 위험을 초래하는 AI 활용에 대해서는 금지조치까지 검토할 수 있어야 한다는 입장을 밝혔다고 보도했다.

프랑스의 이러한 정책 방향은 아동의 디지털 안전을 부모 개인의 책임에만 맡기지 않고 국가와 플랫폼 운영기업, 기술개발자가 함께 관리해야 할 사회적 책임으로 인식하고 있다는 점에서 주목된다.

50여 개국 ‘아동 우선 선언’ 참여… 국제협력과 연구 지원 확대

파리 평화 포럼은 10일 공식 보도자료를 통해 50여 개국과 5개 국제기구, 20개 이상의 비정부기구·재단·기업 등이 ‘아동 우선 선언(Children First Declaration)’에 참여한다고 밝혔다.

이번 선언은 아동의 건강과 영양, 교육, 보호, 디지털 시대의 심리사회적 복지 등 다섯 가지 분야를 중심으로 2045년까지 실질적인 개선을 이루겠다는 국제사회의 공동 약속을 담고 있다.

특히 생성형 AI가 아동의 성장과 발달에 미치는 영향을 과학적으로 규명하기 위한 연구 협력도 추진된다. 오픈AI와 앤트로픽 등 AI 개발기업과 아동 안전 관련 기관들은 관련 연구를 위한 자금과 기술적 도구를 지원하기로 했으며, 총 800만 유로 규모의 지원 약속이 발표됐다.

이러한 연구 지원은 AI의 잠재적 위험을 막연한 우려나 추측에 의존해 판단하기보다 객관적인 자료와 과학적 검증을 통해 확인하고, 그 결과를 정책과 기술개발에 반영하기 위한 것이다.

유니세프(UNICEF)의 캐서린 러셀(Catherine Russell) 사무총장도 아동의 권리와 복지를 보호하기 위한 국제사회의 공동 책임을 강조했다.

한국 역시 아동 우선 선언 참여국 명단에 포함됐다. 이는 AI 시대의 아동 보호가 특정 국가나 지역에 국한된 문제가 아니라 국제사회가 함께 대응해야 할 보편적인 과제라는 점을 보여준다.

AI 안전을 위한 국제협력, 기업의 자율적 약속에서 제도적 책임으로

아동 보호를 중심으로 한 이번 논의는 프랑스가 추진하고 있는 국제적인 AI 안전 거버넌스 구축 노력과도 연결된다.

프랑스 대통령실은 9일 마크롱 대통령이 캐나다와 영국, 일본 등 주요국 관계자와 글로벌 AI 기업 경영진, 연구자들이 참여하는 AI 안전회의를 개최했다고 발표했다.

회의에는 오픈AI의 샘 올트먼(Sam Altman), 앤트로픽의 다리오 아모데이(Dario Amodei), 미스트랄 AI의 아르튀르 멘슈(Arthur Mensch) 등 주요 AI 기업 관계자들이 참여했다.

이 자리에서 논의된 ‘AI 안전과 보안을 위한 파리 선언(Paris Call for AI Safety and Security)’은 첨단 AI 모델에 대한 독립적인 안전성 평가와 중대한 사고에 관한 정보 공유, 조기경보체계 구축, 개발기업과 정책당국의 책임 명확화 등을 주요 원칙으로 제시했다.

이는 아동 보호를 위한 별도의 AI 헌장과는 구분되는 국제적 협력 구상으로, 빠르게 발전하는 AI 기술에 대응하기 위해 국가와 기업이 공통의 안전기준을 마련해야 한다는 취지를 담고 있다.

프랑스 일간지 르몽드도 9일 관련 보도에서 프랑스 정부가 AI 개발기업의 독립적인 안전평가와 위험정보 공개를 국제적 규범으로 발전시키려는 움직임에 주목했다.

AI는 국경을 넘어 개발되고 활용되는 기술인 만큼 한 국가의 법률이나 개별 기업의 자율적인 조치만으로 모든 위험에 대응하기 어렵다. 따라서 국제적으로 호환 가능한 안전기준과 평가체계를 마련하고, 위험이 확인될 경우 신속하게 정보를 공유할 수 있는 협력구조가 필요하다는 인식이 확산되고 있다.

기술혁신의 새로운 기준, 미래세대의 건강과 행복

마크롱 대통령이 파리 평화 포럼에서 제시한 메시지는 AI 시대의 기술혁신이 지향해야 할 가치에 대한 근본적인 질문을 던지고 있다.

그동안 인공지능을 둘러싼 국제적 논의는 기술 경쟁력과 산업 발전, 개인정보 보호, 알고리즘의 편향, 허위정보와 국가안보 등에 집중돼 왔다. 그러나 AI가 교육과 일상생활, 인간의 정서적 관계에까지 영향을 미치면서 아동의 건강한 성장과 발달을 보호하는 문제가 중요한 정책 의제로 떠오르고 있다.

특히 아동은 디지털 기술의 혜택을 누릴 권리가 있는 동시에 그 위험으로부터 보호받아야 할 권리도 가진다. 새로운 기술에 대한 접근을 무조건 제한하기보다 발달단계에 적합한 이용환경을 조성하고, 스스로 판단하고 사고하는 능력을 기를 수 있도록 지원하는 균형 잡힌 접근이 요구된다.

이러한 변화는 ESG 경영에도 중요한 시사점을 제공한다. 아동의 건강과 안전, 개인정보와 디지털 권리를 보호하는 것은 기업의 사회적 책임(S)에 해당하며, AI 개발과 운영 과정에서 위험성을 투명하게 공개하고 독립적인 검증을 수용하는 것은 책임 있는 거버넌스(G)의 중요한 요소이다.

앞으로 AI 기업의 경쟁력은 기술의 성능과 시장점유율뿐 아니라 이용자의 안전과 기본권을 얼마나 충실하게 보호하는가에 따라서도 평가받게 될 가능성이 크다. 특히 미래세대에 미칠 영향을 고려한 책임 있는 기술개발은 기업의 지속가능성과 사회적 신뢰를 결정하는 중요한 기준이 될 것이다.

국제사회 역시 과학적 연구를 토대로 AI의 장기적인 영향을 규명하고, 아동의 발달단계에 적합한 보호기준을 마련하며, 기업의 자발적인 약속이 실질적인 책임과 제도적 이행으로 이어지도록 노력해야 한다.

인공지능은 인간의 지식과 능력을 확장하고 새로운 가능성을 열어주는 기술이다. 그러나 그 발전의 궁극적인 목적은 기술 자체의 진보가 아니라 인간의 삶을 더욱 풍요롭고 안전하게 만드는 데 있어야 한다.

마크롱 대통령이 강조한 것처럼 기술은 아이들을 희생시키는 대가로 발전해서는 안 된다. 미래세대가 건강하게 성장하고 스스로 생각하며 자신의 가능성을 실현할 수 있는 환경을 만드는 것이야말로 기술혁신이 추구해야 할 중요한 가치이다.

이번 파리 평화 포럼은 아동의 권리와 안전을 AI 시대의 국제적 책임으로 부각시키며, 기술의 발전과 인간의 존엄성이 조화를 이루는 지속가능한 디지털 사회를 향한 새로운 논의의 출발점이 됐다.