 |
| (사진제공=정춘생 의원실) |
[아시아뉴스통신=박준식 기자] 방송미디어통신위원회가 딥페이크 성착취물 양산 논란과 관련해 일론 머스크의 xAI‘그록’에 청소년 보호장치 마련을 요청한 가운데, 인공지능 사업자에 청소년 보호조치 의무를 부과하는 법 개정안이 국회에 제출됐다.
국회 성평등가족위원회 소속 조국혁신당 정춘생 의원은 인공지능사업자에게 청소년을 대상으로 인공지능을 이용한 제품 또는 서비스 제공 시 자살 및 자해예방, 과의존 방지, 선정적‧폭력적 내용의 차단 등을 위한 기술적 조치의무를 부과하고, 이를 위반할 경우 과학기술정보통신부 장관이 인공지능사업자에 대해 자료제출 요구나 사실조사를 가능하도록 하는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안」을 국회에 제출했다.
이번 개정안은 정춘생 의원이 작년 성평등가족부 국정감사에서 AI 챗봇이 선정성, 자살방조, 망상, 과몰입 등 아동‧청소년에 미치는 부정적 영향에 대한 정부의 예방조치 필요성을 지적한 후 후속조치로서 추진한 것이다.
작년 국감 당시 챗GPT 개발사인 오픈AI의 CEO 샘 올트먼은“우리는 도덕경찰이 아니다”라며‘19금’서비스로 성적 대화나 성인컨텐츠를 허용하겠다고 밝힌 바 있으며, 일론 머스크의 AI 챗봇‘그록’의 성인용 옵션인‘스파이시 모드’의 선정성과 딥페이크 논란이 일고 있었다. 또한 2024년 2월과 2025년 4월 미국에서는 청소년이 챗GPT 등 인공지능 챗봇과 대화를 나누다 자살한 사건이 발생해 사회적 문제로 대두되고 있었다.
정춘생 의원은 이러한 상황을 언급하며 청소년정책을 소관하는 성평등가족부에 아동‧청소년의 AI 챗봇 이용실태조사 실시를 요구하는 한편, 성평등가족부가 AI 서비스 업체에 아동‧청소년에게 자살이나 폭력 관련 컨텐츠 제공 금지를 요청하도록 한 바 있다. 아울러 미국 연방거래위원회(FTC)가 작년 9월 구글, 오픈AI, 메타 등 AI 챗봇 기업 7곳에 대해 AI 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보한 것처럼 우리 정부도 적극적으로 아동‧청소년 보호대책을 강구해야 한다고 지적했다.
정 의원이 국회 입법조사처로부터 제출받은 자료에 따르면, 작년 9월 통과된 미국 캘리포니아 주법안(SB-243)에서는 ▲사람과 상호작용하는‘동반자형 챗봇(Companion chatbot)’운영자에게 자살 충동, 자살 또는 자해 관련 콘텐츠 생성 방지 프로토콜 적용하도록 의무화하고, ▲사용자가 미성년자인 경우 사용자가 AI와 상호작용하고 있음을 알리며 최소 3시간마다 사용자에게 명확하고 눈에 띄는 알림을 기본적으로 제공하도록 규정하고 있다.
법 개정안을 발의하며 정 의원은 “최근 그록이 생성한 미성년자 성착취물 영상이 전세계적 문제가 되며 각국 정부가 대응조치를 취하고 있는 가운데, 이제라도 방미통위원장이 AI 서비스 제공자를 대상으로 청소년 보호의무 부과를 추진해 나가겠다고 밝힌 것은 늦었지만 다행”이라고 밝히며“그러나 선정성, 폭력성, 자살 위험 등 AI 챗봇의 부정적 영향으로부터 청소년을 보호하기 위해 법 개정안을 신속하게 통과시켜‘사후약방문’이 아닌 예방적 조치를 강구해야 할 것”이라고 지적했다.
이번 「인공지능기본법 개정안」은 강경숙, 김선민, 김준형, 백선희, 서왕진, 신장식, 전진숙, 황운하, 허성무 의원(가나다 順)이 공동발의했다.
