이루다 논란 재발 막는다…AI 이용자 교육·업체 컨설팅 지원

조성흠 기자 기자 페이지

(서울=연합뉴스) 조성흠 기자 = 최근 인공지능(AI) 챗봇 서비스 '이루다'의 AI 윤리 및 개인정보보호 논란을 계기로 방송통신위원회가 관련 제도를 손질한다.

AI 이용자와 사업자에게 교육과 컨설팅을 지원하고 AI 윤리규범을 구체화하는 등 정책기반을 마련하기로 했다.

방송통신위원회는 14일 사람 중심의 AI 서비스가 제공되고, AI 서비스가 활용되는 과정에서 이용자 보호원칙이 지켜질 수 있도록 각종 지원사업과 제도개선을 추진할 계획이라고 밝혔다.

방통위는 "최근 AI 채팅 로봇의 혐오·차별적 표현, AI 채팅 로봇에 대한 이용자의 성희롱성 발언 등이 사회적으로 큰 논란을 일으켰다"며 "사업자·이용자·정부 등 모두가 AI 윤리의 중요성을 인지하고 각자 실천할 수 있는 방안을 모색해야 한다"고 설명했다.

이에 따라 AI 서비스에서 이용자 보호를 가장 큰 원칙으로 삼아 이용자 교육과 사업자 컨설팅, 제도개선 등을 추진할 방침이다.

우선 올해부터 이용자에게 AI 서비스의 비판적 이해 및 주체적 활용에 대한 교육을 한다. 이는 이용자가 AI 서비스에 활용된 알고리즘의 편향성을 파악하고, 그에 따른 문제를 최소화해 서비스를 이용하는 방안 등을 포함한다.

내년부터는 AI 윤리교육 지원 대상을 이용자에서 사업자로 확대해 스타트업 등을 대상으로 서비스 설계 시 AI 역기능 등 위험관리 컨설팅을 지원하는 사업을 추진할 예정이다.

아울러 방통위는 AI 서비스 이용자 보호를 위해 규범과 제도를 구체화한다.

앞서 2019년 11월 차별금지와 인간존엄성 보호 등을 골자로 한 '이용자 중심의 지능정보사회를 위한 원칙'을 토대로, 이를 실천할 구체적 사례와 방법 등을 업계와 공유할 계획이다.

특히 사업자의 규제 부담 및 AI 서비스의 혁신 저해를 최소화하기 위해 민간의 모범 사례를 적극 발굴해 실행 지침의 토대로 삼을 방침이다.

중장기적으로는 이용자에게 피해를 야기한 AI 서비스의 책임 소재 및 권리구제 절차 등을 포괄하도록 기존 법체계를 정비한다.

이를 위해 방통위는 지난해 1월 정보통신정책연구원(KISDI) 내에 지능정보사회 정책센터를 설립하고 지난해 9월부터 센터 내 법제 연구반을 구성해 운영 중이다.

한상혁 위원장은 "AI 서비스는 많은 순기능이 있지만 올바른 윤리와 규범 없이는 이용자 차별과 사회 갈등을 초래할 수 있다"며 "기술 혜택은 골고루 누리되 부작용은 최소화하도록 사람 중심의 AI를 위한 정책을 촘촘히 추진할 것"이라고 말했다.

josh@yna.co.kr

제보는 카카오톡 okjebo <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지> 2021/01/14 10:08 송고