보도자료

 

유엔 대테러사무국, KISO 자율규제 사례 주목 KISO, ‘유엔 대테러위원회 사무국’ 라운드테이블 참여 혐오표현 자율정책․KISO 이용자보호시스템 등 자율규제 노력 소개

한국인터넷자율정책기구(이하 KISO, 의장 이인호)가 24일 유엔 대테러사무국(CTED) 대표단 라운드테이블에 초청받아 온라인상 불법‧유해정보 확산 방지를 위해 노력한 우수 사례로 소개됐다.

이날 간담회는 외교부 주최로 CTED 대표단의 한국 방문 기간에 맞춰 이뤄졌으며, 온라인 폭력적 극단주의 예방을 위한 대응 방안을 모색하고자 마련됐다.

대테러사무국(CTED)은 유엔 안전보장이사회 대테러위원회(CTC) 산하 집행기구로 △안보리 대테러 결의 이행 점검 △유엔 회원국의 대테러 역량 강화 사업 등을 추진하고 있다.

국제적으로는 테러 목적의 ICT 기술 활용을 방지하고자 인터넷과 디지털 플랫폼에서의 테러리스트 이용을 막기 위한 ‘Tech Against Terrorism’ 협의체가 출범하는 등 불법‧유해 정보 대응을 강화하고 있다.

이날 KISO는 회원사를 대표해 국내 기업들의 안전하고 건강한 인터넷을 만들기 위한 다양한 자율적 노력을 소개했다.

나탈리아 게르만 CTED 사무국장 “한국의 대형 테크 기업을 비롯한 다양한 기관이 온라인상 불법·유해 정보의 확산을 차단하기 위해 협력하는 방식이 인상적”이라며 앞으로도 국제기구와의 협력을 통해 한국의 사례를 활발히 공유해 줄 것을 요청했다.

KISO는 국내 최초의 인터넷 자율규제기구로 14년간 다양한 자율규제 정책과 가이드라인을 제정하고 인터넷과 온라인의 신뢰와 안전의 확보, 이용자 보호를 위한 자율적 규제를 수행해왔다.

이날 KISO는 △청소년 보호를 위한 검색어 관리 △혐오표현 자율정책 가이드라인 △KISO 이용자보호시스템(KSS) 등 불법·유해정보 확산을 차단하기 위한 노력을 소개했다.

KISO는 회원사의 청소년 이용자 보호를 위한 검색어를 공동 규제할 수 있는 정책규정을 마련하고, 네이버와 카카오 공동으로 청소년보호를 위한 검색어를 지정 관리하며 검색 결과에 불법, 유해한 정보가 청소년에게 노출되지 않도록 하고 있다.

또한, KISO는 네이버·카카오가 구축한 욕설·비속어 데이터베이스(DB)를 통합하여 다양한 인터넷 서비스 기업들이 기술적 보호조치에 활용할 수 있도록 응용프로그램 인터페이스(API)를 개발 완료한 사례를 공유했다. 데이터베이스 명칭은 KISO 이용자보호시스템(KSS, KISO Safeguard System)으로 6월 정식 서비스할 예정이다.

지난 4월엔 KISO 회원사에 공통으로 적용될 ‘혐오표현 자율정책 가이드라인’ 사례도 발표했다. 온라인상 혐오표현과 관련해 인터넷 사업자 공통의 가이드라인을 마련한 것은 처음이다. 가이드라인은 혐오표현에 대한 정의, 회원사와 이용자의 의무, 판단과 조치 등을 담고 있다.

이인호 KISO 의장 겸 정책위원장(중앙대 법학전문대학원 교수)은 “KISO는 범죄·테러에 악용될 수 있는 유해화학물질과 사제폭탄 제조 등 유해정보에 대한 모니터링을 강화하고 대응하기 위해 해당 공공기관과 유기적인 협조체계를 구축하는 계획을 가지고 있다”면서 “유엔 대테러사무국 간담회 계기로 KISO도 대테러 관련 유해 불법정보에 대한 정책 개발에 더욱 노력할 것”이라고 말했다.

이번 회의에서는 KISO를 통한 업계 공통의 노력 이외에도 KISO 회원사별 서비스 특성에 맞춘 활동도 소개됐다.

카카오는 유해 콘텐츠 유통을 막는 디지털 안전 정책, 인공지능(AI) 등 기술을 통한 선제적 대응 사례 등을 차례로 소개했다.

카카오는 디지털 안전을 위해 2021년 ‘증오발언 근절을 위한 카카오의 원칙’을 제정한 데 이어 최근에는 학계 및 시민사회 전문가들과 협력해 ‘증오발언 코딩북’을 제작하고 있다. 카카오는 코딩북을 기반으로 세이프봇이 증오발언을 판별하고 적절한 조치를 취할 수 있도록 기술과 정책을 강화할 예정이다.

세이프봇은 서비스 내 게시물 운영정책을 위반한 콘텐츠를 식별하고 조치하는 AI 시스템으로, 삭제가 아닌 가리는 방식을 통해 이용자들의 표현의 자유를 최대한 보장하는 방식을 택하고 있다.

네이버제트는 메타버스 플랫폼 ‘제페토(Zepeto)’ 내 아동·청소년 정책을 강화하기 위한 다양한 노력을 소개했다.

네이버제트는 ‘온라인 그루밍 대처 가이드라인’을 통해 아동·청소년 이용자들이 온라인 그루밍에 대해 정확히 인지할 수 있도록 했다. 또한, 공식 안전 캐릭터 ‘소테리아(soteria)’를 통해 이용자들에게 올바른 메타버스 이용법과 커뮤니티 가이드라인을 안내하고 있다. 또한, 글로벌 기관과 파트너십을 체결해 유해 콘텐츠에 대응하고 있다.

이인호 KISO 의장은 “KISO의 자율규제 모델이 정책결정의 독립성, 정책집행의 신속성과 유연성으로 긍정적인 평가를 받고 있다”며 “앞으로도 더욱 넓은 범위의 이용자 인권을 보호하고자 청소년보호 검색어, 혐오표현 등을 포함하여 통합 DB 개발을 추진하고 안전한 이용자 보호 체계를 구축해 나갈 것”이라고 덧붙였다.

KISO는 2009년 출범한 자율규제기구로 인터넷 포털과 커뮤니티, 챗봇 서비스 회사 등 16개 인터넷 사업자가 KISO 회원사로 참여하고 있다.

※ 문의: 박엘리 정책팀 정책팀장(ellee@kiso.or.kr, 02-563-6196)

※보도자료 PDF 다운로드 : 유엔 대테러사무국, KISO 자율규제 사례 주목