이 글은 증오발언 근절을 위한 카카오의 원칙 이라는 이름으로 카카오 정책산업 연구 브런치에 동시에 개제되었습니다.

1. 원칙 수립 배경과 원칙 내용

카카오는 ‘기술과 사람으로 더 나은 세상을 만들겠다’는 비전으로 ‘기업의 디지털 책임(CDR, Corporate Digital Responsibility)’ 실천 방안을 고민하고 있습니다.

온라인 증오발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있습니다. 카카오 역시 사회의 구성원으로서, 디지털 공간을 보다 건강하게 만들기 위한 증오발언 대응 원칙을 수립하게 됐습니다.

더 나은 디지털 세상을 만들기 위한 카카오의 노력

이번 원칙 수립은 디지털 기업 고유의 ESG 활동

2020년 1월에 시작해 1년여간 고민한 결과로 <증오발전 근절을 위한 카카오의 원칙>을 마련했습니다. 카카오는 AI윤리 헌장, 아동・청소년 보호 정책, 그리고 최근 인권경영 선언까지 디지털 책임을 다하기 위한 노력을 지속하고 있습니다.

디지털 공간 내 문제를 해결하기 위한 카카오의 구체적인 실천 노력은 디지털 기업 고유의 ESG 활동입니다. 국내에서 증오발언 근절을 위해 기업이 원칙을 제정하여, 이를 적용하는 것은 이번이 처음입니다.

※ ESG : 환경 ‘Environment’, 사회 ‘Social’, '지배구조 ‘Governance’ 측면에서 기업의 책임을 요구하고 평가하는 틀

증오발언 근절을 위한 카카오의 원칙

카카오는 기술과 사람의 연결을 통해 더 나은 세상을 만들고자 합니다. 카카오는 보다 자유롭고 다양한 연결을 위해 이용자의 표현의 자유를 보호하려고 힘쓰고 있습니다.

이용자의 인권을 보호하는 것 또한 카카오의 중요한 책무입니다. 카카오는 표현의 자유를 남용하여 타인의 안전을 위협하는 발언을 경계합니다.

카카오는 온라인 증오발언(hate speech)을 근절하기 위해 노력해 나가려 합니다. 아래와 같은 카카오의 증오발언 대응 정책 방향이 온전히 이행되고, 나아가 모두에게 안전한 디지털 환경이 만들어지도록 여러분의 많은 관심과 참여를 부탁드립니다.

1. 카카오는 출신(국가, 지역 등)·인종·외양·장애 및 질병 유무·사회 경제적 상황 및 지위·종교·연령·성별· 성 정체성·성적 지향 또는 기타 정체성 요인 등을 이유로 특정 대상을 차별하거나, 이에 대한 편견을 조장하며, 일방적으로 모욕하거나 배척하는 행위에 반대합니다.

2.카카오는 이러한 차별에 기반해 특정인과 특정 집단을 공격하는 발언을 증오발언으로 정의합니다. 증오발언은 이용자의 정서적 안전을 위협할 뿐 아니라, 사회적 배척과 물리적 폭력을 유발합니다. 증오발언은 다양한 이용자가 발언에 나설 자유를 위축시킬 뿐만 아니라 우리 사회의 신뢰와 건강성을 저해합니다. 카카오는 이용자의 인권과 존엄성을 훼손하고 안전을 위협하는 증오발언에 강경하게 대처하겠습니다.

3.이용자는 카카오 서비스 내 공개된 공간에서 특정인과 특정 집단에 대한 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 합니다. 이용자는 타인의 존엄성과 안전을 위협하지 않는 한 여전히 공공정책이나 자신의 신념 등에 대해 자유롭게 의견을 개진할 수 있습니다.

4.카카오는 증오발언을 근절하기 위해 앞으로도 정책, 기술, 서비스 기획 및 디자인을 고도화해 나가겠습니다. 더불어 사내 교육과 모니터링을 강화하는 등 내부로부터의 차별과 증오발언을 경계하겠습니다.

위 원칙은 공개 게시물 영역에 한합니다. 카카오톡의 사적 대화공간, 메일, 톡서랍 등 개인화한 서비스와 커뮤니티 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것입니다.

카카오는 모든 이용자가 안전하게 표현의 자유를 누릴 수 있는 환경을 만들기 위해 노력하겠습니다. 모두에게 안전한 디지털 공간을 만들기 위한 노력에 이용자 여러분도 적극적으로 동참해 주시길 부탁드립니다.

이번 원칙 수립 과정에 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등 민관학의 전문가들이 함께 해 주셨습니다. 단지 기업의 시각에서 문제 해결에 나서는 것이 아닌, ‘사회의 눈높이’에서 진정성 있는 해법을 모색하기 위한 방안이었습니다. 다양한 전문가들의 조언 덕분에 쉽지 않은 작업이 원칙 발표라는 결과물까지 연결될 수 있었습니다.

카카오는 앞으로도 여러 분야의 전문가 및 이해관계자들과 함께 관련 정책을 발전시켜 나갈 수 있도록 노력하겠습니다.

2. 원칙 수립을 위한 숙의 과정

해외의 사례와 같이 극단적인 폭력으로 이어지는 경우는 많지 않지만, 우리나라도 특정 집단을 향한 차별·혐오·증오성 온라인 발언이 적지 않습니다. 이러한 문제에 사업자들이 적극 대응해야 한다는 사회적 요구가 높아지고 있습니다. 그렇다고 해서 신속한 정책 적용이 최선은 아닙니다. 섣불리 개입할 경우 이용자들의 표현의 자유를 제약할 우려가 있기 때문입니다. 그래서 카카오는 원칙 수립에 대해서도 신중하게 접근하고자 했습니다.

※ 용어 설명: ‘혐오’가 아닌 ‘증오’란 표현을 쓴 이유

-‘Hate speech’는 국내에서 ‘혐오(嫌惡)표현’이란 말로 통용됩니다. 그러나 카카오의 정책과 관련된 자료에는 ‘증오발언’이란 용어를 쓰기로 했습니다. ‘혐오’ 대신 ‘증오’를 쓴 이유는 다음과 같습니다.

-‘혐오’는 ‘싫어하여, 기피하는’ 감정까지 포괄합니다. 이러한 감정에는 특정 대상에 대한 ‘고의적 폭력성’이 내포하지는 않을 수 있습니다. 특정 행위를 관리・조치하려면 그 행위의 해악성이 뚜렷해야 하고, 제재의 필요성과 타당성도 확보해야 합니다. 이러한 조건을 고려해, 카카오는 ‘차별적 인식에 기반해 특정 집단에 대해 극단적인 언어적 폭력을 가하는 행위’를 ‘증오발언’으로 정의했습니다.

-‘Hate speech’를 우리말로 어떻게 엄밀히 옮길 것인가에 대한 학술적 논의는 아직도 진행 중입니다. 이러한 가운데 ‘혐오’ 대신 ‘증오’를 정책적 논의 대상으로 삼은 것은 특정 집단에 가해지는 폭력의 문제를 해결하는 것이 보다 시급하다고 판단했기 때문입니다.

2020년 1월부터 진행된 프로젝트

카카오 미디어자문위, 국가인권위, 한국언론법학회, 시민 전문가와 함께 진행

카카오는 2020년 1월부터 증오발언 대응에 대한 내부 논의를 시작했습니다. 검토 결과, 증오발언 문제에 효과적으로 대처하기 위해서는 외부의 다양한 의견을 수렴해야 할 필요성을 파악했습니다.

<증오발언 근절을 위한 카카오의 원칙> 수립을 위한 로드맵

이에 따라 카카오는 3월부터 증오발언 대응 원칙 수립을 위한 전반적인 숙의 과정에 미디어자문위(이하 자문위)의 참여를 요청했습니다. 미디어 전문가로 구성된 자문위는 이후 카카오의 증오발언 대응 논의 전 과정에 함께 했습니다. 자문위는 정기 회의를 통해 숙의 진행 방식, 정책 방향 설정, 내부 연구 결과 등을 함께 논의했을 뿐 아니라, 10월 시민사회 전문가 라운드테이블에 참여하고, 이후 <증오발언 근절을 위한 카카오의 원칙>의 초안을 검수하기도 했습니다.

카카오는 증오발언의 정의와 원칙에 대한 방향성 수립에 참고하기 위한 학술 연구를 ‘국가인권위원회’ 및 ‘한국언론법학회’와 공동으로 진행했습니다. 연구단은 6월 구성을 마쳤고, 연구진 공모 및 확정은 6~8월에 이뤄졌습니다. 중간 연구 결과 발표는 9월 22일에 세미나 형식으로 외부에 공개하기도 했습니다.

앞선 과정을 토대로 만든 원칙의 초안은 11월에 마련됐습니다. 카카오에서 초안을 작성한 뒤, 2020년 11월 말부터 12월 초에 자문위원 및 라운드테이블 참석자들에게 초안을 공유하고 의견을 수렴하는 과정을 거쳐 이번에 발표한 원칙을 확정했습니다. 원칙 수립 과정에 대한 자세한 내용은 이 브런치의 말미에 첨부한 <카카오 증오발언 대응 정책 녹서>에서 확인하실 수 있습니다.

3. 원칙의 적용

이번에 수립된 원칙은 카카오의 서비스와 기술에 적용해 나갈 계획입니다. 우선 첫 번째로, 카카오는 이 원칙에 기초해, 2021년 1월 13일 운영정책 내 '서비스 이용 시 금지하는 활동’의 15번째 조항을 아래와 같이 수정했습니다(운영 정책 변경을 안내한 공지사항).

기존안 : 지역·장애·인종·출신국가·성별·나이·직업·종교 등을 차별하거나 이에 대한 편견을 조장하는 내용을 작성하는 행위

수정안 : 출신(국가, 지역 등) · 인종 · 외양 · 장애 및 질병 유무 · 사회 경제적 상황 및 지위 · 종교 · 연령· 성별· 성 정체성· 성적 지향 또는 기타 정체성 요인 등을 이유로 인간으로서의 존엄성을 훼손하거나, 폭력을 선동하거나, 차별・편견을 조장하는 행위

카카오 내부적으로도 증오발언 근절이란 목표 달성 방안을 모색해 나갈 것입니다. 하지만 건강한 디지털 공간을 만든다는 궁극적인 목표를 달성하기 위해서는 카카오 서비스를 함께 만들어 가는 이용자들의 참여가 중요합니다.

이번에 발표한 원칙이 실질적인 결과로 연결될 수 있도록 이용자들도 증오발언 근절 노력에 함께 해 주실 것을 부탁드립니다.

4. 카카오 증오발언 대응 정책 녹서: 원칙 수립을 위한 숙의 과정의 기록

이 녹서(green paper)는 증오발언 대응 방안을 모색하기 위한 숙의 과정 및 연구 결과를 정리한 보고서입니다. 다양한 이해관계자들의 의견을 모으는 과정을 상세히 공유함으로써, 증오발언 문제에 대한 우리 사회의 인식을 높이고, 대응 필요성에 대한 공감대를 넓힐 수 있다고 보았습니다. 카카오의 1년여간의 고민이 담긴 녹서가 앞으로 증오발언에 대한 논의에 실효적인 참고자료로 활용되길 바랍니다.

녹서는 본격적으로 논의를 시작하기에 앞서 논의의 대상이 되는 문제를 다각도로 분석하고 대안을 마련해 참여자들에게 제공하는 자료를 의미합니다. 원칙 수립 과정을 담은 보고서를 ‘녹서’로 칭한 것에는 이번에 발표한 원칙을 시발점으로 삼아 향후 본격적인 논의를 진행시켜 나가겠다는 의미도 담고 있습니다.

카카오-증오발언-대응-정책-녹서 다운로드

글 | 카카오 정책산업 연구