디지털 사회의 윤리 제정에 대한 SNS 기업의 첫 반응 나와

손경숙 기자 / 기사승인 : 2021-01-13 17:18:54
  • -
  • +
  • 인쇄
AI 윤리' 논쟁에 카카오 응답하다 ‘국내 첫 증오발언 근절 원칙’

정치권 망설이는 '성 정체성·성적 지향' 포함해 논란도 일 듯

공개 게시물에 적용…카톡·메일 등 사적 공간은 대상 아냐

▲ 김범수 카카오 이사회 의장
카카오는 최근 가장 영향력있는 소셜 네트워크 기업이다. 카카오가 최근 번지고 있는 인공지능 윤리 문제에 적극적으로 대응하는 자세를 보여 눈길을 모으고 있다.

 

카카오가 국내 기업 중 처음으로 '증오(혐오) 발언 근절 원칙'을 수립해 서비스에 적용한다고 발표했다. 카카오는 "출신, 인종, 장애, 성별, 성 정체성 등을 이유로 인간을 차별·배척하는 일은 근절돼야 한다"고 강조했다.

 

이른바 '이루다 사건'으로 '디지털·인공지능(AI) 윤리' 논쟁이 뜨거운 상황에서 업계 선례로 작용할 전망이다.

카카오는 13일 공식 브런치를 통해 '증오 발언 근절을 위한 카카오의 원칙'을 내놓았다.

 

카카오는 "온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 공감대가 넓어지고 있다""카카오 역시 사회 구성원으로서 디지털 공간을 건강하게 만들기 위한 원칙을 수립했다"고 설명했다.

 

카카오는 약 1년에 걸쳐 증오 발언 근절을 위한 원칙을 마련했다고 밝혔다.

 

카카오는 첫 번째 원칙으로 "한 인간의 정체성을 이유로 특정 대상을 차별하거나, 이에 대한 편견을 조장하거나, 일방적으로 모욕·배척하는 행위를 반대한다"고 선언했다.

 

인간의 정체성으로는 '출신(국가·지역 등), 인종, 외양, 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성 정체성, 성적 지향, 기타 정체성 요인 등'이 명시됐다.

 

주요 정치인이나 정당마저 여전히 "사회적 합의가 필요하다"고 주장하는 성 정체성, 성적 지향에 관해 차별·배척하지 않겠다고 선언한 점이 눈에 띈다.

 

카카오는 이런 차별에 기반을 두고 특정 집단을 공격하는 발언을 증오 발언으로 정의한다면서, 증오 발언에 앞으로 강경하게 대처하겠다고 예고했다.

증오 발언은 이용자의 안전을 위협할 뿐 아니라 사회적 배척 및 물리적 폭력을 유발하며, 발언의 자유와 사회 신뢰·건강성까지 저해한다는 이유에서다.

 

카카오는 이용자들에게 "서비스 내에서 특정인과 특정 집단에 대한 폭력을 선동하거나 인간 존엄성을 훼손하는 발언에 유의해야 한다"고 당부했다.

그렇다고 카톡 대화를 카카오가 들여다보겠다는 것은 아니다.

 

프라이버시 존중에 첫 원칙, 공개 게시물에 대해서는 관리 철저

 

카카오는 "위 원칙은 '공개 게시물' 영역에 한한다""카톡의 사적 대화 공간, 메일, 톡 서랍 등 개인화 서비스와 커뮤니티의 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것"이라고 강조했다.

그러면서 "증오 발언을 근절하기 위해 앞으로도 정책, 기술, 서비스 기획 및 디자인을 고도화하겠다""사내 교육과 모니터링도 강화하겠다"고 덧붙였다.

 

카카오의 증오 발언 근절 원칙 수립 과정에는 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여했다. 카카오는 보통 '혐오 발언'이라고 번역하는 'hate speech'를 증오 발언으로 표현한 이유 등에 관해 어떤 숙의 과정을 거쳤는지 공식 블로그에 공개했다.

숙의 및 연구 결과는 녹서(green paper) 형태로 블로그에 게재했다.

 

이처럼 디지털 공간 내 문제를 해결하려는 노력은 카카오의 ESG(환경·사회·지배구조) 활동의 일환이다.

 

카카오는 전날 이사회 산하에 ESG위원회를 신설하고 김범수 이사회 의장이 위원장을 맡는다고 밝혔다. 카카오 관계자는 "국내에서 증오 발언 근절을 위해 기업이 원칙을 제정해 적용하는 것은 이번이 처음"이라고 말했다.

 

한편 사이버 에틱스 분야를 전공해 온 사회학자들은 사이버 공간의 특징을 감안해서 대중의 인기나 바람, 시대적 유행에 흔들리기보다 기본적인 원칙을 사회적 합의에 따라 준수하도록 하고 이를 제도적으로 유연하게 적용하는 방식이 가장 바람직할 것으로 전망하고 있다

[저작권자ⓒ 데일리 이코노미. 무단전재-재배포 금지]