KaKao

안전하고 신뢰받는 AI 서비스를 위한 프로세스 정립

카카오는 올해, 2022년부터 다져온 그룹 중심의 기술윤리를 보다 발전시켜 실천하는 방향으로 개진 중입니다. 특히 거버넌스 관련, 기존의 ‘공동체 기술윤리 위원회’는 CA협의체 > ESG위원회 > ‘그룹 기술윤리 소위원회’(이하 소위원회)로 재편되었습니다. 조직 변화는 올 초에 시작돼, 6월에 마무리됐습니다. 

 

카카오 Kanana X 이상호 리더가 소위원회 리더로 선임되었으며, 소위원회는 주요 그룹 계열사의 기술윤리 총괄 및 실무 담당 리더로 구성되었습니다. 관련 전담 조직인 ‘그룹기술윤리팀’도 신설되었습니다. 팀은 CA협의체 ESG위원회 정책팀 산하에 위치합니다. 

 

2022년 7월부터 올 3월까지 운영된 공동체기술윤리위원회가 계열사별 기술윤리를 점검하고, 발전 방안을 모색하는 기구인 데 반해, 소위원회는 관련 리스크까지 선제적으로 점검하고, 대응, 관리하는 역할까지 하게 됩니다. 공동체기술윤리위원회는 그룹 기술윤리의 컨센서스 조직이라면, 소위원회는 기술윤리와 유관 정책을 통합/관리하는 콘트롤타워 기구입니다. 기술윤리 거버넌스의 강화는 높아진 기술 기업의 사회적 책임에 걸맞은 체계와 정책을 갖추기 위한 의지가 반영된 결과입니다. 

이미지 새창 열림

최근 소위원회는 그룹 기술윤리 자율규제의 일환으로 ‘안전한 AI를 위한 핵심 체크리스트(이하 체크리스트)’를 개발했습니다.  ‘체크리스트’는 지난 6월 소위원회 협의를 통해 확정되었습니다. ‘체크리스트’는 AI 기술과 서비스 개발 단계를 4단계(▲계획 및 설계 ▲데이터 수집 및 처리 ▲AI 모델 개발/기획 및 구현 ▲운영 및 모니터링)로 구분하고 있으며, 사회 윤리와 서비스 품질 검토에 필요한 항목들로 구성되어 있습니다. 해당 문항들은 앞서 수립된 ‘책임 있는 AI를 위한 생애주기별 자가점검 도구 설명서(이하 자가점검 도구 설명서) 중 기본적으로 점검되어야 한다고 판단된 7가지로 구성됐습니다. 

이미지 새창 열림

각 계열사는 서비스 출시 전 기술윤리 총괄 책임하에 ‘체크리스트’를 작성한 후 법무 검토와 대표이사 승인을 거쳐 소위원회에 제출해야 합니다. 제출된 체크리스트는 소위원회에서 보관합니다. 

‘체크리스트’ 내 자가점검 문항은 2023년 공동체 기술윤리 위원회에서 제작한 ‘책임 있는 AI를 위한 생애주기별 자가점검 도구 설명서(이하 자가점검 도구 설명서)’ 에 기반을 두고 있습니다. ‘자가점검 도구 설명서’는 개발자, AI 정책 담당자 등으로 구성된 TF가 6개월에 걸쳐 작성한 AI 안전성 점검 도구에 대한 설명서입니다. 해당 설명서는 도구의 개발 기준 및 과정에 대한 정보를 제공하며, 각 계열사가 자체적으로 AI 관련 안전 점검 절차를 수립하거나 도구를 개발할 때 참고할 수 있는 자료로 활용되고 있습니다. (관련 콘텐츠 바로가기) 

 

AI 자율규제 기구의 고도화와 지속적인 설명의 노력

2022년부터 계열사별로 쌓아 온 기술윤리 전담 조직의 실질적 기능도 강화되고 있습니다. 그룹 기술윤리 소위원회는 계열사별 기술윤리 전담 조직의 효과적인 운영, 안전한 기술을 위한 리스크 관리 및 목표 달성을 위해 의견을 수렴하고, 검토하며, 통합적인 가이드라인을 제공하고 있습니다.

 

기술의 투명성 강화를 위해 테크 에틱스(Tech Ethics)도 매월 꾸준하게 발행되고 있습니다. 카카오를 비롯한 주요 계열사의 기술을 소개하는 테크 에틱스는 작년 6월부터 현재까지 총 12건 발행되었습니다. 이번 테크 에틱스가 13번째에 해당합니다. 

 

우리의 기술이 적용된 서비스를 더 쉽고, 더 많이 쓰는 것이 카카오 전반의 사회적 후생을 높이는 길이기도 합니다. 카카오는 창립 이후 사용자들이 더 쉽고 안전하게 서비스를 이용할 수 있도록 다양한 리터러시 활동을 병행해 왔습니다. 이번에 카카오 기업 홈페이지에 관련 활동을 정리한 섹션을 마련하여 사용자의 접근성을 높였습니다. (관련 콘텐츠 바로가기) 

 

이 글에서 설명한 카카오그룹의 기술윤리에 대한 비전과 방향성은 그룹 기술윤리 소위 리더인 이상호 리더의 다짐으로 요약됩니다.

 

“기술은 카카오의 정체성이기도 합니다. 기술윤리는 기술 기업에게 ‘하면 좋은 일’이 아닌 ‘해야 하는 일'입니다. 안전과 신뢰, 이 두 가지의 사회적 가치가 카카오 그룹 AI 서비스의 기본이 되도록 그룹 기술윤리 소위원회 구성원 모두가 협심하도록 하겠습니다.”