우리 일상을 이롭게 할 AI를 위해, UN에서 발표한 네이버 AI 안전 정책
우리 일상을 이롭게 할 AI를 위해, UN에서 발표한 네이버 AI 안전 정책
2024년 12월 5일, 네이버는 스위스 UN 제네바 사무소에서 개최된 ‘신기술에 대한 인권 기반의 접근: 컨셉에서 구체적 적용으로(Towards a human rights-based approach to new and emerging technologies: From concept to implementation)’ 행사에 참석해 안전한 AI 생태계 구축을 위한 네이버의 노력을 소개했습니다.
‘사람에게 이로운 AI’를 위한 네이버의 다섯 가지 원칙
네이버는 지금껏 누구나 쉽게 AI를 사용하고 안전하게 접근할 수 있어야 한다는 믿음을 가지고 기술과 서비스를 만들어왔습니다. AI를 사용자의 일상을 더욱 이롭게 하는 도구로 바라보며 일찍이 네이버만의 AI 정책도 구축해왔습니다. 그 첫번째 결과물이 바로 2021년 서울대학교 인공지능 정책 이니셔티브와 함께 만든 네이버 AI 윤리 준칙입니다.
네이버 AI 윤리 준칙은 네이버의 모든 구성원이 AI를 개발하고 이용할 때 준수해야 할 원칙입니다. ‘사람을 위한 AI 개발’, ‘다양성 존중’, ‘합리적인 설명과 편리성의 조화’, ‘안전을 고려한 서비스 설계’, 프라이버시 보호와 정보 보안’이라는 5가지 실천 방안을 담고 있습니다.
서비스 전 과정에 녹아 들어 실제로 작동하는 원칙
올해 12월 UN에서 열린 행사에서 네이버는 서비스 담당자와의 긴밀한 협업을 통해 AI 윤리 준칙을 실제 서비스에 꾸준히 적용해온 사례들을 발표했습니다. 가장 먼저 소개한 사례는 2022년부터 운영중인 네이버의 AI 윤리 자문 프로세스 ‘CHEC (Consultation on Human-centered AI’s Ethical Considerations)’입니다.
UN 제네바 사무소에서 AI 안전 정책을 발표중인 네이버 정책/RM Agenda팀 박우철님
CHEC는 기획자∙개발자 등 실무 담당자들과 함께 네이버 AI 서비스 초기 기획부터 출시된 후까지 전체 과정에 걸쳐 AI 윤리에 관한 사항을 살펴보며 네이버 AI 윤리 준칙을 실제 서비스에 적용하는 프로세스입니다. 일방적으로 서비스를 점검하는 것이 아니라 서비스가 우리 사회의 안팎에 미치는 영향을 고려해 사회적인 관점으로 개선해야 할 점에 대해 소통하며 서비스를 보완하고, 실제 사례를 통해 윤리 준칙을 더욱 구체화하는 것입니다.
“AI 윤리 원칙을 실천하려면 서비스 담당자와 서비스의 개발 및 출시 과정, 사용자 환경 등 실제 맥락을 고려해야 합니다. 현장의 상황을 알지 못하면 AI 윤리 원칙은 진부한 이야기가 될 수 있어요. 그래서 네이버 AI 정책팀은 CHEC 프로세스를 통해 실제 기획과 개발 프로세스에 맞추어 자문을 제공하기 위해 서울대학교 인공지능 정책 이니셔티브와 같은 외부 전문가와 협력하는 것을 지속적으로 노력하고 있습니다.”
CHEC와 더불어 빠르게 발전하는 생성형 AI 기술에 대응하기 위해 네이버 AI 윤리 준칙을 반영하여 발표한 ‘사람을 위한 클로바X 활용 가이드(2023)’와 AI 시스템을 개발하고 배포하는 과정에서 AI의 잠재적 위험을 더욱 체계적으로 인식하고 관리하기 위해 구축한 AI 안전 프레임워크(2024)도 함께 소개했습니다.
글로벌 AI 생태계를 더욱 안전하게 이끌어가는 네이버
AI 기술이 나날이 빠르게 발전하며 윤리적인 문제에 대한 우려도 높아지고 있는 요즘, 네이버는 주요 AI 기술을 내재화하는 동시에 서비스 기획∙개발 실무자와 긴밀하게 소통하며 구체적이고 현실적인 AI 안전 정책을 만들고 있습니다. 올해 초에는 UN의 AI 안전성 보고서에 기술 자문을 제공했고, 여러 빅테크가 참여하는 개발형 컨소시엄 ‘MLCommons’에서 AI 안전 벤치마크 구축 작업에 기여하며 AI 안전성 분야에서도 글로벌 리더로 인정받고 있습니다.
앞으로도 네이버는 실제로 서비스를 만드는 실무자 및 학계를 포함한 국내외 기술 전문가와 협력하며 안전하고 지속 가능한 글로벌 AI 생태계를 만드는 데 앞장서겠습니다 ●
► 팀네이버 컨퍼런스 DAN 23에서 발표한 ‘사람을 위한 AI 윤리와 정책’
