logo

AI Safety와 관련해 사회에서 우려하고 있는 위험은 크게 통제력 상실 위험과 악용 위험, 두 가지로 정리해 볼 수 있습니다.

NAVER ASF에서 정의하고 있는 통제력 상실 위험은 미래에 인간이 AI 시스템에 영향을 미치지 못하게 되는 중대한 위험을 말합니다.

NAVER ASF에서 정의하고 있는 악용 위험은 AI 시스템의 기술적 고도화와 무관하게 생화학 물질 개발 영역과 같이 사회적으로 우려되는 영역에 활용되거나, AI 시스템의 목적과 달리 악용될 가능성이 있는 위험을 말합니다.

통제력 상실 위험에 대해서는 AI 위험 평가 스케일을 통해 대응하고, 악용 위험에 대해서는 AI 위험 평가 매트릭스를 통해 위험을 관리합니다. 특히 이를 실천하는 과정에서 사회기술적 맥락을 고려하기 위해 노력하고 있습니다. 사회기술적 맥락을 고려한 AI 시스템을 만들기 위해서는 AI 시스템을 특정 문화와 사회에 맞는 데이터셋으로 학습하고, 평가하는 것이 중요합니다.

네이버는 기업 외부의 이해관계자들과 함께 AI 기술과 서비스에 대한 우려 사항을 해결하기 위해 협업하고 있습니다. 대표적으로 서울대, 카이스트와는 AI 기술 분야에서, 서울대 인공지능 정책 이니셔티브를 통해서는 AI 정책 분야에서 협력하고 있습니다.

네이버가 개발하고 이용하는 AI는 사용자를 위한 일상의 도구입니다. 네이버는 AI의 개발과 이용에 있어 인간 중심의 가치를 최우선으로 생각하며, AI 시스템과 관련된 위험을 예방하기 위해 NAVER ASF를 구현하고 실천해 나가겠습니다.