NAVER AI Safety Framework(ASF) 2.0
NAVER AI Safety Framework(ASF) 2.0
NAVER AI Safety Framework(ASF) 2.0
1. 전문
네이버는 AI 개발과 이용에 있어 인간 중심의 가치를 최우선으로 생각하며, 첨단의 AI 기술을 누구나 쉽고 편리하게 활용할 수 있는 일상의 도구로 발전시켜 나가고 있습니다.
네이버는 2021년 「네이버 AI 윤리 준칙」을 발표한 이후 2024년 「NAVER ASF(AI Safety Framework) Beta」를 통해 프론티어 AI 모델의 위험을 식별하고 관리하기 위한 체계를
마련했고, 글로벌 흐름과 국내 정책 환경에 맞춰 NAVER ASF를 지속적으로 구체화해 왔습니다.
AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하며, AI Safety는 이제 하나의 모델을 안전하게 만드는 문제를 넘어, 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있습니다.
네이버는 「NAVER ASF 2.0」을 통해 서비스 중심의 AI Safety 거버넌스를 지속적으로 개선하고 발전시켜, On-Service AI에 AI Safety를 구체화해 나가고자 합니다.
2. ASF 2.0의 방향성
NAVER ASF는 사회에서 우려하고 있는 AI 위험에 대응하기 위한 AI Safety 체계입니다. 네이버는 「네이버 AI 윤리 준칙」과 「NAVER ASF Beta」를 통해 AI 시스템의 위험을 사전에 예방하고 완화하기 위해 노력해 왔습니다.
AI 기술이 구체적인 서비스에 적용되어 사용자의 일상에 들어오는 현재의 환경 속에서, AI Safety는 이론적 논의를 넘어 현실적인 문제들을 직접 다루는 단계로 들어서고 있습니다. 특히 이러한 현실의 문제들은 개별 서비스의 고유한 맥락 속에서 발생합니다. 이제는 AI 모델 자체의 안전성뿐만 아니라, 서비스가 놓인 환경, 사용자와의 상호작용 방식, 그리고 그 과정에서 생길 수 있는 상황까지 함께 고려할 필요가 있습니다.
이러한 변화에 대응하기 위해 네이버는 On-Service AI라는 방향성 아래에서 AI Safety Framework를 정리했습니다. 이를 통해 AI 서비스가 사용자에게 어떻게 사용될 수 있는지, 그리고 그에 따라 사용자와 사회 구성원, 그리고 AI 생태계 전체에 어떠한 영향을 미칠 수 있는지 여러 관점에서 살펴보고 해결해 나가겠습니다.
AI Safety를 둘러싼 환경 변화
On-Service AI의 고도화
네이버는 AI 기술을 서비스 전반에 결합해 사용자 경험을 확장하는 On-Service AI 전략을 고도화하고 있습니다. AI 브리핑, AI 쇼핑 에이전트, AI 탭이 출시되었고, 다양한 버티컬 에이전트 서비스를 사용자에게 선보일 예정입니다. 서비스의 영역과 활용 범위에 따라 동일한 AI 모델이라고 하더라도 위험의 유형과 필요한 안전 수준은 달라질 수 있기 때문에, 안전 관리의 범위가 모델에서 서비스로 확장될 필요가 있습니다.
멀티 모델 환경의 확산
ASF Beta 시점의 생성형 AI 서비스는 하나의 거대 언어 모델이 모든 요청을 처리하는 구조가 일반적이었습니다. 최근에는 내부와 외부 그리고 대형과 소형 모델을 목적에 맞게 조합하는 멀티 모델 환경이 확산되고 있습니다. 이러한 환경에서는 모델 단위의 점검과 함께, 모델의 결합 방식과 서비스 안에서의 활용 맥락에서 새롭게 생겨날 수 있는 위험까지 함께 살펴볼 필요가 있습니다.
정책과 제도 환경의 변화
2026년 1월 22일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 '인공지능기본법')」이 시행되었습니다. 네이버는 AI Safety에 있어 국내 정책 환경과 글로벌 흐름에 발 맞추며, 사회기술적 맥락 속에서 AI 서비스가 마주하는 현실적이고 개별적인 문제에 대해 구체적으로 위험을 정의하고 이를 식별, 평가, 관리 및 개선하는 AI Safety 프로세스를 고도화해 나가고자 합니다.
ASF 2.0은 AI Safety를 둘러싼 이러한 환경 변화 — On-Service AI의 고도화, 멀티 모델 환경의 확산, 정책·제도 환경의 변화 — 에 대응하기 위해 마련된 서비스 중심의 AI Safety Framework입니다.
ASF 2.0의 구성
ASF 2.0은 위험을 정의하고 분류하는 단계, 식별하고 평가하는 단계, 관리하고 개선하는 단계, 그리고 이러한 세 가지 축이 AI 서비스 현장에서 실제로 작동하도록 만드는 실행 체계로 구성됩니다. 세 가지 축이 위험을 다루는 기준과 절차를 정의한다면, 실행 체계는 그 기준과 절차가 서비스 전 주기에서 일관되게 적용되도록 하는 역할을 하게 됩니다. 개별 축과 실행 체계에서는 이를 구체적으로 실행하기 위한 도구도 함께 마련했습니다.
첫 번째 축인 위험 정의와 분류는 AI 서비스에서 다루어야 할 위험을 사전에 체계화하는 단계입니다. 사용자, 사회 구성원, AI 서비스 생태계를 보호 대상으로 보고, 생명과 신체의 보호, 경제적 가치의 보호, 부당한 차별 방지라는 보호 가치를 결합하여 AI 위험 분류 체계(AI Risk Taxonomy)를 구성합니다.
두 번째 축인 위험 식별과 평가는 AI 서비스가 보호 대상과 보호 가치에 미칠 수 있는 영향의 수준을 살펴보는 단계입니다. AI 영향 평가(AI Impact Assessment Matrix)를 통해 해당 AI 서비스의 활용 영역과 범위에 따라 예상되는 영향 수준을 고려하여 안전 조치를 강화합니다.
세 번째 축인 위험 관리와 개선은 식별된 위험에 대해 안전 조치를 적용하고 지속적으로 개선해 나가는 단계입니다. AI 서비스에 대한 안전성 평가와 사용자 커뮤니케이션을 통해 AI 서비스 전 주기에서 위험을 관리하고 개선합니다.
이 세 가지 축은 실행 체계를 통해 개별 서비스 단위에서 구현됩니다. 네이버 AI 윤리·안전 자문 실행 체계 (Consultation on Human-centered AI’s Ethics and Safety Considerations, CHEC 2.0)는 AI 서비스의 기획부터 출시 이후의 평가까지 서비스의 전 주기를 따라 작동하는 전사적 실행 체계입니다.
세 가지 축은 독립적으로 작동하는 것이 아니라 실행 체계를 통해 서로 연결된 사이클을 이룹니다. 분류 체계가 평가의 기준이 되고, 평가의 결과가 관리와 개선의 출발점이 되며, 관리 과정에서 새롭게 식별된 위험은 다시 분류 체계에 반영됩니다. ASF 2.0은 이러한 사이클을 통해 변화하는 환경 속에서 AI 서비스의 안전성을 높여 나가고자 합니다.
3. 위험 정의와 분류
네이버는 안전에 유의하며 서비스의 전 과정에서 사람에게 유해한 영향을 미치지 않는 AI 서비스를 기획하고 개발하고자 합니다.
특히 사람을 위한 일상의 도구인 AI가 사람의 생명과 신체를 위협하는 상황이 발생하지 않도록, 네이버는 AI 서비스의 생애주기 전 과정에서 안전을 고려해 서비스를 설계하고, 평가를 거치며, 배포 이후에도 안전성에 대해 지속적으로 점검하고 있습니다.
AI 서비스에서 다루어야 할 안전의 영역은 새로 만들어진 것이라기보다는 네이버가 오랜 기간 다뤄 온 사용자 보호의 영역 위에 AI 기술 고유의 새로운 위험 요소가 더해지는 형태에 가깝습니다.
네이버는 ASF Beta에서 정의한 악용 위험을 AI 서비스 내에서 발생할 수 있는 위험으로 구체화하여 분류했습니다. 이를 바탕으로 사용자, 사회 구성원, AI 서비스 생태계를 보호 대상으로 보고, 개별적인 보호 가치를 정의한 AI 위험 분류 체계를 적용하고 있습니다.
AI 위험 분류 체계 (AI Risk Taxonomy)
네이버는 「네이버 AI 윤리 준칙」에서 언급한 사용자의 가치를 크게 세 가지로 구체화하여 보호하고자 하며, 구체적으로는 AI Safety에 대한 사전과 사후 영향 평가를 통해 지속적으로 안전성을 높여 나가고자 합니다.
첫 번째는 생명과 신체의 보호로, AI 서비스가 사용자와 사회 구성원의 생명과 신체를 위협하는 상황이 발생하지 않도록 안전성에 대해 지속적으로 살펴보겠습니다.
두 번째는 경제적 가치의 보호로 AI 서비스 혹은 외부의 영향에 따라 사용자와 사회 구성원 그리고 AI 서비스 생태계의 경제적 가치가 침해되어 손해가 발생하지 않도록 AI 서비스를 설계하고 관리하겠습니다.
세 번째는 부당한 차별의 방지로 AI 서비스에서 사용자를 포함한 모든 사람에게 합리적 기준 없는 부당한 차별이 발생하지 않도록 노력하며 다양한 가치가 공존하는 경험과 기회를 만들어 나가겠습니다.
ASF 2.0은 보호 대상과 보호 가치를 조합하여, AI 서비스에서 발생할 수 있는 위험을 유형화하고 있습니다. 이러한 AI 위험 분류 체계는 서비스의 활용 맥락에서 어떤 위험을 검토해야 하는지를 안내해 주는 출발점이 됩니다. 네이버는 AI 위험 분류 체계를 토대로 개별 서비스의 특성에 맞춰 위험을 식별하고 평가합니다.
4. 위험의 식별과 평가
네이버는 AI 위험 분류 체계를 통해 사전에 정의한 위험과 서비스를 기획, 개발, 운영해 가는 과정에서 발생하거나 발생할 수 있는 위험을 체계화하면서 서비스 내에서 발생할 수 있는 위험을 식별합니다.
AI 영향 평가 매트릭스는 AI 서비스가 보호 대상과 보호 가치에 미칠 수 있는 영향의 수준을 고려하여 안전 조치를 강화하기 위한 프레임워크입니다.
AI 영향 평가 매트릭스 (AI Impact Assessment Matrix)
AI 영향 평가 매트릭스는 AI 서비스의 생애주기 전반을 고려하여, 해당 AI 서비스가 높은 위험에 해당하는 특수 영역인지 일반 영역인지를 먼저 구분합니다. 그리고 일반 영역에 해당하는 서비스는 다시 활용 범위가 넓은 경우와 좁은 경우로 나누어, 보호 대상과 보호 가치에 미치는 영향 수준을 고려해 안전 조치를 결정합니다.
특수 영역은 인공지능기본법상 고영향 인공지능이 활용되는 영역을 말하며, 보호 대상과 보호 가치에 미치는 영향을 고려하여 안전 조치의 수준을 결정합니다.
일반 영역은 AI 서비스가 활용될 수 있는 범위가 확장됨에 따라 보호 대상과 보호 가치에 미치는 영향이 달라질 수 있다는 점을 고려하여 안전 조치의 수준을 결정합니다.
보호 대상과 가치에 미치는 영향이 높은 특수 영역에 대해서는 AI 서비스에 대한 사전 영향 평가를 실시하고, 출시 이후에도 안전성 평가를 실시합니다.
특수 영역에 해당하지만 보호 대상과 가치에 미치는 영향이 낮거나, 일반 영역이지만 예상되는 영향이 높은 경우에는 위험이 있다는 점을 인식하고, 해당 AI 서비스의 특성과 맥락을 고려하여 적합한 안전 조치를 설정하여 대응합니다.
일반 영역 중에서도 활용 범위가 좁고, 보호 대상과 가치에 미치는 영향이 낮은 경우에는 서비스 맥락을 고려해 적합한 안전 조치를 설정한 후 사후 대응과 개선을 진행합니다.
5. 위험 관리와 개선
네이버는 AI 서비스의 전 주기에서 위험을 관리하고 개선하기 위한 안전성 평가와 사용자 커뮤니케이션을 실행하고 있습니다.
안전성 평가
AI 위험 분류 체계를 통해 사전에 정의된 위험과 서비스를 운영해 가는 과정에서 발생할 수 있는 위험을 식별한 후, AI 서비스에 대한 안전성 평가를 실시합니다. 안전성 평가를 통해서 AI 서비스가 정상적으로 작동하는지, 그리고 그 과정에서 유해하거나 부정확한 결과가 출력되지 않는지를 다양한 측면에서 검토합니다.
평가 결과를 바탕으로 서비스의 안전성 충족 여부를 판단하며, 배포 이후에도 사용자의 피드백과 운영 과정에서의 피드백을 기반으로 지속적인 안전성 평가와 개선을 수행하여 위험의 발생에 선제적으로 대응합니다.
사용자 커뮤니케이션
네이버는 누구나 편리하게 AI를 활용할 수 있도록 하면서 일상에서 AI의 활용이 있는 경우 사용자에게 그에 대한 합리적인 설명을 하기 위한 책무를 다하고 있습니다. 이러한 정보의 제공이 더 나은 방향으로 전달될 수 있도록 그 수준과 방식을 지속적으로 개선해 나가겠습니다.
사용자에게 AI의 활용에 대해서 설명이 필요한 경우에는 AI 서비스에 대해 쉽게 이해할 수 있도록 사용자의 눈높이에 맞춰 상세히 정보를 제공하고 AI 서비스 내에서 AI가 어떻게 활용되고 있는지에 대해 다양한 방식과 수준으로 설명하고 있습니다.
생성형 인공지능에 관한 정보 제공
생성형 인공지능의 활용 여부 등 AI 기술에 대한 설명과 정보를 제공하는 과정에서 사용자가 AI 서비스를 이용하는 데 불편함을 느끼지 않도록 사용자와 사회 구성원의 인식에 맞춰 합리적인 설명을 제공하고 있습니다.
또한 생성형 인공지능이 만들어 낸 결과물이 실제와 구분하기 어려워 사용자가 오인하거나 피해를 입을 우려가 있는 경우에는 사용자가 쉽게 인식할 수 있는 방식으로 안내하고 있습니다.
사용자 피드백을 통한 협업
네이버는 AI 서비스를 이용하는 과정에서 사용자가 의견을 전하거나 문제를 알릴 수 있도록 채널을 마련하고 있습니다. 사용자의 목소리에 귀를 기울이고, 그 과정을 통해 더 좋은 서비스를 제공할 수 있도록 노력하겠습니다.
6. 실행 체계
ASF 2.0의 세 가지 축인 위험 정의와 분류, 위험 식별과 평가, 위험 관리와 개선이 위험을 다루는 기준과 절차를 정의한다면, 실행 체계는 그 기준과 절차가 서비스 전 주기에서 일관되게 적용되도록 하는 역할을 합니다. 네이버 AI 윤리·안전 자문 실행 체계 (CHEC 2.0)를 통해 모든 서비스의 AI 활용 상황을 체계적으로 파악하고, 변화하는 환경에 지속적으로 대응해 나가고자 합니다.
네이버 AI 윤리·안전 자문 실행 체계 (CHEC 2.0)
2022년에 발표한 「네이버 AI 윤리 자문 프로세스(Consultation on Human-centered AI’s Ethical Considerations, CHEC)」는 「네이버 AI 윤리 준칙」의 관점에서 AI 서비스에 담긴 인간 중심의 가치를 재조명하고, AI에 대한 우려 사항을 살펴보며 개선하는 프로세스였습니다.
ASF 2.0을 구성하면서 AI 모델과 서비스에 대한 안전성 그리고 인공지능 생성물에 대한 사용자 커뮤니케이션을 강화해, AI 윤리와 함께 AI Safety에 대한 사항을 점검하는 「네이버 AI 윤리·안전 자문 실행 체계 (Consultation on Human-centered AI’s Ethics and Safety Considerations, ‘CHEC 2.0’)」를 마련했습니다.
CHEC 2.0은 개별 서비스 부서에서 AI Safety를 실행할 수 있도록 가이드를 제공하면서, 사회에서 요구되는 AI Safety의 수준을 반영하기 위해 서비스 부서와 AI Safety Center가 협업하는 전사적 실행 체계입니다.
CHEC 2.0은 ASF 2.0의 세 가지 축이 개별 서비스의 맥락에서 구체적으로 실행되도록 연결하는 역할을 합니다. ASF 2.0은 이를 통해 분류와 평가의 결과가 개별 서비스의 운영으로 이어지는 프레임워크로 작동하게 됩니다.
7. AI Safety 거버넌스
네이버는 ASF 2.0을 실천하기 위한 거버넌스 구조를 갖추고 있으며, 다양한 분야의 전문성을 보유한 구성원들 사이의 협업을 통해 네이버가 개발하고 이용하는 AI 서비스의 위험을 정의, 식별, 평가, 관리하고 있습니다.
특히 2026년 3월에는 팀네이버의 최고 책임경영 책임자(Chief Corporate Responsibility Officer, CRO) 조직 내 AI 안전 업무를 전담하는 부서인 AI Safety Center를 신설하였습니다. AI Safety Center는 모델부터 서비스까지의 AI 안전성을 하나의 흐름으로 살펴보며 관리하고 있습니다.
ASF 2.0은 기존의 AI Safety 거버넌스 구조를 고도화하여 AI Safety 3계층(layer) 관리 감독 체계를 구축했습니다. 이와 함께 학계, 정부 기관, 국내외 AI 안전 네트워크와 협력하며, 외부의 다양한 시각을 ASF에 반영하고 있습니다.
8. 경험과 노하우의 공유
네이버의 AI Safety에 대한 경험과 노하우는 다양한 결과물로 정리하여 사용자와 사회 구성원과 함께 공유해 나가고자 합니다.
AI Safety에 대한 기준과 방법은 기술과 사회의 변화에 따라 지속적으로 발전해 나가야 하는 부분이기에, 이를 실천하는 과정에서 다양한 시행착오가 발생할 수 밖에 없습니다. 네이버 역시 서비스를 기획하고 개발하는 과정에서 사용자에게 필요한 AI Safety가 무엇인지 오랫동안 고민하며 이를 구체적인 노력으로 실천해 왔습니다.
네이버는 이러한 과정에서 축적된 경험이 단순히 한 기업의 자산으로 남는 것이 아니라, 사회 구성원 모두의 자산이 될 수 있도록 노력하겠습니다.
주요 공유 활동과 협력
네이버는 다양한 협력 활동을 통해 사회 구성원과 경험을 공유하고, 학계, 정책 및 산업계와 함께 AI Safety의 기준을 만들어 나가고자 합니다. 이를 통해 AI 기술과 서비스에 대해 사용자와 사회 구성원 모두가 안전하고 신뢰할 수 있는 경험을 제공받을 수 있도록 다양한 경험과 노하우를 공유해 나가겠습니다.
AI Safety 활동 공유
NAVER AI Safety Progress Report 등을 통해 AI Safety 활동과 그 결과를 정기적으로 공유하고, 주요한 정책 변화를 알리고자 합니다.
학계 및 정책 협업
주요 대학과 AI 기술 및 안전성 연구를 협업하고 있으며, 서울대학교 인공지능 정책 이니셔티브(SAPI) 등을 통해 AI 정책 분야에서 협력하고 있습니다.
외부 전문가 자문
AI Safety 관련 평가와 주요 의사결정 과정에서 독립적 외부 전문가의 자문을 받아 거버넌스의 신뢰성을 높이고자 합니다.
국내외 AI 안전 네트워크
AI 안전 연구소, 한국정보통신기술협회 등 국내 기관 그리고 UN Global Compact 등 국제 네트워크와 협력하여 글로벌 AI Safety 논의에 참여하고, 한국의 사회기술적 맥락에서 축적한 경험을 국제 사회와 공유하고자 합니다.
9. 앞으로의 노력
네이버가 개발하고 이용하는 AI는 사용자를 위한 일상의 도구입니다. 네이버는 다양성을 통해 연결이 더 큰 의미를 가질 수 있도록 기술과 서비스를 구현해 왔고, 그 과정에서 사용자에게 다채로운 기회와 가능성을 열어 왔습니다. 앞으로도 AI의 개발과 이용에 있어 인간 중심의 가치를 최우선으로 생각하며, AI 서비스와 관련된 위험을 예방하고 완화하기 위해 NAVER ASF를 구현하고 실천해 나가겠습니다.
AI 기술은 지속적으로 변화하고 있습니다. AI 서비스는 사용자와 상호작용하며 정보를 제공하는 단계를 거쳐, AI 에이전트와 같이 사용자가 위임한 범위 안에서 자율적으로 추론하고 행동하는 영역으로 확장되고 있습니다. 네이버 또한 AI 쇼핑 에이전트를 비롯해 다양한 영역에서 사용자에게 도움이 되는 에이전트를 선보이고 있습니다.
이처럼 AI 서비스가 활용되는 맥락이 변화하면 이에 수반되는 위험의 유형과 범위 역시 달라질 수밖에 없습니다. 네이버는 이러한 변화에 대해서도 위험의 정의와 분류, 식별과 평가, 관리와 개선을 통해 새롭게 정의되어야 할 위험을 살펴보며 대응해 나가겠습니다.
네이버는 AI 기술이 우리의 삶을 편리하게 만들어 줄 수 있지만, 세상의 다른 모든 것처럼 완벽할 수 없다는 점을 인식하고 있습니다. 네이버는 AI가 사람을 위한 일상의 도구가 될 수 있도록 지속적으로 살펴보며 개선해 나가겠습니다.
