네이버가 AI 논문을 쓰는 이유
네이버가 AI 논문을 쓰는 이유
네이버의 집요한 노력 그 끝에 얻은 성과
지난해 100편. 올해 이미 39편.
클라우드 AI팀 (클로바, 파파고)가 지난해 ICLR, NeurIPS, CVPR, ACL, ICASSP등 글로벌 탑티어(top-tier) AI 학회에서 무려 100건의 정규 논문을 발표했습니다. 국내 최고 수준을 넘어 글로벌 최상위 산업계 연구 조직들과도 경쟁할 수 있는 학술 성과이며, 이미 세계적 수준의 AI 경쟁력을 인정받은 2021년(69건) 대비 연구 역량의 가파른 성장을 보여주는 성과이기도 한데요, 발표한 논문들은 작년 한 해에만 구글 스칼라(Google Scholar) 기준 8,500회 이상의 피인용 수를 기록하며, 네이버의 연구 성과가 AI 학계 전반에 영향을 주고 있음을 보여주고 있습니다.
이런 성과는 AI 기술력 경쟁력 강화로 이어질 뿐 아니라 혁신적인 네이버 서비스로 실현되기때문에 주목받을만합니다.
AI 기술력을 입증하는 ‘객관적’지표, 논문 성과
그렇다면 네이버는 왜 이렇게 논문에 집착할까요?
논문은 기업을 포함한 연구 그룹들이 가진 기술력을 입증할 수 있는 가장 널리 쓰이는 객관적인 정량적 지표이기 때문입니다. 사용자들이 접하는 AI 기술은 서비스 내부의 기능 요소로 자연스럽게 녹아져 있기에, 그 기술력을 객관적으로 파악하는 것이 쉽지 않죠. 하지만 해당 기술이 논문 발표로서 탑티어 학회에서 인정받는다면? 특히 그 논문이 베스트 페이퍼 등을 수상한다면? 그 자체로 세계 최고 전문가들 사이에서 기술력을 인정받은 것이라고 볼 수 있습니다. 또 다른 관점에서는 연구한 기술을 공유를 통해 전세계 AI 기술 발전에 기여한다는 의미도 있습니다. 논문과 함께 소스코드 그리고 경우에 따라 데이터 공유를 통해 전 세계 다른 AI 연구진들과 의견을 교류하고, 한계점이 있다면 이를 개선한 새로운 연구의 시작이 될 수도 있는 것이죠.
연구자 개인의 성장을 보여주는 ‘기록’
논문은 연구자 개인의 관점에서도 의미가 큽니다.
일기를 써서 하루를 되돌아보듯이 논문을 통해 지금까지의 연구를 정리하게 됩니다. 이전에는 생각지 못했던 부분들, 이를 개선하기 위해 추가적으로 수행할 연구 아이디어들이 샘솟기도 하죠. 논문 리뷰 과정에서 받는 전세계의 AI 연구자들의 코멘트를 통해 새로운 관점을 보기도 합니다. 즉, 연구를 되돌아봄과 동시에 앞으로 나아가는 새로운 동력이 되는 것이죠. 또한 탑티어 학회의 조직위원회 멤버나 리뷰어로 활동함으로써 글로벌 AI 기술 발전에도 기여하고 한국의 AI위상 강화에도 기여할 수 있습니다.
눈여겨볼 네이버의 AI 논문 연구성과
네이버가 탑티어 학회에 자체적인 연구개발을 통해 처음 발표를 하게 된 것은 2016년으로 거슬러 올라갑니다. 네이버랩스 연구자들은 쇼핑에서 대량의 상품 카테고리를 딥러닝을 자동으로 분류하는 기술을 KDD 2016에서 Large-Scale Item Categorization in e-Commerce Using Multiple Recurrent Neural Networks 라는 논문으로 발표하고 학회에서 가장 많이 본 논문으로 선정됩니다.
이후 2017년에는 네이버랩스와 클로바 연구자들이 VQA (Visual QA) 챌린지에서 2위를 차지하고 그 결과를 CVPR 2017에서 Dual attention networks for multimodal reasoning and matching 제목의 논문으로 발표하게 됩니다. 이후 글로벌 AI계에 네이버 이름 석자를 가장 널리 알린 논문이 CVPR 2018에 구두로 발표되었는데 바로 이미지 생성분야 연구자라면 모르는 사람이 없는 StarGAN: Unified Generative Adversarial Networks for Multi-Domain Image-to-Image Translation 입니다. 현재 무려 3,300여회 이상 인용되었습니다. 그리고 2019년에 또다른 AI 분야에 기념비적인 논문이 ICCV 2019에서 발표되는데 바로 Cutmix: Regularization strategy to train strong classifiers with localizable features. 입니다.
이미지 인식분야에서 데이터 증강기법으로 지금도 가장 널리 쓰이는 방법이며 이미 3,000여회의 피인용수를 보여주고 있습니다. 2022년에 들어서는 한 개 쓰기도 어렵다는 ICLR, CVPR, ECCV 등에서 각각 무려 두자리수 정규 논문을 국내 기업 최초로 발표하는 성과를 거두었습니다.
ChatGPT 이후 초거대 AI 경쟁력이 기업과 국가의 경쟁이 되고 있는 이 시대 네이버는 자체 초거대 AI인 하이퍼클로바와 직접 관련된 논문만 무려 10편이상 탑티어 학회에서 발표를 했습니다. 하이퍼클로바는 네이버가 만든 한국어중심의 초거대 생성 AI인데요. 가장 공신력 있는 AI 분석보고서인 Stanford AI Index Report 2023년편에 한국어 중심 AI로는 유일하게 소개될 정도로 세계적으로 인정받는 초거대 AI 입니다.
하이퍼클로바와 초거대 AI가 가져올 변화를 소개한 논문인 What Changes Can Large-scale Language Models Bring? Intensive Study on HyperCLOVA: Billions-scale Korean Generative Pretrained Transformers. 이 EMNLP 2021에서 발표되었습니다. 이 논문은 GPT3이후 세계에서 2번째로 탑티어 학회 정규논문으로 발표된, 그것도 영어가 아닌 한국어 초거대 AI 모델로 얻은 쾌거입니다. 그리고 초거대 AI의 운영비용 절감과 효율성 강화를 위한 연구인 AlphaTuning: Quantization-Aware Parameter-Efficient Adaptation of Large-Scale Pre-Trained Language Models 이 EMNLP 2022에 발표되었습니다.
하이퍼클로바를 활용하여 독거노인 어르신의 말벗이 되는 AI 서비스 기술은 클로바 케어콜 (Building a Role Specified Open-Domain Dialogue System Leveraging Large-Scale Language Models) 과 클로바 케어콜 기억하기 (Keep Me Updated! Memory Management in Long-term Conversations) 또한 각각 NAACL 2022와 EMNLP 2022에서 발표했습니다. 특히 케어콜 서비스 기획자, 사용자, 지자체 관리자들의 인터뷰를 통해 케어콜의 효과 분석과 미래방향을 제시한 논문인 Understanding the Benefits and Challenges of Deploying Conversational AI Leveraging Large Language Models for Public Health Intervention 은 세계최고권위 HCI학회인 CHI 2023에서 Best paper award를 수상했습니다. 이를 통해 네이버의 초거대AI 경쟁력은 서비스 비즈니스 뿐 아니라 그 기술력에서도 글로벌 최고 수준임을 확인할 수 있습니다.
서비스 품질 향상의 시작점
가장 큰 의미라면, 이 기술이 적용된 서비스의 품질이 향상되는 것입니다.
사실 아무리 좋은 기술을 연구하고 개발한다고 하더라도, 어디에서도 활용할 수 없는 연구라면 의미가 없죠. 하지만 네이버에서는 지금 연구하는 AI 연구 주제들 대부분이 적용될 수 있는 서비스들을 운영 중입니다. 때문에 직접 서비스에 적용 시키고, 그에 대한 피드백을 받을 수도 있죠. 피드백을 바탕으로 또 새로운 연구가 가능하고요. 실제 사용자분들의 피드백은 연구자 입장에서 생각하지 못했던 새로운 시각을 만들어냅니다. 피드백 자체가 소중한 연구 자료가 되는 셈이죠.
미래의 기술을 위해 끊임 없이 최신 트렌드를 트래킹하고, 읽고, 듣는 AI 연구 및 개발자들은 학계 및 산업계에서 꾸준히 논의되는 주제들을 늘 주시하고 있습니다. 최신 논문을 트래킹하고, 내부적으로도 관련된 의견을 다양하게 나눕니다. 많은 논문을 읽고, AI 학회뿐만 아니라 연관 학회에도 참가해서 다른 전문가들의 강연도 많이 듣습니다.
이 모든 것이 새로운 서비스의 시작이자 결과가 될 수 있다는 것을 알기 때문 아닐까요?
(*논문 연구 성과 2023. 04 기준)
