Tech
AI 서비스를 위한 네이버만의 AI 반도체 솔루션
AI 서비스를 위한 네이버만의 AI 반도체 솔루션
AI 서비스를 어떻게 더 많이, 효율적으로?
하이퍼스케일 데이터센터를 만들기 위한 첫 번째 고민. ‘어떻게 하면 서비스를 더 많은 사람들한테 더욱 효율적으로 제공할 것인가’ 였다고 합니다. 기존 GPU는 에너지 대비 비용이 높았고, CPU는 성능이 낮고 AI와 관련 없는 기능이 많다는 한계점이 있었죠. 두 가지 상충되는 지점은 네이버클라우드의 고민일 뿐 아니라 AI 관련 업계와 시장 전체의 고민이었죠.
네이버클라우드는 클라우드 제공 기업 (CSP)이라는 입지를 이용해서 소프트웨어, 하드웨어, 운영 환경 효과를 극대화할 수 있는 방안을 모색했다고 합니다.
그래서 AI 용 반도체를 직접 만들기로 했습니다
#AI반도체솔루션
구체적인 방법이 삼성전자와 협업해 저 에너지 & 저가고속의 ‘AI 반도체 솔루션’을 개발하는 것이었습니다.
#트랜스포머모델
하이퍼스케일 AI의 핵심은 ‘트랜스포머 모델(Transformer Model)’이라고 합니다. 연산의 대부분을 이루는 행렬 곱셈의 연산량과 모델 사이즈를 줄일 때 최적화된 효율을 얻을 수 있다고 하는데요. 이것이 바로 네이버가 자체 개발한 최신 모델링 기술의 핵심입니다.
