인공지능 AI 기반, 터줏대감 laaS와 NVIDIA

 기반의 기반

생성형AI 가치 사슬에서 FM의 기반, 즉 “기반의 기반”이 되는 영역이 IaaS와 반도체다. IaaS 시장에서는 이미 아마존의 AWS, MS의 Azure, 구글의 GCP 등이 글로벌 경쟁을 하고 있다. AI IaaS 영역에서는 MS가 오픈AI와 함께 제대로 준비해 왔고, 구글은 자신들의 AI 연구와 함께 TPU를 직접 개발, 제작하며 AI IaaS 경쟁력을 확보해 왔다.

물론 AWS는 글로벌 No.1 IaaS 사업자의 위치에 맞게 투자를 지속해 왔지만, MS와 구글은 AI 중심으로 IaaS 시장이 변화되고 있음을 활용해 AWS의 입지를 흔들고자 공략 중이다. AI 반도체 영역에서 구글의 TPU와 경쟁을 하고 있지만, 단연코 독보적인 기업은 엔비디아NVIDIA이다.

 

반도체기업 NVIDIA

엔비디아는 2022년 9월부터 Hopper Architecture를 본격 생산하고 있는데, 대규모 인프라 상에서 대규모 언어 모델을 처리할 수 있고, 트랜스포머 엔진과 NVLINK 스위치를 포함하는 새로운 상품이다. 특히 AI와 관련된 전처리, 데이터 수집, 후처리 등 전반적 관점에서 개선되었다고 하는데, 엔비디아의 전 버전인 A100과 비교할 때, 학습 속도는 9배 향상, 대규모 언어 모델 전환 속도는 약 30배가량 빨라졌다고 한다.

독보적인 NVIDIA

 

AI의 지속적 발전을 위해서는 AI 반도체와 같은 비메모리용 반도체 외에도 메모리용 반도체의 개선 또는 혁신도 필요하다. AI용 GPU, TPU가 제 성능을 낼 수 있도록 메모리도 AI를 위한 대용량, 고속, 저지연성 및 병렬 처리 최적화가 필요하다.

 

일반적으로 성능은 병목현상BOTTLENECK 지점이 결정하기 마련인데, 비메모리용 AI 반도체가 아무리 개선되어도 저장하는 메모리용 반도체가 뒷받침되지 못하면 성능 향상은 제한적이기 때문에 그 중요성은 더 커질 수 밖에 없다.

 

특히 AI 성능 병목현상 제거를 위해 메모리용 반도체 기술도 새롭게 개발되고 있는데, AI용 비메모리 반도체와 메모리 반도체간 거리를 줄이는 PIM, PNM 기술, 그리고 전송로를 넓힌 CXL 기술 등이 있다.

메모리 반도체 영역의 진화

 

AI는 모든 산업에서 변화를 주도하고 있다. 생성형 AI와 음성 인식부터 의료 영상과 공급망 관리 개선에 이르기까지, AI는 기업이 중요한 업무를 수행하는 데 필요한 컴퓨팅 성능, 도구, 알고리즘을 제공하고 있다. 생성형 AI의 획기적인 발전은 기업에 새로운 차원의 다양성과 인사이트를 제공하며 세계에서 가장 진보된 AI 플랫폼인 NVIDIA AI는 모든 조직에 최첨단 발전을 가져오고 있다.

 

AI 슈퍼컴퓨터, AI 플랫폼 소프트웨어, AI 모델 및 서비스 등 모든 계층의 혁신을 통한 가능성에 도전하고 있는 엔비디아, 퍼블릭 및 프라이빗 클라우드의 모든 레이어에서 어디서나 플랫폼을 활용할 수 있는 진화하는 기업의 모습을 갖고있다. 

기반 사슬