- AI 컨테이너 세트에 AI 모델, 모델 훈련 스크립트 및 업계별 소프트웨어 스택 추가

- NGC-레디 엔터프라이즈 서버와 지원 서비스로 GPU 가속 AI 촉진

AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 엔비디아 GTC 2019에서 한층 강화되고 확장된 엔비디아 GPU 클라우드(NIVIDIA GPU Cloud, 이하 NGC)를 공개했다. NGC는 사전 트레이닝된 AI 모델과 모델 트레이닝 스크립트, 업계별 소프트웨어 스택을 갖춘 딥 러닝(Deep Learning), 머신 러닝, 고성능 컴퓨팅(HPC) 등을 위한 필수 소프트웨어 허브다.

과학적 발전, 자율주행차 개발, 엄청난 양의 데이터로부터 비즈니스 인사이트 확보와 같은 작업을 하기 위해 데이터 사이언티스트, 연구자 및 개발자들은 강력한 GPU 컴퓨팅과 올바른 소프트웨어 툴이 필요하다. 

AI는 복잡하고, 모델을 만드는데 시간이 많이 소요되므로, 컨테이너 기술은 복잡한 배포와 워크플로우를 간소화하는데 중요한 역할을 한다. 새로운 NGC를 사용하면 기술 수준에 관계없이 AI를 활용해 신속하고 쉽게 가치를 실현할 수 있다.

시간을 아껴주는 NGC

데이터 사이언티스트의 시간은 소중하고, 이들이 모델을 개발하기 위해 필요한 컴퓨팅 리소스는 수요가 많다. 오류를 찾기 위해 소스에서 프레임워크를 컴파일링 하는데 몇 시간, 심지어 며칠이 소요된다면 생산성과 수익, 경쟁력 손실로 이어진다.

수 천명의 데이터 사이언티스트와 개발자들은 NGC를 통해 매달 업데이트 되는 텐서플로우 (TensorFlow)와 파이토치(PyTorch) 같은 성능 최적화된 딥 러닝 프레임워크 컨테이너를 추출해 시간 소모가 많고 오류에 취약한 배포 단계를 거치지 않고, 솔루션을 구축하는데 집중할 수 있다. NGC는 최신 컴퓨팅 트렌드를 원하는 기업을 위해 진입 장벽을 낮춰준다. 이미 합류한 기업들에겐 더 큰 가치와 더 빠른 속도를 제공한다.

사전 트레이닝된 모델과 트레이닝 스크립트로 AI 프로젝트 가속화

많은 AI 애플리케이션은 분류, 객체 탐지, 언어 변환, 텍스트-음성 변환, 추천 엔진, 감정 분석 등의 요소를 공통적으로 필요로 한다. 이러한 기능을 가진 애플리케이션이나 서비스를 개발할 때 개별 사용 사례에 맞는 사전 트레이닝된 모델을 사용 사례에 맞게 처음부터 조정하는 것이 작업 속도를 훨씬 빠르게 해준다. 

NGC의 새로운 모델 레지스트리는 데이터 사이언티스트와 연구자들에 가장 널리 사용되는 AI 모델 저장소를 제공해 이들이 자체 AI 애플리케이션을 리트레이닝하고 벤치마킹해 빠르게 구축할 수 있는 시작점을 제공한다. 

NGC 엔터프라이즈 계정 소유자는 호스팅된 개인 레지스트리를 통해 조직과 팀에 자체 모델을 업로드하고 공유하며 게시할 수 있습니다. 이 모델 레지스트리는 https://ngc.nvidia.com와 명령행 인터페이스를 통해 액세스 할 수 있어 사용자는 하이브리드 클라우드 환경에 이를 적용하고 조직에 버전 게시된 모델에 대한 제한적 액세스를 제공할 수 있다. 

또한, NGC는 엔비디아 텐서 코어(Tensor Cores)로 실행되며 혼합 정밀도를 이용하는 우수 사례를 갖춘 모델 트레이닝 스크립트를 제공한다. 엔비디아 텐서 코어는 엔비디아 튜링(Turing) 및 볼타 (Volta) GPU가 기존 세대 대비 트레이닝과 추론 시 최대 3배 성능 향상을 제공할 수 있도록 지원한다. 

NGC는 정확성과 컨버전스 테스트를 거친 모델과 트레이닝 스크립트로 사용자들에 가장 중요한 엔비디아 딥 러닝 자산의 중앙집중화와 큐레이션(curation)을 제공한다. 

의료 이미징 · 스마트 시티용 트레이닝과 개발 스택

업계 전반에 걸친 효율적인 워크플로우는 사전 트레이닝된 모델에서 시작되며, 그 후 새로운 데이터로 이전 학습 트레이닝을 수행한다. 이후, 네트워크를 잘라내 최적화한 후 추론을 위해 엣지 디바이스로 배치된다. 사전 트레이닝된 모델과 이전 학습의 조합은 대규모 데이터를 수집하고, 새롭게 모델을 분류하고 트레이닝하는 작업에 수반되는 비용 부담을 없애주므로 도메인 전문가들이 자체 딥 러닝 워크플로우를 바로 시작할 수 있는 기반을 제공한다. 

트레이닝 최적화와 배포 세부 사항은 업계마다 확연하게 다르다. NGC는 이제 스마트 시티와 의료 이미징을 위한 업계 특화된 워크플로우를 제공한다. 스마트 시티의 경우, 엔비디아 트랜스퍼 러닝 툴키트 포 스티리밍 애널리틱스(NVIDIA Transfer Learning Toolkit for Streaming Analytics)는 객체 감지, 카메라 비디오 프레임 분류와 같은 지능형 비디오 분석 워크로드에 맞는 이전 학습을 제공한다. 그 후 리트레이닝과 최적화를 거쳐 정리된 모델은 스마트 시티에 사용되기 위해 엔비디아 딥스트림 SDK(NVIDIA DeepStream SDK)를 통해 엔비디아 테슬라(NVIDIA Tesla) 또는 젯슨(Jetson) 플랫폼으로 배치된다. 

의료 이미징의 경우, 엔비디아 클라라 트레인 SDK (NVIDIA Clara Train SDK)을 사용할 수 있다. 의료 기관은 이를 활용해 사전 트레이닝된 MRI 스캔 모델로 장기 분류 작업을 시작할 수 있으며, 이전 학습으로 의료기관이 자체 소유한 데이터세트에 기반해 모델을 향상시킬 수 있다. 클라라 트레인은 최적화된 모델을 생성하며, 이후 엔비디아 클라라 디플로이 SDK(NVIDIA Clara Deploy SDK)를 통해 배포돼 새로운 환자 스캔에 향상된 세분화를 제공한다.

NGC-레디 시스템 – AI 워크로드에 최적화된 인증 플랫폼

전 세계 주요 시스템 제조사가 제공하는 NGC-레디(NGC-Ready) 시스템은 엔비디아 인증을 받은 것으로, 데이터 사이언티스트와 개발자는 신속히 딥 러닝과 머신 러닝 워크로드를 시작해 최적으로 실행할 수 있다. 

최대 성능 시스템은 640 텐서 코어와 최대 32G에 이르는 메모리를 가진 엔비디아 V100 GPU로 실행된다. 시스템은 최대로 활용되기 위해 엔비디아 T4 GPU로 실행된다. 이는 머신 러닝, 딥 러닝, 가상 데스크톱, HPC 등 모든 가속 워크로드에서 탁월한 성능을 보이는 GPU다. 엔비디아 인증 NGC 지원 시스템 목록은 여기에서 확인할 수 있다.

자신 있는 AI 인프라 배포

업계 전반에 걸쳐 AI 채택이 급속도로 늘어나고 있다. 이는 IT 팀이 다양한 사용자를 위해 새로운 유형의 워크로드와 소프트웨어 스택, 하드웨어를 지원해야 하는 필요성으로 이어졌다. 이러한 상황에서는 시스템 다운타임을 최소화하고 사용자 생산성을 유지하는 것이 관건이다. 

이러한 우려를 해소하기 위해 엔비디아는 엔비디아 NGC 서포트 서비스(NVIDIA NGC Support Services)를 출시했다. 이는 NGC 지원 시스템이 최적으로 실행되고 시스템 활용도와 사용자 생산성을 극대화하기 위한 엔터프라이즈급 지원을 제공한다. 이 새로운 서비스는 IT 팀에 엔비디아 분야별 전문가와 직접 소통해 소프트웨어 문제를 신속히 해결하고 시스템 다운타임을 최소화할 수 있도록 지원한다. 

NGC 서포트 서비스는 NGC 지원 시스템 판매업체를 통해 제공되며, 시스코(Cisco)는 NGC 지원 인증 엔비디아 V100 시스템인 시스코 UCS C480 ML을 현재 판매 중이다. HPE는 오는 6월 인증 획득한 NGC 지원 엔비디아 T4 서버인 HPE 프로라인트 DL380 Gen10 서버 (HPE ProLiant DL380 Gen10 server)를 선보인다. 다른 몇몇 OEM사도 곧 자체 서비스를 출시할 예정이다

NGC를 바로 시작해 보세요

ngc.nvidia.com에서 GPU 기반 시스템 또는 클라우드 인스턴스에서 무료로 NGC 컨테이너와 사전 트레이닝된 모델을 사용해 볼 수 있다.