암페어와 퀄컴은 가장 확실한 파트너는 아닙니다. 두 회사 모두 데이터 센터 서버를 실행하기 위한 Arm 기반 칩을 제공합니다(Qualcomm의 가장 큰 시장은 여전히 모바일입니다). 하지만 오늘 두 회사가 발표한 바와 같이, 이제 양사는 힘을 합쳐 Ampere의 CPU와 Qualcomm의 Cloud AI 100 Ultra AI 추론 칩을 사용하여 모델을 학습이 아닌 실행에 사용하는 AI 중심 서버를 제공할 계획입니다.
다른 모든 칩 제조업체와 마찬가지로 Ampere도 AI 붐에서 이익을 얻고자 합니다. 그러나 이 회사는 항상 빠르고 전력 효율적인 서버 칩에 중점을 두어 왔기 때문에 Arm IP를 사용하여 이러한 기능 중 일부를 칩에 추가할 수는 있지만 반드시 핵심 역량이라고 할 수는 없습니다. 이것이 바로 Ampere가 Qualcomm(그리고 두 솔루션을 통합하기 위해 SuperMicro)과 협력하기로 결정한 이유라고 Arm CTO Jeff Wittich는 말합니다.
"여기서 중요한 점은 CPU만으로 AI 추론을 실행하는 Ampere CPU의 뛰어난 성능을 보여드리겠지만, 다른 모든 워크로드와 마찬가지로 더 큰 모델(예: 1000억 개 이상의 파라미터 모델)로 확장하려는 경우 AI는 모든 것에 적합한 하나의 크기가 아니라는 것입니다."라고 Wittich는 TechCrunch에 설명합니다. "우리는 이 솔루션을 위해 Qualcomm과 협력하여 매우 효율적인 Ampere CPU를 결합하여 추론과 함께 실행하는 많은 범용 작업을 수행한 다음, 매우 효율적인 카드를 사용하여 서버 수준의 솔루션을 개발했습니다."
퀄컴과의 파트너십에 대해 위티치는 Ampere가 동급 최강의 솔루션을 함께 만들고 싶었다고 말했습니다.
"퀄컴과의 협업은 정말 훌륭했습니다."라고 그는 말합니다. "우리가 함께 작업해 온 것들 중 하나이며, 정말 비슷한 관심사를 많이 공유하고 있기 때문에 정말 매력적이라고 생각합니다. 그들은 정말 효율적인 솔루션과 시장의 다양한 부분을 구축하고 있습니다. 우리는 서버 CPU 쪽에서 매우 효율적인 솔루션을 구축하고 있습니다."
퀄컴과의 파트너십은 암페어의 연례 로드맵 업데이트의 일환입니다. 이 로드맵의 일부에는 최신 3nm 공정을 사용하여 제작된 새로운 256코어 AmpereOne 칩이 포함됩니다. 이 새로운 칩은 아직 일반적으로 사용 가능하지는 않지만 팹에서 준비 중이며 올해 말에 출시될 예정이라고 Wittich는 말합니다.
추가 코어 외에도 이 차세대 AmpereOne 칩의 가장 큰 특징은 12채널 DDR5 RAM으로, Ampere의 데이터센터 고객은 필요에 따라 사용자의 메모리 액세스를 더 잘 조정할 수 있습니다.
하지만 성능뿐만 아니라 데이터 센터에서 이러한 칩을 실행하는 데 필요한 전력 소비와 비용도 중요한 요소입니다. 특히 AI 추론의 경우 Ampere는 자사의 성능을 Nvidia의 A10 GPU와 비교하는 것을 좋아합니다.
한 가지 주목할 점은 Ampere가 이러한 새로운 칩을 위해 기존 칩을 단종시키지 않는다는 점입니다. 위티치는 이러한 구형 칩에도 여전히 많은 사용 사례가 있다고 강조합니다.
암페어는 오늘 또 다른 파트너십도 발표했습니다. 암페어는 NETINT와 협력하여 암페어의 CPU와 NETINT의 비디오 처리 칩을 결합한 공동 솔루션을 구축하고 있습니다. 이 새로운 서버는 360개의 라이브 비디오 채널을 병렬로 트랜스코딩하는 동시에 OpenAI의 Whisper 음성-텍스트 변환 모델을 사용하여 40개의 스트림에 자막을 제공할 수 있습니다.
"우리는 6년 전부터 이 길이 옳은 길이라는 확신이 있었기 때문에 이 길을 시작했습니다."라고 Ampere의 CEO 르네 제임스는 오늘 발표에서 말했습니다. "저전력은 저성능의 대명사였습니다. Ampere는 그것이 사실이 아님을 증명했습니다. 우리는 컴퓨팅의 효율성 영역을 개척하고 효율적인 컴퓨팅 환경에서 레거시 CPU를 뛰어넘는 성능을 제공했습니다."
