삼성은 프레젠테이션 슬라이드에서 AI 칩에 사용될 수 있는 RISC-V CPU를 개발하려는 의도를 의도치 않게 드러냈을 수 있습니다. 삼성은 인메모리 처리량이 많은 AI 가속기를 출시할 계획이지만, 곧 출시될 칩에 대해서는 말을 아껴왔습니다.
ISC 컨퍼런스의 한 슬라이드에는 "삼성의 RISC-V CPU/AI 가속기"가 언급되어 있었습니다. RISC-V CPU가 특정 칩과 관련된 것인지 아니면 삼성이 별도의 RISC-V 프로세서를 개발하고 있는 것인지는 명확하지 않습니다.
이 슬라이드는 엔비디아의 GPU가 아닌 AI 가속기의 판매를 지원하기 위해 AI 소프트웨어를 개발하는 것을 목표로 하는 UXL 재단에 대한 세션에서 발표되었습니다. 이 AI 소프트웨어는 Nvidia의 CUDA와 경쟁하게 될 것입니다.
삼성은 인메모리 프로세싱에 대해 광범위하게 논의해 왔습니다. 메모리 근처 또는 메모리 내부에서 컴퓨팅하면 과학 및 AI 애플리케이션의 대역폭 문제를 완화할 수 있습니다. 삼성은 곧 마하-1이라는 AI 가속기를 출시할 예정이며, 네이버(한국의 인터넷 대기업)가 이미 7억 5,200만 달러에 주문한 것으로 알려졌습니다.
삼성종합기술원의 김봉준 책임연구원은 이 세션에서 LLM은 일반적으로 AI 애플리케이션에 많은 메모리를 필요로 하며, GPU의 활용도가 떨어지는 경우가 있다고 말했습니다.
"메모리 대역폭 문제를 완화하기 위해 인메모리 프로세싱을 일부 사용해야 합니다."라고 김봉준 연구원은 'HPC와 AI를 위한 소프트웨어의 향후 35년'이라는 제목의 ISC 세션에서 설명했습니다.
