[H/W] "IBM, 인텔도 못 한 기술" ...韓, 세계 최초 'AI 반도체' 개발

[불꽃남자 쟈기만]

출처 : https://youtu.be/BHAyg6NT9lI?si=-ff5hTr-E791SUj7

[Relaxing Ruli]

리싸쑤!

[라스트리스]

이미 유게에도 올라온거긴 한데, LLM 학습이 아니라 실행이면 원래 저전력 칩으로도 가능한 거 아니었나. 좀 더 찾아보니 특정 연산에만 극단적으로 최적화된 ASIC의 다음세대로 비유하는 거 보면 애초에 다양한 병렬연산에 활용하기 위해 쓰는 H100같은 범용GPU하고 비교대상은 아닌 것 같음.

[플라스마단 조무래기]

https://jinprelude.github.io/posts/SNN-Basic-Tutorial-1-Spiking-Neural-Network란/

AI 가속기는 많지 않나해서 봤더니 SNN을 사용해 만들었다는 거 같습니다. 그래서 뉴로모픽 컴퓨팅이라는 용어를 쓰는 것 같고요.
논문 내용을 못 봐서 구조는 어떻게 되고 학습을 어떻게 했는지는 모르겠네요.

[리뷰/감상]

그런데 결국엔 쌓고 쌓고 또 쎃을거고 그러몬 전력소모가 많아지고 결국엔 A100이나 H100수준 전력 먹게 되는건 필연 아닌가.... 그래도 A100이나 H100이상의 글카가 언젠간 한국에서도 나오길 바라는 작은 마음이 있습니다...

[PTLimA]

하드웨어 만드는거야 우리나라 팹리스에서도 많이 만듦. 당연히 램크루지 엔비디아보다 메모리도 많이 집어넣음. 문제는 GPT 같은 초거대 AI가 엔비디아 CUDA 기반의 학습모델로 돌아가고, 후발주자들은 CUDA를 에뮬레이션 시키는 ASIC을 만드는걸로 경쟁함.

[PTLimA]

문제는 소프트웨어지 하드웨어가 아님. 독점 소프트웨어에서 벗어나면 IBM 호환 컴퓨터가 전용 프로세서 시장을 부셨던 초기 컴퓨터 시장처럼 점유율을 확대 할텐데, CUDA 프로세싱을 벗어난 모델을 새로 개발하기엔 후발주자가 할 일도 많고, 이미 오픈AI를 비롯한 초거대 학습모델들이 쌓아놓은 레거시 쳐내고 0부터 새로 쌓아야됨. <- 그 누구도 안함. 그래서 엔비디아 그래픽 카드 비싸다고 징징대면서 인텔이나 AMD, 퀄컴의 대체제는 거들떠도 안보는거.

[리뷰/감상]

결론은 엔비디아가 기가막히게 가꿔놓은 cuda생태계를 어떻게 벗어나냐 혹은 그런 문제군요 성능은 문제가 아니란건 새삼스럽게 다시 이해했네요 정성스런 댓글 감사합니다

[JULM]

gpt2.....