|
사쿠라모리 카오리P
추천 0
조회 1504
날짜 2024.03.25
|
미국춤™-그잡채
추천 4
조회 4286
날짜 2024.03.25
|
낭만좀비
추천 7
조회 6449
날짜 2024.03.25
|
루리웹-2650969827
추천 7
조회 6894
날짜 2024.03.25
|
코크럴
추천 12
조회 10181
날짜 2024.03.24
|
사쿠라모리 카오리P
추천 4
조회 3772
날짜 2024.03.23
|
사쿠라모리 카오리P
추천 0
조회 2861
날짜 2024.03.23
|
불꽃남자 쟈기만
추천 1
조회 2308
날짜 2024.03.23
|
라스트리스
추천 0
조회 3420
날짜 2024.03.23
|
사쿠라모리 카오리P
추천 0
조회 611
날짜 2024.03.22
|
라스트리스
추천 6
조회 1722
날짜 2024.03.22
|
사쿠라모리 카오리P
추천 1
조회 823
날짜 2024.03.22
|
사쿠라모리 카오리P
추천 1
조회 971
날짜 2024.03.22
|
라스트리스
추천 2
조회 1106
날짜 2024.03.22
|
류오동
추천 8
조회 7677
날짜 2024.03.22
|
사쿠라모리 카오리P
추천 0
조회 1290
날짜 2024.03.21
|
어머니아버지형님누님
추천 11
조회 6055
날짜 2024.03.21
|
춘리허벅지
추천 1
조회 1445
날짜 2024.03.21
|
사쿠라모리 카오리P
추천 0
조회 1563
날짜 2024.03.21
|
오덕살맨
추천 5
조회 6183
날짜 2024.03.20
|
키키™
추천 8
조회 8693
날짜 2024.03.20
|
사쿠라모리 카오리P
추천 0
조회 647
날짜 2024.03.20
|
사쿠라모리 카오리P
추천 3
조회 3650
날짜 2024.03.19
|
서브컬쳐고고학 뉴비
추천 1
조회 2845
날짜 2024.03.19
|
춘리허벅지
추천 1
조회 4544
날짜 2024.03.19
|
라스트리스
추천 1
조회 1807
날짜 2024.03.19
|
사쿠라모리 카오리P
추천 0
조회 615
날짜 2024.03.18
|
알면용취^^
추천 5
조회 4749
날짜 2024.03.18
|
이미 유게에도 올라온거긴 한데, LLM 학습이 아니라 실행이면 원래 저전력 칩으로도 가능한 거 아니었나. 좀 더 찾아보니 특정 연산에만 극단적으로 최적화된 ASIC의 다음세대로 비유하는 거 보면 애초에 다양한 병렬연산에 활용하기 위해 쓰는 H100같은 범용GPU하고 비교대상은 아닌 것 같음.
gpt2.....
리싸쑤!
이미 유게에도 올라온거긴 한데, LLM 학습이 아니라 실행이면 원래 저전력 칩으로도 가능한 거 아니었나. 좀 더 찾아보니 특정 연산에만 극단적으로 최적화된 ASIC의 다음세대로 비유하는 거 보면 애초에 다양한 병렬연산에 활용하기 위해 쓰는 H100같은 범용GPU하고 비교대상은 아닌 것 같음.
https://jinprelude.github.io/posts/SNN-Basic-Tutorial-1-Spiking-Neural-Network란/ AI 가속기는 많지 않나해서 봤더니 SNN을 사용해 만들었다는 거 같습니다. 그래서 뉴로모픽 컴퓨팅이라는 용어를 쓰는 것 같고요. 논문 내용을 못 봐서 구조는 어떻게 되고 학습을 어떻게 했는지는 모르겠네요.
그런데 결국엔 쌓고 쌓고 또 쎃을거고 그러몬 전력소모가 많아지고 결국엔 A100이나 H100수준 전력 먹게 되는건 필연 아닌가.... 그래도 A100이나 H100이상의 글카가 언젠간 한국에서도 나오길 바라는 작은 마음이 있습니다...
하드웨어 만드는거야 우리나라 팹리스에서도 많이 만듦. 당연히 램크루지 엔비디아보다 메모리도 많이 집어넣음. 문제는 GPT 같은 초거대 AI가 엔비디아 CUDA 기반의 학습모델로 돌아가고, 후발주자들은 CUDA를 에뮬레이션 시키는 ASIC을 만드는걸로 경쟁함.
문제는 소프트웨어지 하드웨어가 아님. 독점 소프트웨어에서 벗어나면 IBM 호환 컴퓨터가 전용 프로세서 시장을 부셨던 초기 컴퓨터 시장처럼 점유율을 확대 할텐데, CUDA 프로세싱을 벗어난 모델을 새로 개발하기엔 후발주자가 할 일도 많고, 이미 오픈AI를 비롯한 초거대 학습모델들이 쌓아놓은 레거시 쳐내고 0부터 새로 쌓아야됨. <- 그 누구도 안함. 그래서 엔비디아 그래픽 카드 비싸다고 징징대면서 인텔이나 AMD, 퀄컴의 대체제는 거들떠도 안보는거.
결론은 엔비디아가 기가막히게 가꿔놓은 cuda생태계를 어떻게 벗어나냐 혹은 그런 문제군요 성능은 문제가 아니란건 새삼스럽게 다시 이해했네요 정성스런 댓글 감사합니다
gpt2.....