본문
유머 BEST
힛갤
오른쪽 BEST
- 유머 BEST 더보기
- 공무원 친구 직구 피셜
- 고지라)이 새끼는 그냥 인류를 싫어함
- 애플의 다 박살내는 광고 비꼬는 삼성 광고 ㅋ...
- 시골처녀 피규어 엄청나군
- 식당의 험상궃은 아저씨들이 나눈 대화.jpg
- 근튜버) 가끔 도라가 나랑 동갑인걸 까먹는다
- 음쓰봉투 먹어주는 거인
- 블루아카) "시로코, 손."
- 여자친구랑 미궁에 갇히는 망가. manga
- 그만해, 좋아하게 되어버릴거야.manhwa
- ??? : 솔직히 외화유출이 너무 심해서 해외...
- 해외직구 규제를 요약하는 속담.jpg
- 버튜버)몰?루한 구라
- 이름도 정체도 모르지만 누구나 동의하는 빌런
- 버튜버)메이드 에로샤
- M4 아이패드.. 애플의 꼼꼼한 배려
- 직구때문에 졸업 못함 ㅋㅋ
- 게임을 너무 좋아하는 여사친과의 데이트
- 식혜 쌀 식감에 대한 기묘한 표현
- 삐끼의 진심어린 조언
- 블루아카) 이 작가도 림버스 시작했었구나
- 오른쪽 BEST 글 더보기
- 일본생활 16년만에 내집 장만!
- 아는사람은 다 아는 이대 볶음밥
- 서울 빵축제: 가락몰 빵지자랑
- YF-19 파이터모드
- 홋카이도 우유의 최고봉
- 오토 닭강정
- 자작 캐릭터 프라 - 자쿠2
- 삿포로 킹크랩 코스요리 빙설의 문
- 바이크타고 여행
- 더 현대 대구 타일노가다
- sd점보 퍼스트 건담 애니도색
- SD 워록 이지스 건담
- 간만에 로봇 장식장 사진
- 2% 부족한 킹제이더 헤드 수정
- 레고의 초심(?)으로 돌아가 봤습니다
- 국산 게임의 별
- 기다림이 아깝지 않은 장독대 묵은지
- 사막과 맛있는 메카 전투
- [게임툰] 레트로로 그린 잔혹동화
- [검은사막] 모험 가이드 대방출!
인기 검색어
유저게시판 최신글
이미 유게에도 올라온거긴 한데, LLM 학습이 아니라 실행이면 원래 저전력 칩으로도 가능한 거 아니었나. 좀 더 찾아보니 특정 연산에만 극단적으로 최적화된 ASIC의 다음세대로 비유하는 거 보면 애초에 다양한 병렬연산에 활용하기 위해 쓰는 H100같은 범용GPU하고 비교대상은 아닌 것 같음.
gpt2.....
리싸쑤!
이미 유게에도 올라온거긴 한데, LLM 학습이 아니라 실행이면 원래 저전력 칩으로도 가능한 거 아니었나. 좀 더 찾아보니 특정 연산에만 극단적으로 최적화된 ASIC의 다음세대로 비유하는 거 보면 애초에 다양한 병렬연산에 활용하기 위해 쓰는 H100같은 범용GPU하고 비교대상은 아닌 것 같음.
https://jinprelude.github.io/posts/SNN-Basic-Tutorial-1-Spiking-Neural-Network란/ AI 가속기는 많지 않나해서 봤더니 SNN을 사용해 만들었다는 거 같습니다. 그래서 뉴로모픽 컴퓨팅이라는 용어를 쓰는 것 같고요. 논문 내용을 못 봐서 구조는 어떻게 되고 학습을 어떻게 했는지는 모르겠네요.
그런데 결국엔 쌓고 쌓고 또 쎃을거고 그러몬 전력소모가 많아지고 결국엔 A100이나 H100수준 전력 먹게 되는건 필연 아닌가.... 그래도 A100이나 H100이상의 글카가 언젠간 한국에서도 나오길 바라는 작은 마음이 있습니다...
하드웨어 만드는거야 우리나라 팹리스에서도 많이 만듦. 당연히 램크루지 엔비디아보다 메모리도 많이 집어넣음. 문제는 GPT 같은 초거대 AI가 엔비디아 CUDA 기반의 학습모델로 돌아가고, 후발주자들은 CUDA를 에뮬레이션 시키는 ASIC을 만드는걸로 경쟁함.
문제는 소프트웨어지 하드웨어가 아님. 독점 소프트웨어에서 벗어나면 IBM 호환 컴퓨터가 전용 프로세서 시장을 부셨던 초기 컴퓨터 시장처럼 점유율을 확대 할텐데, CUDA 프로세싱을 벗어난 모델을 새로 개발하기엔 후발주자가 할 일도 많고, 이미 오픈AI를 비롯한 초거대 학습모델들이 쌓아놓은 레거시 쳐내고 0부터 새로 쌓아야됨. <- 그 누구도 안함. 그래서 엔비디아 그래픽 카드 비싸다고 징징대면서 인텔이나 AMD, 퀄컴의 대체제는 거들떠도 안보는거.
결론은 엔비디아가 기가막히게 가꿔놓은 cuda생태계를 어떻게 벗어나냐 혹은 그런 문제군요 성능은 문제가 아니란건 새삼스럽게 다시 이해했네요 정성스런 댓글 감사합니다
gpt2.....