음 최근에 낸다는 라이젠 AI 300, NPU 스펙이 "아 우리는 자일링스 먹었다고" 라고 말하는 듯이...
"INT 8 / FP 16 모두 다 50TOPS 보장" 이었는데.... 이게 왜 문제가 되었는고 하니...
스냅 엘리트의 헥사곤 NPU가 "INT4 에서 45TOPS" 라 했기 때문에 이걸 INT 8 / FP 16급의 정수단위로 올리면 TOPS 수치가 확 낮아지는 문제가 발생함.... 물론 이건 애플-퀄컴-AMD에게나 해당되는 부분이긴 함. (애플은 지난번 M4 발표때 NPU 스펙이 INT 8 기준 38 TOPS 정도라고 했기 때문)
왜냐면 인텔은... 음... NPU마저 NPU라고 말하기 부끄러운 수준이었기 때문이었다(...)
|
|
|
Emoji
추천 2
조회 166
날짜 00:05
|
|
상계2-412-0000
추천 0
조회 96
날짜 00:05
|
|
마삼중공업
추천 1
조회 144
날짜 00:04
|
|
루리웹-2533335882
추천 6
조회 114
날짜 00:02
|
|
슈퍼파나비전70
추천 2
조회 80
날짜 00:00
|
|
막머거써
추천 4
조회 140
날짜 2024.06.27
|
|
건전함을 추구합니다
추천 7
조회 125
날짜 2024.06.27
|
|
붕유게의 자연재해
추천 2
조회 52
날짜 2024.06.27
|
|
슈퍼파나비전70
추천 0
조회 119
날짜 2024.06.27
|
|
루리웹-4885698
추천 2
조회 148
날짜 2024.06.27
|
|
램버트램버트,이 븅신새끼
추천 2
조회 105
날짜 2024.06.27
|
|
슈퍼파나비전70
추천 2
조회 137
날짜 2024.06.27
|
|
Byungsin만보면짖는개
추천 0
조회 73
날짜 2024.06.27
|
|
D.D.M
추천 0
조회 46
날짜 2024.06.27
|
|
캐논힐베르트
추천 4
조회 92
날짜 2024.06.27
|
|
붕유게의 자연재해
추천 19
조회 196
날짜 2024.06.27
|
|
슈퍼파나비전70
추천 2
조회 122
날짜 2024.06.27
|
|
난폭한젤리해적단
추천 4
조회 109
날짜 2024.06.27
|
|
콜라짱
추천 3
조회 36
날짜 2024.06.27
|
|
닉네임은nick이름
추천 1
조회 35
날짜 2024.06.27
|
|
YES🩵
추천 1
조회 83
날짜 2024.06.27
|
|
세노테
추천 4
조회 132
날짜 2024.06.27
|
|
서전페퍼
추천 4
조회 141
날짜 2024.06.27
|
|
무채색나그네
추천 23
조회 1232
날짜 2024.06.27
|
|
포트리스
추천 1
조회 142
날짜 2024.06.27
|
|
마삼중공업
추천 15
조회 224
날짜 2024.06.27
|
|
고니는 고니고니
추천 0
조회 65
날짜 2024.06.27
|
|
니죄명이뭐니
추천 1
조회 109
날짜 2024.06.27
|
TSMC : ㅎㅎ ㅈㅅ
비트 논쟁 코어 논쟁 이제는 AI 정수자리 논쟁이네 아무튼... 서로 죽여라(경쟁해서 가격 내리라는 뜻)
고인형 아서
TSMC : ㅎㅎ ㅈㅅ
이게 참 웃프게 되는게, MS가 처음에 내세웠던 코파일럿+ 달성 조건이었다던 "40 TOPS 이상" 스펙의 데이터 단위가 제대로 나와있지 않아서 개발자들도 "이걸 대충 애플 스펙 규격인 INT8에 맞추면 되겠지" 라고 코딩을 해보는데 스냅 엘리트에서는 연산력이 애매하게 나오는 이상한 현상이 터졌다는게 함정....
A17 프로가 35톱스.. 어디까지나 이론적으로.. 그래서 스냅 엘리트가 ㄹㅇ 늬들 45톱스 맞냐는 소리도 나오는데..
그래서 외국에서는 스냅 노트북 출시 후에 바로 구라스펙 논란 나오긴 하더라고....
M3가 18tops 인걸 감안하면.. 더 구라스펙 이야기가 나올 수 밖에 ㄲㄲ
일반유저 입장에서는 npu 솔직히 쓸모없는 것 같던데... 개발자들도 브랜드마다 다르니까 인텔 avx512파편화처럼 골치아플거고
전에 누가 유게에서 npu 써보려고 했다가 제조사에서 제공한 예시 말고는 안된다고 하더라고 ㅋㅋ...
결국 AMD와 엔비디아만 결론적으로 유리해지는 마당이 된게.. 엔비디아의 CUDA나 AMD의 ROCm-ZLUDA 규격이나 모두 다 FP16 데이터형 규격이라서... 이 두개가 "맥시멈" 기준이 되는거... 결국 개발자들은 "미니멈을 어디로 맞춰야 하느냐" 에서 머리가 터지긴 할텐데 일단 퀄컴이 INT4 라 했으니 결국 INT4에 맞춰서 개발이 강제되는 꼴이 됨...
어 맞음. 결국 "제조사에서 제공한 레퍼런스"에 따라서 코딩이 반강제됨...
애플 실리콘은 다중데이터 동시처리 코딩은 열어뒀다던데. 그게 결국 머신러닝..
stable diffusion에 관심 조금 있어서 라이젠 npu 발표되었을 때 되려나 싶었는데 npu로는 안되고 내장그래픽으로 굴러갔었다더라 ㅋㅋ... npu중에 화웨이만 됨 ㅋㅋ...
애초에 스테이블디퓨전은 라데온에는 ROCm GPGPU처리모드로 잘 돌아감... NPU 쓸 필요가 거의 없는 거라서 그건...
cpu모드나 gpu 모드는 관심없고 npu가 궁금했던거임 ㅋㅋ;;; npu는 전성비 좋다고 하니까 그걸로 뽑으면 전기세 덜나오려나 그런 생각으로 ㅋㅋㅋ
다만 이제 AI300 라이젠 기준으로는 아마 GPGPU 모드 안쓰고 NPU 깡모드로 가능은 할거임... 그거야 뭐 AMD나 스테이빌리티 Ai 쪽에서도 API는 준비 해놨을거고...
일단 스냅은 안드쪽에서도 애플 뉴럴엔진 대비 구라성능으로 말이 많긴 했음.