瀏覽單個文章
healthfirst.
Golden Member
 
healthfirst.的大頭照
 

加入日期: Apr 2017
您的住址: 陣亡者的靈堂
文章: 3,210
引用:
作者野口隆史
現在有一種新的推理晶片
把 LLM 硬編碼在晶片內
成本跟功耗比 B200 更低,性能還高出十倍
而且還不用 HBM
https://taalas.com/the-path-to-ubiquitous-ai/

感覺像是SSE, AVX這些
把LLM指令集化了
 
__________________
舊 2026-02-21, 12:48 PM #292
回應時引用此文章
healthfirst.離線中