|
||
|
Elite Member
  
加入日期: Mar 2001 您的住址: Rivia
文章: 7,059
|
現在有一種新的推理晶片
把 LLM 硬編碼在晶片內 成本跟功耗比 B200 更低，性能還高出十倍 而且還不用 HBM https://taalas.com/the-path-to-ubiquitous-ai/
__________________
Folding@home with GPGPU集中討論串 Unix Review: ArchLinux●Sabayon●OpenSolaris 2008.5●Ubuntu 8.10 AVs Review: GDTC●AntiVir SS●ESS●KIS 09●NIS 09●Norton 360 V3  I Always Get What I Want. |
|||||||
2026-02-21, 12:29 PM
#291
|
|
|
Golden Member
 
加入日期: Apr 2017 您的住址: 陣亡者的靈堂
文章: 3,210
|
引用:
感覺像是SSE, AVX這些 把LLM指令集化了 
__________________
此文章於 2026-02-21 12:49 PM 被 healthfirst. 編輯. |
|||
|
2026-02-21, 12:48 PM
#292
|
|
|
Elite Member
加入日期: Jan 2002
文章: 4,035
|
引用:
我也差不多,腦筋已經動到不需要SSD的主機都改回1TB HDD 機械碟去了!! 我猜恐怕會有更多的人選擇停止升級PC硬體到DDR5 , 以我來說就是這類型的使用者!! SSD/HDD這次的缺貨潮 恐怕已經不會只有1-2年的時間, 我猜恐怕會持續5年以上的時間 慶幸的是, HDD我以前有多買一些存貨,雖然大都是拿來當作冷儲存使用,如果有需要 可以拿來轉成一般用途使用,暫時不會被貴到!! 容量範圍從3T ~ 16T 都有 , 數量不多就是了.... 
__________________
您想買新硬碟嗎? 購買前請務必參考這篇文章,是我的實際經驗 還想讓統一賺你的錢嗎？統一集團成員(能見度高的)： 星巴克、家樂福、7-11、無印良品、黑貓宅急便、聖娜多堡、阪急百貨、 康是美、博客來、夢時代、Mister Donut 、Cold Stone 、龜甲萬、 維力33%股權、光泉31%股權、Smile速邁樂、紅心辣椒、台北轉運站(統一企業BOT) 統一LP33膠囊有環保署早已列管的一級管制品: DNOP塑化劑 |
|
|
2026-02-21, 01:24 PM
#293
|
|
|
Golden Member
加入日期: Oct 2017 您的住址: 象山公園
文章: 2,861
|
引用:
SSHD混合硬碟市場會不會起死回生? 
__________________
垃圾桶名單: ankk chumowu cp03 jeffk LDSKING LDSKING II leeking leeko MyChris River Spinach smoguli Whole Truth wpc0406 YorkHapy 冬之炎陽 冰的啦魔王大人 沒問題 爆走企鵝 tvt hill45678 rcack 卜派 polor manoerina afeaanpv SUNGF samwu995 cd1971 垃圾敢在任何平臺罵習禁評？ |
|
|
2026-02-21, 03:51 PM
#294
|
|
|
Senior Member
加入日期: Sep 2001 您的住址: 淡水
文章: 1,344
|
引用:
不會。 HDD 已經漲了，且可以自己賺，硬要買漲價 SSD 弄成 SSHD。 把兩個都漲價，且 Flash 漲更兇的零件綁一起，利潤更低。 |
|
|
2026-02-21, 04:09 PM
#295
|
|
|
Master Member
加入日期: May 2021
文章: 2,045
|
引用:
這就是Google AI反超OpenAI的原因之一 自研ASIC晶片可以讓成本/電力消耗大贏對手 OpenAI買越多NV GPU就輸越多，當然這邊指的是推理部分 Google本身也還是跟NV買GPU來訓練 老黃當然也看到了，所以直接斥資買下設計推理ASIC的專家 |
|
|
2026-02-21, 04:17 PM
#296
|
|
|
Junior Member
加入日期: Aug 2003
文章: 894
|
|
|
2026-02-21, 06:07 PM
#297
|
|
|
Regular Member
 
加入日期: Jan 2008
文章: 95
|
引用:
看了一下，只能跑Llama 3.1 8B這隻上古神獸 |
|
|
2026-02-22, 12:20 AM
#298
|
|
|
Senior Member
加入日期: Jan 2001 您的住址: MX300向上委員會
文章: 1,055
|
|
|
2026-02-22, 04:38 PM
#299
|
|
|
Senior Member
加入日期: Apr 2017
文章: 1,450
|
很多人把老舊3C挖出來裝LINUX繼續用~
我從一個YT那裏聽到4GB的基本款, 天啊... 4GB... |
|
2026-02-22, 08:07 PM
#300
|
|
