![]() |
||
|
Senior Member
![]() ![]() ![]() 加入日期: Apr 2017 您的住址: (╯-_-)╯ ~ �嘵�
文章: 1,497
|
引用:
顯卡不是只能打遊戲的, 現在的本地AI模型, 能把高中段考考卷丟進去, 它就把解答吐給你, 還能拿90分以上, 請家教的錢都省了. |
||||||||
|
|
|
Elite Member
![]() ![]() ![]() ![]() ![]() 加入日期: Jan 2005
文章: 5,049
|
引用:
我以為搞AI的都是暴發戶,原來低階卡也可以玩~~~ ![]()
__________________
西岸北韓人精神分裂洗板假帳號集團: okx、AirStorms、LDSKINGII、tvt、rcack、ankk、leeking、acmilan、 TACOCITY、YorkHapy、CPAP 三代、imggy、pcbd、 hill456789、lifaung、healthfirst.、chumowud、77a77、 pledi、cjan.、chumowu、LeeMichael、音哈、polor、蠻荒、smoguli、 莫爺、野口隆史 、overtime、 wpc0406、allNewSwift、Fly Pig、polar168、ㄧ本道、michaelweng 洗大圖西岸北韓人.... afeaanpv、manoerina 韓國的粉絲.... supermaxfight、wpc0406、creep8276、spring91811、Skymaker、cd1971、venon0916 满朝文武藏绿卡,半壁江山养红颜 杀人放火金腰带,修桥补路は尸骸 此生は悔入华夏,来世还做支那人 宁要社会主�慦滲鞳A不要资本主�慦滬] 别看你今天闹得欢,小心今后拉清单 丧尽天良 还我器官 西南医院 は良黑店 苍天有眼,三年封控白费心机,一朝放开白肺心肌 口国人民已经组织起来了,是惹不得的,如果惹翻了,是不好办的。 陈平:中国2000块的工资,活得比美国3000美元还舒服得多 一问三傻 唐志紅 口罩充足 王晓东 人不传人是 高福 等待授权 周先旺 深感内疚 马国�L 答非所问 蒋超良 可控可防 王な发 武�銗[油 李克�L 学习中国 谭德塞 亲自部署 习近平 不要核酸要吃饭,不要封控要自由, 不要谎言要尊严,不要文革要改革, 不要领袖要选票,不做奴才做公民 「罢课罢工罢免,独裁国贼习近平」 |
|||
|
|
|
Senior Member
![]() ![]() ![]() 加入日期: Apr 2017 您的住址: (╯-_-)╯ ~ �嘵�
文章: 1,497
|
引用:
跑本地能用的推理, 低消兩張12G 卡, 或兩張 4060ti 16G , 好一點 3090 兩卡的得扣掉一些損耗, 模型還得全部塞入VRAM, 但卡不挑. (超長推理 寫小說另外看) 但要是做短片就要看口袋深度, 試玩版3060 , 正常低消3090 , 上不封頂. 算影片這個全靠算力與加速器. ![]() 傳送到歐拉馬挑選
__________________
------------------------------------------------------ 這就是 Elon Musk 關停USAID的真相: COVID-19是美國USAID造的生物武器 !!! XXXXXXXXXXXXXXXXXXXXXXXXXXXX (Youtube影片)完蛋了沒搞頭了 都該怪佛奇多話 ---佛奇的影片竟然被拔掉? 了補上 鋼鐵人的 "DOGE" 不錯看! 1 2 3
此文章於 2026-08-10 10:35 PM 被 冰的啦魔王大人 編輯. |
|
|
|
|
Master Member
![]() ![]() ![]() ![]() 加入日期: May 2021
文章: 2,148
|
AI吃算力、吃記憶體
算力低就跑比較久 記憶體小就只能跑小模型 但AI一直在改良,也是有新模型大幅節省記憶體用量的 AI摘要: 近期各大科技公司推出多項突破性技術,大幅降低大型語言模型(LLM)的記憶體用量。 例如 Google 推出的 TurboQuant 演算法可將記憶體需求減少6倍, 而 NVIDIA 提出的 KVTC 技術更可將 KV 快取記憶體縮減高達20倍。 其實就跟玩遊戲一樣,低階卡也能玩,畫質比較爛而已 |
|
|
|
Golden Member
![]() ![]() ![]() ![]() 加入日期: Sep 2001
文章: 3,335
|
希望Terafab快點建完。
|
|
|
|
Elite Member
![]() ![]() ![]() ![]() ![]() 加入日期: Aug 2003
文章: 10,886
|
目前不會考慮
開始整理一下舊pc和舊筆電,延長使用年限。 |
|
|
|
Master Member
![]() ![]() ![]() ![]() 加入日期: May 2021
文章: 2,148
|
引用:
等AI泡沫破掉比較快 雖然台灣也靠這波大賺,但韓國那種不要臉賺法太誇張 之前我認同一種說法提出的AI基建燒太多錢難以轉化成實際收入 就是指消費者願意掏多少錢訂閱AI服務,如果這塊沒人買單 AI巨頭的巨額投資遲早資金枯竭,到時就會有一波泡沫破掉 但當時有網友反駁的論點是AI巨頭本業就超賺 盆滿缽滿,錢多到沒地方花,所以根本不會資金枯竭 不過今年各巨頭財報開始出問題了 AI基建的開銷成長好幾倍,連Google自由現金流都首度轉負 公司長期債務也在 2026 年上半年激增 111% 至 980 億美元 更別說Meta開始出租算力服務,引發算力過剩疑慮 AI燒錢遊戲還能玩多久?Google暴跌後三大科技巨擘迎財報大考 https://news.cnyes.com/news/id/6548876 Alphabet 股價隔日重挫 7%,反映投資人開始質疑 AI 基礎建設投入不斷攀升,卻可能耗盡現金,且回報時間與規模仍不明朗。Alphabet 長期被視為「印鈔機」,但今年第二季自由現金流首度轉負;公司長期債務也在 2026 年上半年激增 111% 至 980 億美元。 分析師預期,亞馬遜可能進一步上調支出,以擴大 AI、自研晶片及衛星網路等業務。公司長期債務在去年底至今年 3 月底期間大增 81% 至 1,190 億美元,自由現金流也在第一季轉負,市場預估全年可能持續為負。 --- 只要這些巨頭沒錢,韓國天價記憶體就沒人買 到時候產能要回頭叫玩家買單,不降價是不可能的 現在就看AI基建還能撐到什麼時候,2027? 2028? 到時候PS6、新一代顯卡才有可能推出,否則定價難以壓下去 |
|
|
|
|
Elite Member
![]() ![]() ![]() ![]() ![]() 加入日期: Aug 2003
文章: 10,886
|
引用:
AI公司都在燒錢,那些投資很難回來 跟他們訂閱企業也是燒錢,太過依賴拿到帳單後吐血。有些就改變策略 微軟之前也限制員工使用別人家的,要求用自家的省錢。 |
|
|
|
|
Senior Member
![]() ![]() ![]() 加入日期: Apr 2017 您的住址: (╯-_-)╯ ~ �嘵�
文章: 1,497
|
這一代最新的VERA RUBIN 與以前不一樣, 這新機櫃每個GPU標配16TB SSD ,
也就是它能記住先前思考過的東西, 甚至能變成可自行成長的AI 看似這些機器很燒錢, 但只要搞出一些科研成果, 就能馬上撈回本. 一堆機櫃能換一個愛因斯坦還是很划算的 |
|
|
|
Master Member
![]() ![]() ![]() ![]() 加入日期: May 2021
文章: 2,148
|
引用:
問題在於多少AI超算中心是拿來科研? Meta為何出租算力而不是搞科研? SpaceX未來可能99%靠AI服務賺錢,但也不是搞科研 SpaceX強化AI布局 馬斯克估AI營收9月超越太空業務 https://www.ctee.com.tw/news/20260813700453-430704 SpaceX表示,新模型每100萬個輸入token收費2美元、 每100萬個輸出token收費6美元,價格約為其他前沿模型的一半 --- 台積電靠生產晶片賺錢,台廠靠生產機台賺錢 NV靠賣晶片、機台賺錢,好多AI巨頭靠提供算力賺錢 真正搞科研的很少,而且市場規模遠小於廣大民生應用 當然也不是沒有,藥廠會用AI研發新藥,各行各業可以靠AI加速研發 |
|
|
|