PCDVD數位科技討論區
PCDVD數位科技討論區   註冊 常見問題 標記討論區為已讀

回到   PCDVD數位科技討論區 > 其他群組 > 七嘴八舌異言堂
帳戶
密碼
 

  回應
 
主題工具
rainwens
Advance Member
 

加入日期: Jan 2013
文章: 408
引用:
作者野口隆史
你說的這個就是多專家模型啊
概念跟實作去年其實就有了
https://mistral.ai/news/mixtral-8x22b/

我現在都用 8x7B 幫我做近期指定類型新聞或期刊報告總結
例如最近一星期發生的資安事件,自動追蹤並製作流程
幾乎可以取代我用了二十幾年的 rss 了

就算不是複合模型
現在 RAG 用的也是不同任務可以選擇調用不同模型
如果你用 8x7B 就可以只用這一個大模型

原來如此,受教了
請問現在給大家免費用的GPT、Gemini、Copilot能調用RAG嗎?
     
      
舊 2024-10-16, 02:37 PM #21
回應時引用此文章
rainwens離線中  
NT-MAN
Amateur Member
 
NT-MAN的大頭照
 

加入日期: Oct 2008
文章: 46
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!
 
舊 2024-10-16, 03:15 PM #22
回應時引用此文章
NT-MAN離線中  
hillhsu
Advance Member
 

加入日期: Jun 2021
文章: 356
引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!


免連線,你要去那運算????

__________________
工具只是減少人的工作,或提昇工作效率
更重要的是你對要做的事情到底有多深的了解
沒有足夠了解自己的問題只想站在巨人肩膀上
巨人依然是巨人
山頭往往不是目的地
你不僅上山白費功夫下山還要重新迷路一次

舊 2024-10-16, 04:04 PM #23
回應時引用此文章
hillhsu離線中  
野口隆史
Elite Member
 
野口隆史的大頭照
 

加入日期: Mar 2001
您的住址: Rivia
文章: 6,989
引用:
作者rainwens
原來如此,受教了
請問現在給大家免費用的GPT、Gemini、Copilot能調用RAG嗎?

ChatGPT, Copilot, Claude 有很簡單的 RAG

如果你要使用線上免費可以使用 perplexity
https://www.perplexity.ai
每天免費提供五次全功能的 copilot(RAG)

開源替代可以使用 Perplexica
https://github.com/ItzCrazyKns/Perp...le#installation

你只要把預設的搜索引擎改成 together ai
https://www.together.ai
跑出來的效果不會比 perplexity 差

要更進階可以使用 kotaemon
https://github.com/Cinnamon/kotaemon

我自己平常使用 Open-Web UI + Ollama
https://github.com/open-webui/open-webui
https://github.com/ollama/ollama
搭配 together 做新聞與相關資料的彙整


引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!

這個一直都有
兩年前我就看過有人在賣提示詞跟 LoRA 模型了
剛搜尋一下找的
betterwaifu.com/blog/loras
我沒細看,你有興趣就花點時間研究吧
__________________
Folding@home with GPGPU集中討論串

Unix Review: ArchLinuxSabayonOpenSolaris 2008.5Ubuntu 8.10
AVs Review: GDTCAntiVir SSESSKIS 09NIS 09Norton 360 V3

I Always Get What I Want.
舊 2024-10-16, 04:08 PM #24
回應時引用此文章
野口隆史離線中  
NT-MAN
Amateur Member
 
NT-MAN的大頭照
 

加入日期: Oct 2008
文章: 46
引用:
作者hillhsu
免連線,你要去那運算????


應該以後會有單機跑得動的軟體,顯卡買好一點的拚看看! 少量生成應該還是可以的 (連線只適合用在普通的圖像! 18X的還是有隱私比較好!)

引用:
作者野口隆史
這個一直都有
兩年前我就看過有人在賣提示詞跟 LoRA 模型了
剛搜尋一下找的
betterwaifu.com/blog/loras
我沒細看,你有興趣就花點時間研究吧

好像有看過!
舊 2024-10-16, 06:07 PM #25
回應時引用此文章
NT-MAN離線中  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 159
前陣子新竹的某EDA TOOL大拜拜

群聯董座潘建成與會時就有再推自家LLM模型組機

大概幾百萬一台

可以放在家裡或公司來玩

__________________
我的封鎖名單:
cjan
Kentnet
rcack
冰的啦魔王大人
沒問題
舊 2024-10-16, 07:38 PM #26
回應時引用此文章
hendry2002現在在線上  
u8526425
Elite Member
 

加入日期: Oct 2002
文章: 4,793
目前的擬人AI
大概是這種程度
不過真沒想到科幻片的情節竟有可能在有生之年成真(獨立AI機器人.星際旅遊.飛空車...)
特斯拉發表會展示Optimus機器人功能 是由人從遠端協助
__________________
人性的醜陋就是,會在無權、無勢、善良的人身上挑毛病,卻在有權、有勢、缺德的人身上找優點。當無權、無勢、善良的人受到傷害的時候,還會站在所謂的道德制高點上,假惺惺地勸說無權、無勢、善良的人,一定要忍耐,一定要大度。

此文章於 2024-10-17 07:56 AM 被 u8526425 編輯.
舊 2024-10-17, 07:52 AM #27
回應時引用此文章
u8526425離線中  
超軼絕塵
Advance Member
 
超軼絕塵的大頭照
 

加入日期: Feb 2015
文章: 389
引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!

本地部署不限制18+內容生成早就有還一堆426在賣整合好的
連生成影片都有
但問題是你先要有最頂的CPU+GPU
這類圖像跟影片生成是兩個都吃的
很多人弄個兩分鐘的就黑屏了
嚴格來說看解析度跟楨率~整個影片大於萬張圖都有風險
我跑生成影片時看即便都水冷
CPU跟GPU還是上看90度
看你心臟多大顆敢這樣跑多久吧
舊 2024-10-17, 08:42 AM #28
回應時引用此文章
超軼絕塵離線中  
野口隆史
Elite Member
 
野口隆史的大頭照
 

加入日期: Mar 2001
您的住址: Rivia
文章: 6,989
引用:
作者u8526425
目前的擬人AI
大概是這種程度
不過真沒想到科幻片的情節竟有可能在有生之年成真(獨立AI機器人.星際旅遊.飛空車...)
特斯拉發表會展示Optimus機器人功能 是由人從遠端協助 (https://udn.com/news/story/6811/8292114)

這新聞寫錯了
這新聞當初是美國媒體引一段畫面
就是工程人員穿戴動作捕抓設備來操控機械人身體
但這影片是特斯拉自己放出來介紹他們是怎麼訓練機器人怎麼像人一樣動作的

特斯拉 AI DAY 當初最早宣布 Optimus 的時候
根本沒有機器人,是由真人 cosplay 扮演的
當初還被笑說研發智能機器人根本是癡人夢話
結果第二年開始 Optimus 出來後
就沒有人笑得出來了
還讓波士頓動力進入大改革
__________________
Folding@home with GPGPU集中討論串

Unix Review: ArchLinuxSabayonOpenSolaris 2008.5Ubuntu 8.10
AVs Review: GDTCAntiVir SSESSKIS 09NIS 09Norton 360 V3

I Always Get What I Want.
舊 2024-10-17, 10:11 AM #29
回應時引用此文章
野口隆史離線中  


    回應


POPIN
主題工具

發表文章規則
不可以發起新主題
不可以回應主題
不可以上傳附加檔案
不可以編輯您的文章

vB 代碼打開
[IMG]代碼打開
HTML代碼關閉



所有的時間均為GMT +8。 現在的時間是12:12 PM.


vBulletin Version 3.0.1
powered_by_vbulletin 2024。