PCDVD數位科技討論區
PCDVD數位科技討論區   註冊 常見問題 標記討論區為已讀

回到   PCDVD數位科技討論區 > 其他群組 > 七嘴八舌異言堂
帳戶
密碼
 

  回應
 
主題工具
rainwens
Advance Member
 

加入日期: Jan 2013
文章: 408
引用:
作者野口隆史
你說的這個就是多專家模型啊
概念跟實作去年其實就有了
https://mistral.ai/news/mixtral-8x22b/

我現在都用 8x7B 幫我做近期指定類型新聞或期刊報告總結
例如最近一星期發生的資安事件,自動追蹤並製作流程
幾乎可以取代我用了二十幾年的 rss 了

就算不是複合模型
現在 RAG 用的也是不同任務可以選擇調用不同模型
如果你用 8x7B 就可以只用這一個大模型

原來如此,受教了
請問現在給大家免費用的GPT、Gemini、Copilot能調用RAG嗎?
     
      
舊 2024-10-16, 02:37 PM #21
回應時引用此文章
rainwens離線中  
NT-MAN
Amateur Member
 
NT-MAN的大頭照
 

加入日期: Oct 2008
文章: 46
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!
 
舊 2024-10-16, 03:15 PM #22
回應時引用此文章
NT-MAN現在在線上  
hillhsu
Advance Member
 

加入日期: Jun 2021
文章: 356
引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!


免連線,你要去那運算????

__________________
工具只是減少人的工作,或提昇工作效率
更重要的是你對要做的事情到底有多深的了解
沒有足夠了解自己的問題只想站在巨人肩膀上
巨人依然是巨人
山頭往往不是目的地
你不僅上山白費功夫下山還要重新迷路一次

舊 2024-10-16, 04:04 PM #23
回應時引用此文章
hillhsu離線中  
野口隆史
Elite Member
 
野口隆史的大頭照
 

加入日期: Mar 2001
您的住址: Rivia
文章: 6,989
引用:
作者rainwens
原來如此,受教了
請問現在給大家免費用的GPT、Gemini、Copilot能調用RAG嗎?

ChatGPT, Copilot, Claude 有很簡單的 RAG

如果你要使用線上免費可以使用 perplexity
https://www.perplexity.ai
每天免費提供五次全功能的 copilot(RAG)

開源替代可以使用 Perplexica
https://github.com/ItzCrazyKns/Perp...le#installation

你只要把預設的搜索引擎改成 together ai
https://www.together.ai
跑出來的效果不會比 perplexity 差

要更進階可以使用 kotaemon
https://github.com/Cinnamon/kotaemon

我自己平常使用 Open-Web UI + Ollama
https://github.com/open-webui/open-webui
https://github.com/ollama/ollama
搭配 together 做新聞與相關資料的彙整


引用:
作者NT-MAN
我對AI的期待只有小小的要求,就是趕快推出18X的圖像生成軟體,"免連線"的單機版!

這個一直都有
兩年前我就看過有人在賣提示詞跟 LoRA 模型了
剛搜尋一下找的
betterwaifu.com/blog/loras
我沒細看,你有興趣就花點時間研究吧
__________________
Folding@home with GPGPU集中討論串

Unix Review: ArchLinuxSabayonOpenSolaris 2008.5Ubuntu 8.10
AVs Review: GDTCAntiVir SSESSKIS 09NIS 09Norton 360 V3

I Always Get What I Want.
舊 2024-10-16, 04:08 PM #24
回應時引用此文章
野口隆史離線中  
NT-MAN
Amateur Member
 
NT-MAN的大頭照
 

加入日期: Oct 2008
文章: 46
引用:
作者hillhsu
免連線,你要去那運算????


應該以後會有單機跑得動的軟體,顯卡買好一點的拚看看! 少量生成應該還是可以的 (連線只適合用在普通的圖像! 18X的還是有隱私比較好!)

引用:
作者野口隆史
這個一直都有
兩年前我就看過有人在賣提示詞跟 LoRA 模型了
剛搜尋一下找的
betterwaifu.com/blog/loras
我沒細看,你有興趣就花點時間研究吧

好像有看過!
舊 2024-10-16, 06:07 PM #25
回應時引用此文章
NT-MAN現在在線上  
hendry2002
Major Member
 
hendry2002的大頭照
 

加入日期: Jan 2008
您的住址: 銀河系
文章: 159
前陣子新竹的某EDA TOOL大拜拜

群聯董座潘建成與會時就有再推自家LLM模型組機

大概幾百萬一台

可以放在家裡或公司來玩

__________________
我的封鎖名單:
cjan
Kentnet
rcack
冰的啦魔王大人
沒問題
舊 2024-10-16, 07:38 PM #26
回應時引用此文章
hendry2002現在在線上  


    回應


POPIN
主題工具

發表文章規則
不可以發起新主題
不可以回應主題
不可以上傳附加檔案
不可以編輯您的文章

vB 代碼打開
[IMG]代碼打開
HTML代碼關閉



所有的時間均為GMT +8。 現在的時間是08:07 PM.


vBulletin Version 3.0.1
powered_by_vbulletin 2024。