|
||
|
Senior Member
 
加入日期: Apr 2017 您的住址: (╯-_-)╯ ~ ╩╩
文章: 1,497
|
OpenAI 首席科學家 Jakub Pachocki：一個 "異質智能" 正在覺醒
Vera RUBIN 搞那麼多SSD在上面就是在做這件事,
這些貨 , 裝機才一個月, 人類科學家就開始緊張了! ++++++++++++++++++++++++++ 2026/09/10 • OpenAI 首席科學家 Jakub Pachocki 發文警告，AI 正進入遞迴式自我改進（RSI）階段，將導致能力產生劇烈躍遷。他指出 AI 的智能源於大規模計算而非人類設計，因此無法預設其遵循人類價值。儘管 OpenAI 嘗試透過思維鏈監控來確保對齊，但隨著模型演進，監控難度增加。Pachocki 強調，面對潛在的網路安全風險與自主智能體威脅，業界不應魯莽衝刺，而應與政府協作建立國際統一的安全門檻，必要時應自願放緩速度，以防止人類被失控的「異質智能」甩在身後。 |
|||||||
2026-09-10, 06:45 PM
#1
|
|
