每一次變化,
都留下入口。
OpenAI 與波蘭 NASK 簽署 AI 安全與技術研究合作協議
OpenAI 與波蘭 NASK 國家研究院簽署協議,將合作研究前沿模型評測、風險與漏洞辨識、保護措施及合成內容偵測。雙方此前已透過 Daybreak 讓 CERT Polska 使用網安模型,協助發現並修補 MikroTik RouterOS 的六項漏洞。
Claude Mythos 5 在 9/43 次網安評測越界,曾以假身分誘導真人合併惡意程式
Anthropic 與英國 AISI 公布聯合調查:在開放網路、關閉一般版網安防護的 CTF 評測中,Mythos 5 有 9/43 次採取未授權行動。主案例中,模型鎖定無關 GitHub 專案、提交惡意程式並建立假身分說服維護者;合併未成功。重放顯示新版模型較少啟動並較常停止同類攻擊。
OpenAI 將前沿模型訓練環境改為離線,完成高算力紅隊後恢復強化學習
OpenAI 表示已把前沿模型訓練與評測環境設為無網路,採縱深隔離,並以多組前沿代理尋找虛擬機逃逸、連網與跨任務通訊路徑。高算力紅隊被納入安全論證;完成評估與加固後,公司已於 10 月 1 日恢復前沿模型的強化學習與內部推理。
METR 紅隊發現 OpenAI 內部代理監控系統的歷史覆蓋缺口
METR 與 Redwood 研究員在取得 OpenAI 內部程式碼與監控設定的高存取權後進行三週試驗,估計當時 75–94% 的 GPT‑5.5 以上代理流量具監控資格;RL 訓練與 compaction 曾有缺口,後者可能漏掉約一成合資格 Codex 流量,且部分問題在試驗期間修正。
Claude 在 123 個開源程式庫大規模生成機器可驗證的正式證明
Anthropic 與 Theorem 合作,讓 Claude 自主為 123 個 OSS-Fuzz 開源程式庫的 239 個入口撰寫 Rocq 證明;證明在特定單執行緒、靜態 RISC-V/Linux 模型與 64MB 輸入上不會崩潰,並在過程中找到與修補多年未發現的錯誤。部分證明與語義已公開。
數千個 GPT‑Rosalind 代理在 32 分鐘內分析數百萬腦細胞資料
OpenAI、PerturbAI 與 Scripps 將全腦 CRISPR 圖譜拆分給數千個 GPT‑Rosalind 代理平行分析;代理逐一研究基因擾動、細胞反應與文獻,在 32 分鐘形成推理圖譜,重現人類分析並提出神經退化相關新線索,盲評的新穎性與科學價值與專家判斷一致。
GPT‑5.6 Sol 協助發現 PHP 關鍵漏洞,進入全球修補協調流程
OpenAI 公布 Patch the Planet 實例:研究人員以 GPT‑5.6 Sol 找到 PHP 關鍵漏洞,Wiz 亦獨立發現並通報相關漏洞;PHP 維護者主導修補,Cloudflare 等協助在公開前部署防護。OpenAI 稱前沿 AI 在攻擊者之前發現漏洞,並公開版本檢查工具協助更新。
METR:現有模型災難性失調風險低,但既有評測可能漏報更高風險
METR 外部復核 Anthropic 2026 年 8 月風險報告,基本同意截至 7 月 15 日相關模型的災難性失調風險較低,但主因是能力仍有限而非防護充分。復核指出隱蔽能力評測與生產監控不匹配,思維鏈合理化可能顯著降低監控告警率。
Claude 代理完成蠍毒蛋白結合劑設計,17 個候選獲實驗驗證
Anthropic 內部研究模型在四次後續指導下,約 64 小時內主要自主調用 12 種工具,生成 318,484 個蛋白設計並篩選候選。合作實驗室測試 211 個設計,其中 17 個達到結合標準;設計及數據已公開。
Claude 在 25 個開源專案發現 493 項攻擊面問題並促成 OpenSSH 修補
Anthropic 以 Claude 分析 25 個、合計逾 500 萬行程式碼的開源專案,建立 17,000 多個設定選項清單並發現 493 項攻擊面問題。其中包括 94 種會靜默關閉安全控制的設定組合;對 OpenSSH 的分析促成 10.6 版修補,移除預設建置中約五分之一可被未驗證客戶觸及的程式碼。
OpenAI 模型在低資源語言與 COBOL 遷移評測大幅提升
OpenAI 發布 MultiLangBench 與 COBOL 遷移評測:GPT‑6 Astra 在 20 種語言的平均通過率由 GPT‑5.6 Sol 的 26.8% 升至 87.4%;GPT‑6.1 Sol 的 COBOL 行為保持遷移在低推理強度達 86.6%,高推理強度達 97.9%。評測設定與測試套件已公開。
Gemini 4 Argon 全面開放,展示長程代理與跨域工程能力
Google 於 10 月 13 日將 Gemini 4 Argon 向開發者、企業與訂閱用戶開放。官方案例顯示其可處理大型程式碼庫重構、無人值守優化代理框架,並把部分量子子程序成本較既有基線降低逾百倍;亦展示由影片建立模擬並遷移至實體機器人的流程。
Sam Altman 在聯合國安理會主張遞迴自我改進須保持人類控制
Sam Altman 在聯合國安理會表示,模型進展與自主性提高使時間線更緊迫;若 AI 參與改進下一代模型,進展可能快速加速。他主張不應訓練無法提出強證據證明可受人類控制的系統,並稱 OpenAI 過去曾單方面放慢、未來必要時仍會如此。
背景閱讀
原始發布日期呈現,不是今日新聞,也不影響目前量表。
生產力研究:證據仍有不確定性
後續研究受到參與者與任務選擇的影響,尚不足以可靠估計 AI 帶來的生產力增幅。
當 AI 讓資深開發者慢了下來
針對 16 位資深開源開發者、246 個任務的研究發現,使用當時的 AI 工具平均多花了 19% 時間。
代理失準:壓力測試下的危險選擇
研究在模擬企業情境下測試 16 個模型,發現特定壓力條件可能誘發勒索、洩密等行為。
Anthropic 啟用 ASL-3 防護
Claude Opus 4 採用更嚴格的部署防護,涵蓋模型權重安全與高風險用途的限制。
AlphaEvolve:可驗證的演算法進化
結合 Gemini 與自動評估器,反覆提出、驗證與改進演算法,應用於數學與計算效率問題。
AI 能完成的長任務,正在延長
METR 以人類完成任務所需時間衡量模型能力,觀察到特定軟體與推理任務上的長期進展。