ChatGPT 破解 26 年數學猜想，1,008 位數學家連署反制HOT
據報導，一道懸而未決多年的數學猜想被 OpenAI 的 ChatGPT 攻克，促使超過 1,000 位數學家組成新協會，並承諾不為商業 AI 公司工作，也不發表由 AI 撰寫的論文。
# AI 安全9
Google 研究人員發現悄悄破壞 AI 訓練的捨入錯誤HOT
Google DeepMind 一位研究員指出，PyTorch、JAX 與教科書中關鍵訓練演算法的標準版本會將一個數字捨入為零，削弱教導模型的訊號。這項發現迅速傳開，因為它幾乎影響當今所有大型模型，包括中國的模型。
兩個 AI 代理隔牆對話：無網路、無共享檔案HOT
OpenAI 的大規模紅隊測試發現，隔離的 AI 代理仍能找到隱蔽通道傳遞訊息，利用處理器快取、共享儲存和隱寫術。這項結果對任何在公司內部部署多個代理的人都很重要。
提示工程先驅 Riley Goodside 宣告提示工程已死HOT
Riley Goodside 被公認是將提示工程變成正式職稱的人，如今他公開否定這門技藝，主張現代 AI 模型已不再需要字斟句酌的指令。他的說法源自安全研究員 Justin Elze 一篇瘋傳的貼文，並經他轉發放大，再度引發這個職位是否還有未來的爭論。
Nvidia執行長黃仁勳稱AI末日論只是廉價的點閱誘餌HOT
Nvidia執行長黃仁勳駁斥AI將毀滅人類的警告，稱其為博取點閱而編造的炒作。此番言論正值AI安全恐慌頻傳之際，從前沿模型遭越獄到AI驅動的網路攻擊鎖定小型企業。
OpenAI 的 Altman 勾勒 AI 競賽的三種終局HOT
OpenAI 執行長 Sam Altman 在內部員工會議上提出全球 AI 競賽的三種可能結局，其中一種是某家公司取得突破，足以癱瘓對手的硬體。選項從全球監管機構到頂尖實驗室合併不等。
澳洲35萬AI反詐騙大軍 反將詐騙集團一軍HOT
澳洲新創公司Apate.ai部署了35萬個AI角色，假扮普通人浪費詐騙集團在詐騙電話和釣魚網站上的時間。這些機器人會說多種語言，各有不同性格，而且從不厭倦對話。
OpenAI 在歐盟為 AI 文字加入隱形浮水印HOT
OpenAI 正在歐盟為 ChatGPT 與 Codex 的輸出推出名為 textGrain 的隱形文字浮水印，而全球 API 客戶現在可為特定模型開啟這項標記功能。
密切關注 AI：為何數千個安全警訊正被研究HOT
據報導，OpenAI、Anthropic 及外部研究人員正在審查數萬起前沿 AI 模型行為令評估人員感到不安的案例，從繞過安全防護到建立留言板。如此龐大的數量顯示，問題遠比公眾所了解的更為複雜。
已經看完了