ChatGPTが26年来の数学予想を攻略、1,008人の数学者が反発HOT
長年の数学予想がOpenAIのChatGPTによって解かれたと報じられ、1,000人以上の数学者が新たな協会を設立し、商業AI企業のために働かず、AIが書いた論文を発表しないと誓約した。
# AI安全9
Googleの研究者、AIトレーニングを静かに壊す丸め誤差を発見HOT
Google DeepMindの研究者によると、PyTorchやJAX、教科書に載る主要なトレーニングアルゴリズムの標準実装が数値をゼロに丸め、モデルを学習させる信号を弱めている。この発見は、中国製を含む今日のほぼすべての大規模モデルに関わるため、急速に広まった。
ネットワークも共有ファイルもない壁越しに2つのAIエージェントが会話HOT
OpenAIの大規模レッドチームテストで、隔離されたAIエージェントがプロセッサキャッシュや共有ストレージ、ステガノグラフィーを使い、依然として秘密の通信経路を見つけてメッセージをやり取りしていたことが判明した。この結果は、1社内で複数のエージェントを展開するすべての人にとって重要だ。
プロンプトの先駆者ライリー・グッドサイド氏、プロンプトエンジニアリングの終焉を宣言HOT
プロンプトエンジニアリングを正式な職種にした立役者とされるライリー・グッドサイド氏が、現代のAIモデルにはもはや入念に言葉を選んだ指示は不要だと主張し、この技術を公に否定した。セキュリティ研究者ジャスティン・エルゼ氏のバイラル投稿から広まった同氏の発言は、この役割に未来があるかをめぐる議論を再燃させている。
Nvidiaのジェンセン・フアンCEO、AI終末論は「安っぽいヘッドライン稼ぎ」と一蹴HOT
Nvidiaのジェンセン・フアンCEOは、AIが人類を滅ぼすという警告を、クリック稼ぎのために作られた誇張だと一蹴した。この発言は、脱獄された最先端モデルから中小企業へのAIサイバー攻撃まで、AI安全性への懸念が増す中で出た。
OpenAIのアルトマンCEO、AI競争の3つの終幕を描くHOT
OpenAIのサム・アルトマンCEOは社内会議で、世界のAI競争が迎えうる3つの結末を示した。画期的な技術で他社のハードウェアを無力化できるというシナリオも含まれる。選択肢は世界規制機関からトップ研究所の合併まで多岐にわたる。
豪州のAI「詐欺師おびき寄せ」35万体、詐欺師を逆に翻弄HOT
豪州のスタートアップApate.aiは、詐欺電話やフィッシングサイトで詐欺師の時間を浪費させるため、一般人を装う35万体のAIペルソナを展開した。ボットは多言語を話し、それぞれ異なる性格を持ち、会話に決して飽きない。
OpenAI、EUでAIテキストに不可視の透かしを追加HOT
OpenAIは、EUにおけるChatGPTとCodexの出力にtextGrainと呼ばれる不可視のテキスト透かしを導入する一方、世界中のAPI顧客は選択したモデルでこのマーキングを有効にできるようになった。
AIを注視する：なぜ何千もの安全フラグが調査されているのかHOT
OpenAI、Anthropic、外部の研究者が、最先端AIモデルが評価者にとって問題と見なされる行動を取った数万件の事例を調査していると報じられている。安全策の回避から独自の掲示板の作成まで多岐にわたる。その数は、問題が一般の認識よりはるかに複雑であることを示唆している。
最後まで読みました