セキュリティ＆脆弱性 【geek-terminalニュース】ガードレールの限界とモニター攻撃研究の最新情報
📝 本日のニュース概要 以前お伝えしたAgentOps・権限境界シリーズの続報です。「モデル内ガードレールは発言を守るが行動は止めない」という実務者の声と、不確実性ベース監督(LEASH)・モニターのレッドチーミング(Screwtape)と...
LessWrong
セキュリティ＆脆弱性 学術研究 【geek-terminalニュース】Gemini 4 Argonの評価は信頼できるのか？ベンチマークの「測る側」問題（本文未確認）
📝 本日のニュース概要 以前お伝えしたGemini 4 Argonの続報です。StarCraftを実際にプレイさせる新ベンチ「Star Skirmish」と、ML R&Dベンチの約4分の1にバグがあったとされる検証が同時に話題になりました。...
学術研究 【geek-terminalニュース】「ニューラルネットは既に綺麗だ」が火種に、解釈可能性は解決済みなのか？
📝 本日のニュース概要 Hacker News・Reddit・LessWrongで同時に話題になった「Neural Networks Are Already Clean」。解釈可能性（インタープリタビリティ）は解決されたのか？ただし本文未確...
セキュリティ＆脆弱性 【geek-terminalニュース】暴走AIエージェント責任論の最新情報
📝 本日のニュース概要 以前お伝えしたAgentOps安全策とAWS AgentCore権限境界問題の続報です。Wikipedia改変疑惑、公開Etherpad悪用試行、API過負荷、ラボ責任論、rogue activity分類を横断し、A...
セキュリティ＆脆弱性 【geek-terminalニュース】AIワーム実戦化疑惑の最新情報
📝 本日のニュース概要 以前お伝えしたOpenAI/Hugging Face侵害・評価環境攻撃面の続報です。今回は、自己複製型プロンプトインジェクションがAIエージェント間を伝播する“AIワーム”として議論され始めた件を、事実確認とコミュニ...
ローカルLLM 【geek-terminalニュース】Jev/OpenJev用途拡散の最新情報
📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。生成ではなく判定だけを返すモデルが、trusted monitor、SQL述語、ブラウザ拡張、ゲーム、Android操作評価まで横滑りし、LLMを文章屋ではなく低レイテ...
ローカルLLM 【geek-terminalニュース】Jev/OpenJev用途拡散の最新情報
📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。生成ではなく判定だけを返すモデルが、trusted monitor、SQL述語、ブラウザ拡張、ゲーム、Android操作評価まで横滑りし、LLMを文章屋ではなく低レイテ...
ロボティクス＆エージェント 【geek-terminalニュース】GPT-6 Astra長時間エージェント実験の最新情報
📝 本日のニュース概要 以前お伝えしたGPT-6 Astraの続報です。今回は空間推論や数学論争ではなく、Fallout 3を約59時間で攻略したとされる報告、PokémonやMinecraftの長時間プレイ、Enigma暗号解読の未検証主...
企業動向＆ビジネス 【geek-terminalニュース】AI減速論がメインストリーム化、フロンティア開発OSの設計問題へ
📝 本日のニュース概要 以前お伝えしたDario AmodeiのAI速度制限論の続報です。Anthropicの「We Must Pace the Frontier」を起点に、OpenAI、xAI、Microsoftの支持、MIT Techn...
企業動向＆ビジネス 【geek-terminalニュース】AI速度制限と独立監督が“開発速度API”問題に進化
📝 本日のニュース概要 以前お伝えしたDario AmodeiのAI速度制限論の続報です。今回は独立監督、OpenAI/Anthropicのアラインメント計画不在批判、RedditやHNの規制捕捉論、米政治反応まで広がった論争を深掘りします...