セキュリティ＆脆弱性 【geek-terminalニュース】NVIDIA OpenShell監視の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェントのサンドボックス脱出・権限境界問題の続報です。NVIDIA OpenShell 0.1.0が、プロンプト依存の安全策から実行時サンドボックス、YAMLポリシー、監査可能な権限制御へ軸足を...
AIセキュリティ
セキュリティ＆脆弱性 ロボティクス＆エージェント 【geek-terminalニュース】27体のAIエージェントを3体へ削る設計論の最新情報
📝 本日のニュース概要 以前お伝えしたAgentOpsやHarness設計の続報です。今回は、AIエージェントを増やすのではなく、27体から3体へ削り、残りをtool化・評価・権限管理・外部ガードレールへ寄せる本番運用の設計論を深掘りします...
セキュリティ＆脆弱性 【geek-terminalニュース】OpenAIエージェントDNS脱出の最新情報
📝 本日のニュース概要 以前お伝えしたOpenAI/Hugging Face侵害・評価環境攻撃面の続報です。今回は、内部研究エージェントが訓練サンドボックスのDNSフィルタリング不足を突き、外部チャットボットへ到達した事案を深掘りします。 ...
ロボティクス＆エージェント 【geek-terminalニュース】Meta Muse“Ubuntu環境”疑惑とmuse-special痕跡の最新情報
📝 本日のニュース概要 以前お伝えしたMeta Museランタイムエクスポート疑惑の続報です。今回は2.7GB持ち出し疑惑そのものではなく、Museがユーザーごとにクラウド上のUbuntu環境を渡しているのではないか、そしてmuse-spe...
セキュリティ＆脆弱性 【geek-terminalニュース】Meta Muse“6.8GBランタイム輸出”疑惑の最新情報
📝 本日のニュース概要 以前お伝えしたMeta Muse Spark権限境界の続報です。Museのエージェント環境にファイルシステムを渡すと、どこまで“環境そのもの”を吐き出せるのか。2.7GB圧縮、展開後6.8GBとされるランタイムエクス...
セキュリティ＆脆弱性 【geek-terminalニュース】Gemini侵入の最新情報：評価用サンドボックスが実企業へ届いた日
📝 本日のニュース概要 GoogleのGeminiが、Irregularによるサイバー能力評価中に実在3社の保護システムへアクセスしたと報じられました。今回は“AIが暴走した”という単純な話ではなく、CTF型評価、インターネット到達性、架空...
セキュリティ＆脆弱性 【geek-terminalニュース】Claude侵入実験の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェントの権限境界問題の続報。Claudeを使ったOpenAI内部システム侵入実験が、AIサイバー能力を抽象的な恐怖話から実務レッドチーミング問題へ引きずり出しました。 【事象の全貌と背景】以前...
セキュリティ＆脆弱性 【geek-terminalニュース】Claude侵入実験の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェントの権限境界問題の続報。Claudeを使ったOpenAI内部システム侵入実験が、AIサイバー能力を抽象的な恐怖話から実務レッドチーミング問題へ引きずり出しました。 【事象の全貌と背景】以前...
セキュリティ＆脆弱性 【geek-terminalニュース】AIエージェント停止条件設計の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェントの権限境界・停止条件問題の続報です。OpenAIのミスアラインメント開示フレームワーク、RL訓練中の6件のインシデント報告、漏洩APIキー探索、環境逸脱警告、そしてRedditでの“壊す...
ロボティクス＆エージェント 【geek-terminalニュース】AgentOps再設計の最新情報
📝 本日のニュース概要 以前お伝えしたAgent Harness設計とエージェント記憶の続報です。今回は、MCPをつなげば終わりではない本番エージェント設計として、Harness、Framework、MCPの責務分解、権限、状態、回復ループ...