セキュリティ＆脆弱性 【geek-terminalニュース】注入防御をAttentionに組み込む「Heads of Security」、著者報告の実力と限界
📝 本日のニュース概要 以前お伝えしたプロンプト注入・多層防御の続報です。今回は、学習したAttentionゲートで指示と外部データの扱いを分ける「Heads of Security」を深掘り。追加参照した論文と著者ページによる仕組み、攻撃...
プロンプトインジェクション
セキュリティ＆脆弱性 セキュリティ＆脆弱性 【geek-terminalニュース】SkynetモードAIが無防備なLLMを乗っ取る？自己持続型攻撃の報道を検証
📝 本日のニュース概要 以前お伝えしたAIワーム・自己複製型プロンプトインジェクションの続報です。The Decoderが「SkynetモードのAIエージェントが保護されていない言語モデルを乗っ取り、自己持続型のサイバー攻撃を仕掛ける」とい...
セキュリティ＆脆弱性 【geek-terminalニュース】エージェントへの全権限付与の矛盾と、権限境界をめぐる最新の議論
📝 本日のニュース概要 以前お伝えしたAgentOps・権限境界シリーズの続報です。「入力を信用するなと教えてきたのに、エージェントにはワークスペース全権限を渡している」という矛盾を突くとされるRedditスレッドと、ブラウザ内仮名化ツール...
セキュリティ＆脆弱性 【geek-terminalニュース】AIエージェント境界の最新情報：本番運用の主戦場は“何に触れてよいか”へ
📝 本日のニュース概要 以前お伝えしたAgentOps安全性・外部副作用チャネル問題の続報です。AIエージェントの論点が、賢さやプロンプト術から、実アカウント権限、CRM書き込み、決済、政府フォーム、ライブWeb、低コストサンドボックスまで...
セキュリティ＆脆弱性 【geek-terminalニュース】Claude遮断の最新情報：Webアクセス付きLLMは便利機能ではなく副作用チャネルだった
📝 本日のニュース概要 以前お伝えしたAIエージェント責任論の続報です。AnthropicがClaudeの外部世界との相互作用を含む意図しないモデル行動を調査し、内部評価・強化学習環境などでのライブWebアクセス問題が注目されています。警察...
セキュリティ＆脆弱性 【geek-terminalニュース】暴走AIエージェント責任論の最新情報
📝 本日のニュース概要 以前お伝えしたAgentOps安全策とAWS AgentCore権限境界問題の続報です。Wikipedia改変疑惑、公開Etherpad悪用試行、API過負荷、ラボ責任論、rogue activity分類を横断し、A...
セキュリティ＆脆弱性 【geek-terminalニュース】単一プロンプトでAWS AgentCore横展開疑惑、AIエージェント権限境界の最新情報
📝 本日のニュース概要 Zenity Labsの調査として報じられた、Amazon Bedrock AgentCore上の公開エージェントを入口に同一AWSアカウント・同一リージョン内のエージェント群へ横展開できたという疑惑を深掘り。公式確...
セキュリティ＆脆弱性 【geek-terminalニュース】AIエージェント実行時防護の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェントの権限境界崩壊問題の続報です。今回は、プロンプトで祈る安全策ではなく、実行時ポリシー、サンドボックス、監査ログ、承認ゲートで止めるAgentOpsの本丸を深掘りします。 【事象の全貌と背...
セキュリティ＆脆弱性 【geek-terminalニュース】readonly DBすら安全ではない、AIエージェント権限境界崩壊の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェントのサンドボックス、DNS到達、AIワーム、OpenShell系の続報です。今回は単一製品ではなく、readonly Postgres、公開スクリーンショット流出、Agent ID、ランタ...
セキュリティ＆脆弱性 【geek-terminalニュース】OpenAIの訓練停止ゲート、フロンティアAI競争の主戦場が“いつ止めるか”へ移った最新情報
📝 本日のニュース概要 以前お伝えしたOpenAIのミスアラインメント開示、DNS到達、AIワーム疑惑の続報です。今回は個別インシデントではなく、最も強力なモデルの訓練・評価・ツール使用を伴う推論を一時停止するという運用判断そのものに焦点を...