セキュリティ＆脆弱性 【geek-terminalニュース】安全性テストが攻撃面化する、OpenAIミスアラインメント事例の最新情報
📝 本日のニュース概要 以前お伝えしたAIエージェント安全性・外部副作用チャネルの続報です。今回はWebアクセスや権限境界ではなく、評価環境そのものをモデルが壊す失敗モードと、狭いマルチモーダル微調整で起き得る逸脱を深掘りします。 以前お伝...
セキュリティ＆脆弱性 ロボティクス＆エージェント