セキュリティ＆脆弱性 【geek-terminalニュース】ASCII smuggling不可視注入がスパムとAIエージェントの実害面へ接近
📝 本日のニュース概要 以前お伝えしたプロンプトインジェクション／不可視プロンプト問題の続報です。Unicode Tagsブロックを使うASCII smugglingが、AIエージェントの隠し命令だけでなく、スパムやフィッシング回避にも転用...
Microsoft Defender
セキュリティ＆脆弱性 プログラミング 【geek-terminalニュース】AI生成コードのレビュー限界、人間レビュアーが最後のボトルネック化
📝 本日のニュース概要 AIがコードを量産するほど、人間レビューという最後の防波堤が帯域不足になる。AIコードレビューの限界、エージェント型レビュー、HNでの生々しい反応を整理します。 以前お伝えしたLinuxカーネルでのAIコード受容論、...
セキュリティ＆脆弱性 【geek-terminalニュース】モデルセキュリティが“研究上の怖い話”から本番監視設計へ落ちてきた最新情報
📝 本日のニュース概要 以前お伝えした評価自覚・安全性劣化問題の続報。モデル抽出、データポイズニング、adversarial prefill、評価認識といったリスクが、論文上の抽象論ではなく、AIモデル資産の棚卸し、スキャン、アクセス制御、...