学術研究 【geek-terminalニュース】報酬関数デバッガーとReward Hacking検出の最新情報
📝 本日のニュース概要 RL訓練中のreward hackingを、事後ログではなく報酬関数そのものから検出・診断する発想がAI安全性コミュニティで注目されています。LessWrongで議論されたnegated reward hacking...
AI
学術研究 ロボティクス＆エージェント 【geek-terminalニュース】AIエージェント観測の最新情報：eval harness・権限・コスト・失敗ログが本番運用の主戦場へ
📝 本日のニュース概要 以前お伝えしたモデル統治・ゼロトラスト権限管理の続報。今回は、AIエージェントを本番で使うための評価ハーネス、観測可能性、権限、メモリ、ツール実行、コスト計測、失敗パターン検出に焦点を当てます。 【事象の全貌と背景】...
AIツール＆サービス 【geek-terminalニュース】Mistral OCR 4でPDF RAGの入口が構造化レイヤー化する最新情報
📝 本日のニュース概要 以前お伝えしたBaidu Unlimited OCRの続報。今回はMistral OCR 4を中心に、OCRが単なる文字起こしから、引用付きJSON、構造化出力、RAG投入前の文書理解レイヤーへ進化している流れを深掘...
セキュリティ＆脆弱性 【geek-terminalニュース】Webデータ汚染網がAI検索・RAGの現実認識を曲げる時代へ
📝 本日のニュース概要 以前お伝えしたモデル抽出・ポイズニング問題の続報。今回はモデルそのものではなく、AIが参照するWebデータ基盤、検索インデックス、RAG用ナレッジソースが攻撃面になりつつある問題を深掘りします。 以前お伝えしたモデル...
セキュリティ＆脆弱性 【geek-terminalニュース】モデルセキュリティが“研究上の怖い話”から本番監視設計へ落ちてきた最新情報
📝 本日のニュース概要 以前お伝えした評価自覚・安全性劣化問題の続報。モデル抽出、データポイズニング、adversarial prefill、評価認識といったリスクが、論文上の抽象論ではなく、AIモデル資産の棚卸し、スキャン、アクセス制御、...
AIツール＆サービス 【geek-terminalニュース】Baidu Unlimited OCRの最新情報
📝 本日のニュース概要 Baiduが公開したUnlimited OCRを解説。PDFや帳票をLLMに食わせる前処理を、ページ単位の分割処理からワンショット長文書解析へ動かす可能性を掘り下げます。 【事象の全貌と背景】BaiduのUnlimi...
セキュリティ＆脆弱性 【geek-terminalニュース】LLMプロンプトインジェクションの正体は「役割の混乱」だった！単なるハックを超える根本的脆弱性の全貌
📝 本日のニュース概要 今回は、LLM界隈で常に問題視されてきたプロンプトインジェクション（PI）の真のメカニズムに迫ります。単なる文字列のハックではなく、LLMが陥る「役割の混乱（Role Confusion）」という根本的な認知のバグと...
商用巨大LLM 【geek-terminalニュース】Claudeが遂に「身分証と顔写真」を要求！AnthropicのID検証導入でAI界隈に吹き荒れる監視社会へのパラノイア
📝 本日のニュース概要 Anthropicが一般ユーザー向けClaudeに政府発行IDとライブ自撮りによる本人確認システムを導入！2026年7月8日から施行されるこの新たな規約変更は、単なるボット対策なのか、それともAI利用における国家レベ...
ロボティクス＆エージェント 【geek-terminalニュース】ハルシネーションを極限まで排除！7つの特化型AIエージェントが連携する「Data2Story」の衝撃
📝 本日のニュース概要 今回のgeek-terminalでは、CSVデータから完全自律的に検証可能なWebニュース記事を構築するマルチエージェント型AIフレームワーク「Data2Story」に迫ります。単一モデルへの依存から脱却し、事実確認...
セキュリティ＆脆弱性 【geek-terminalニュース】北朝鮮ハッカー「Sapphire Sleet」がAI開発環境を直撃！Mastra AIを狙ったnpmサプライチェーン攻撃の全貌
📝 本日のニュース概要 Microsoft Threat Intelligenceの調査により、急成長中のAI開発フレームワーク「Mastra」を標的とした、北朝鮮国家支援ハッカーによる大規模なサプライチェーン攻撃が発覚しました。AI開発者...