Linear Attention

【geek-terminalニュース】SSOG-AttentionはSDPAの壁を壊すのか？長距離リコール問題に刺さる“怪しいが重要”な新注意機構

📝 本日のニュース概要 SDPAの全トークン対スコアリングを、少数の分離可能ガウス分布で置き換えるというSSOG-Attention案がコミュニティで話題に。公式な論文・実装・大手確認は未確認ながら、線形注意のlong-range reca...

【geek-terminalニュース】SANA-Video系で見えてきた“動画生成制御”の最新情報

📝 本日のニュース概要 SANA-Videoの線形注意による効率化と、GraphVidとして語られる制御志向の潮流を整理。見栄え競争から、ローカル実行・制作パイプライン統合・操作性へ焦点が移るポイントを深掘りします。【事象の全貌と背景】今...