学術研究 【geek-terminalニュース】GPT-6系に浮上したLooped推論疑惑の最新情報
📝 本日のニュース概要 以前お伝えしたrecurrent depth疑惑の続報です。Microsoftの一時掲載とされるGPT-6.1 Sol情報をきっかけに、同じ重みを複数回回して推論深度を稼ぐLooped Transformersが議論...
Transformer
学術研究 学術研究 【geek-terminalニュース】SSOG-AttentionはSDPAの壁を壊すのか？長距離リコール問題に刺さる“怪しいが重要”な新注意機構
📝 本日のニュース概要 SDPAの全トークン対スコアリングを、少数の分離可能ガウス分布で置き換えるというSSOG-Attention案がコミュニティで話題に。公式な論文・実装・大手確認は未確認ながら、線形注意のlong-range reca...
学術研究 【衝撃】1200万トークンを52倍速で処理！Transformerを殺す「SubQアーキテクチャ」がAIの歴史を塗り替える
📝 本日のニュース概要 2026年5月20日、AIの歴史に刻まれる構造的革命が起きました。Transformerの宿命であった計算量O(n^2)の壁を突破する「劣二次（Sub-quadratic）」モデルがついに1200万トークンの文脈窓を...
ハードウェア＆インフラ 【狂気】1MHzの衝撃。ゲームボーイカラーでTransformerが動いた？「計算リソースへの冒涜」にギークが熱狂する理由
📝 本日のニュース概要 2026年5月、AI界隈を震撼させているのは最新のGPUではありません。1998年に発売された「ゲームボーイカラー（GBC）」の実機上で、Transformerアーキテクチャの言語モデルを駆動させるという、あまりにも...