ハードウェア＆インフラ 【geek-terminalニュース】IBMサブ1nmチップ技術、AI推論の電力壁に半導体側から殴り込む
📝 本日のニュース概要 IBMが2026年6月25日に発表した世界初とされるサブ1nmチップ技術を深掘り。nanostack、0.7nm世代トランジスタ、爪サイズ1000億トランジスタ級という主張が、AI推論・ローカルLLM・データセンター...
GPU
ハードウェア＆インフラ ローカルLLM 【変態的最適化】1兆パラメータモデルを「普通のGPU」で秒間1000トークン駆動!? XiaomiのMiMoとTileRTがVRAMの限界を粉砕した衝撃的な噂を解説
📝 本日のニュース概要 前日に初期情報をお伝えした、超巨大モデルを普通のGPUで動かす技術「TileRT」。今回はXiaomiの「MiMo」技術との驚異的な統合アーキテクチャの続報が舞い込んできました。富豪的なエンタープライズ用ハードウェア...
ローカルLLM 【物理法則崩壊？】1兆パラメータLLMをローカルGPUで爆速駆動！驚異の並列投機エンジン『TileRT』の噂を徹底解剖
📝 本日のニュース概要 データセンターを占有するはずの「1兆パラメータ（1T）」超巨大AIモデルを、一般向けGPU（コモディティハードウェア）上で「秒間1000トークン」でぶん回すという、物理法則を疑うレベルの極限最適化ハックが浮上！並列投...
ハードウェア＆インフラ 【geek-terminalニュース】NVIDIA依存脱却へ？個人開発者が狂気の「ポータブルGPU命令セット(ISA)」をフルスクラッチ設計、低レイヤーギーク歓喜の噂
📝 本日のニュース概要 今回は、アーキテクチャマニュアルを読み漁った個人開発者が、Nvidiaなどの大手ベンダーに依存しない「ポータブルな自作GPU命令セット（ISA）」をフルスクラッチで設計したという、低レイヤーのロマンと狂気が詰まったプ...
ローカルLLM 【geek-terminalニュース】旧世代V100で27Bモデルが秒間1000トークン!? 投機デコーディングを極限まで研ぎ澄ました「MTP並列最適化」の変態的ハックがRedditで話題に
📝 本日のニュース概要 2026/05/22にお伝えした「Qwen3.6 35Bが110 tps」という驚異の記録からわずか数日。今度は、骨董品とも言われかねない旧世代のエンタープライズGPU「NVIDIA V100」を使い、27Bクラスの...
ローカルLLM 【衝撃】12GB VRAMで35Bモデルが110 tok/s！？ik_llama.cppが物理限界を突破した「思考の速度」超えベンチマークを徹底解説
📝 本日のニュース概要 2026年5月17日に報じたllama.cppへのMTP統合。その「理論上の爆速」が、ついに実ハードウェアでの検証結果として結実しました。ミドルレンジの代名詞12GB VRAM環境（RTX 3060/4070等）で、...
ハードウェア＆インフラ 【geek-terminalニュース】RTX 4090 48GB物理改造！NVIDIAの制限をねじ伏せる魔改造の正体
📝 本日のニュース概要 2026年、AIモデルの巨大化とRTX 5090の高騰予想が重なる中、ギークたちの飢餓感はついに「物理的な破壊と再構築」へと至りました。中国のハードウェアハッカー界隈から流出した、RTX 4090のVRAMを24GB...
ローカルLLM 【geek-terminal】MoEオフロードの「呪い」が解けた！Prefill加速で巨大LLM常用時代へ
📝 本日のニュース概要 2026年4月19日、ローカルLLM界隈を震撼させた「--n-cpu-moe」フラグの発見。VRAM容量を超えた巨大なMoEモデルを動作させる魔法の杖でしたが、そこには「プロンプト処理（Prefill）が地獄のように...
プログラミング 【geek-terminal】NVIDIAの狂気！RustでGPUカーネルを直接焼く公式コンパイラ「cuda-oxide」降臨
📝 本日のニュース概要 NVIDIAが突如公開した「cuda-oxide」は、Rustコードを直接PTX（GPUアセンブリ相当）へ変換する実験的コンパイラバックエンドです。2026年4月に報じた「Python強制移行」というNVIDIAの戦...
ハードウェア＆インフラ 【変態ハック】GPUの動画エンジンを「PCIe帯域の拡張」に転用!? 物理限界を超える狂気のハック『torch-nvenc-compress』の全貌
📝 本日のニュース概要 2026年、AI開発者たちの間で「物理的なPCIe帯域の壁」を破壊する、あまりにも変態的な手法が話題となっています。その名も『torch-nvenc-compress』。本来は動画のエンコードに使用する専用回路「NV...