MoEの帯域制御でVRAM節約する技術か、ローカルAI勢のVRAM争奪戦がさらに熱くなりそう
てことはもっと半導体が上がるってこと!
後で読みたい。自宅PCで巨大AIが高速動作? ノートPCで350億、プロ向けGPU1枚で753
自宅PCで巨大AIが高速動作? ノートPCで350億、プロ向けGPU1枚で7530億パラメータのAIモデルを非公式量子化なしで動かす無償ツール「FreeToken」など生成AI技術5つを解説(生成AIウィークリー) | テクノエッジ TechnoEdge
MoEの帯域制御でVRAM節約する技術か、ローカルAI勢のVRAM争奪戦がさらに熱くなりそう
てことはもっと半導体が上がるってこと!
後で読みたい。自宅PCで巨大AIが高速動作? ノートPCで350億、プロ向けGPU1枚で753