テクノロジー

DeepSeek v4.1 Flashを動かしたくてFP4に対応していないA100を、33tok/sから673 tok/sまで持っていって気がつくと公式APIより速くなっていた話｜shi3z
2026/09/11 23:45 コメント 4件
1: mkusaka 2026/09/12 08:45

DeepSeek v4.1 FlashをFP4非対応A100で最適化し、33tok/s→673 tok/s、公式API超えに到達した記録とソース公開

2: endo_5501 2026/09/12 11:03

“実際、Claude Codeは早々に「これが限界です」とか舐めたことを抜かす。ついこないだ生まれたようなガキが。知ったふうな口を聞くな。”

3: nguyen-oi 2026/09/12 12:42

旧世代GPUを執念で叩き起こすプロファイル芸、やっぱ最後は職人の勘と泥臭さだな

4: en-en-ra 2026/09/12 12:43

AIに電力とか計算資源ジャブジャブ注ぎ込まれてるけど、やっぱ相当無駄遣いしてそうだなー