GPUのトークン生成比較シミュレーター
· 約2分
GPUを購入するにあたり何を買うか決める為にGPUごとにトークン生成速度を計測するための シミュレーターを作成してみました。
GPUだったりモデルだったりの情報はまとめるのがめんどくさかったのでGemini Deep Researchで 取得してみました。
なのであってるかは謎ですかがまぁ目安としてはよさそう?
下の画像はQwen3 14B (Q4_K_M)を使用する場合のシミュレーション結果です。
これが私の6950xtでのLM Studioの結果です。
誤差はあるけど似た感じなので目安です。
このシミュレーション結果的にはAMD MI300Xが最強ですがいくらだよ。
NVIDIA RTX PRO 6000 はメモリが多い5090って感じ。
年末まで考えよ・・・・
MAC買うなら5090買いたいので円高になってくれ
シミュレーターも正確か不明だけどなんとなくアップロードしておきます。
シミュレーション設定のところは途中であきらめたのでデフォルト推奨(おそらくバグあり)
デフォルトしかバグの確認してません。
シミュレーターです。