RTX PRO 6000を手に入れても何も変わらなかった
最近はこのゴミブログを更新するのがめんどくさくなってきたのですが
ドキュザウルスで作ったのを後悔しながら書きます。
RTX PRO 6000搭載PCをBTOで注文したらすぐ届いたのでびっくりですが
今はBTOのほうがコスパが謎にいいですね・・・
なぜ購入したか
RTX 5000S シリーズがでない可能性があるのとRTX 6000シリーズも延期の可能性があるからですね。
追加で言うならIntel Arc Pro とどっちがコスパがいいかなと思ったからです。
外観
BTOなのでこれ以上はないです。
箱は少しほしかったかも
BTOの欠点ですね
Qwen3.5 122b A10Bの速度計測
やりたかったのがこれだけです。
Youtubeに少し前にあげたやつです
RTX PRO 6000
120token/sってところです。
こいつなんでRTX PRO 6000をWindowsで動かしてるんだって思わないでね
Intel Arc Pro を合計80GB
40token/sってところです
結局何も変わらなかった
96GBを手に入れても動かすモデルはQwen3.6 27Bが無難ですね。
Q8もいらないです
Q4と今はほぼ差はなし
結局使えるモデルがQ4レベルだと120bクラスに制限されます。
ってことは選択肢が現状は存在しない
気になったこと
MTPで少しRTX 5090と比較すると伸びないですね
20%くらい差がでるのでなにか処理の差がでてるのかな？
おすすめな人は?
おすすめな人は間違いなくRTX PRO を2枚積み以上できる人です。
それ以外は買ってもメリットなし
120Bとさらに画像生成も動かせますが私はＰＣは分散させたいのでメリットなし。
これで3枚済みでもして397Bをローカルで動かせる予算があるひとならありかな
おすすめのVRAMは？
おすすめのVRAMは32GBです。
現状 Qwen3.6 27BもGemma4 31bなども基本的にVRAM 32GBにはのります。
ARC PRO B70かR9700を買った方がいいです。
MacのM5 Ultraも今年でるならそっちかな
DGX Stationがほしい
将来的に引っ越したら(何回も言ってるけど)
DGX Stationあたりが買いたいかな。
これは5年後くらいのモデルがほしいです。
おそらくそのころにはローカルAIで十分になります。
最後に
RTX PRO 6000は個人購入はおすすめしないです。
クラウド使ってください。
そもそも現在はローカルAIやるメリットなんかないです。
私が買ってる理由はハードが好きなだけなのでほぼ趣味です。
今後は32GB,24GBにおさまるモデルはRTX 5090かB70,B60でテストして120BクラスはRTX PRO 6000で速度だけテストします。
あと書いておきますがもしローカルAIで十分
全部ローカルAIに仕事まかせてますみたいな話があればなくなる仕事か嘘かですね
SNSとかにめっちゃいますけどどんな仕事だよ
文字お越しとか翻訳とか書類整理か？