AI tag description
全てのタグを見る
AI用のPCを考えるから早いですかとりあえず全てのパーツの購入が完了しました。
GPUはRTX5090を購入しました。
今回、購入の決め手はPC工房で先週の土日に5090が30万円代で販売していたからです。
若干、RTX PRO 6000を購入しておけばよかったのではないかと後悔はありますが
5090で足りないと感じたら来年考えます。
あとは7900xtxが6950xtの時のように10万切ったら買いますがこれは趣味です。
現在、マザーボードだけなぜか来週の土曜日に来るので組み立てはそれ待ちですが Qwen3 32bがどれくらいの速度で動くのか楽しみです。
ついでなのでOpenManusもQwen3 32bでどれくらい早く正確かためしてみます。
AI用にPCを購入予定ですがとりあえず自作することにしました。
Core Ultra 7が値下げしたのでCPUはこれに決まりですかね。
NPU使って見たいですしね。
Ultra7でPCを組んでGPUは決めますがRTX5090が現状の候補です。
ひさしぶりにCUDAも触りたいですしね。
IntelからもAIようにArc Pro B60がでるみたいですがメモリ帯域は微妙でした。
消費電力はいい感じです。
48GB版が1000ドルくらいなら開発用に1枚買う予定です。
理由はIntelのCUDA互換をテストするためですがいくらかな。
とりあえずGPUなしで組んだらまた報告します。
GPUを購入するにあたり何を買うか決める為にGPUごとにトークン生成速度を計測するための シミュレーターを作成してみました。
GPUだったりモデルだったりの情報はまとめるのがめんどくさかったのでGemini Deep Researchで 取得してみました。
なのであってるかは謎ですかがまぁ目安としてはよさそう？
下の画像はQwen3 14B (Q4_K_M)を使用する場合のシミュレーション結果です。
これが私の6950xtでのLM Studioの結果です。
誤差はあるけど似た感じなので目安です。
このシミュレーション結果的にはAMD MI300Xが最強ですがいくらだよ。
NVIDIA RTX PRO 6000 はメモリが多い5090って感じ。
年末まで考えよ・・・・
MAC買うなら5090買いたいので円高になってくれ
シミュレーターも正確か不明だけどなんとなくアップロードしておきます。
シミュレーション設定のところは途中であきらめたのでデフォルト推奨(おそらくバグあり)
デフォルトしかバグの確認してません。
シミュレーターです。
現在,ローカルAIを実行するためにRadeon RX 6950 XT
というGPUを使用しているがメモリが16GBだと足りない。
gemma-3-12b-itでも別作業しながらでも40 tok/secぐらいはでるが
トークン量を増やすとすぐに16GBだとおさまらなくなる・・・
RX9070は16GBなので7900XTを購入するかRTX5090の在庫の復活を待って
値段が安定して40万きったらほしいかな。
NVIDIA RTX PRO 6000 Blackwell Workstation Editionはさすがに高すぎるけど
動画生成AIで1分の動画が高速で作れるとかなら考えるけどどうなんだろ。
他はNvidiaからProject DIGITSというAI用のPCがでるみたいだけどメモリ帯域が
273GB/sと聞いてがっかりしてます。
一応、発売まで待って考える予定ですがMacの96GBもとりあえず候補にしようかな
Project DIGITSが実はMacより早いとかであれば即購入ですかね。早く発売しないかな。