メインコンテンツまでスキップ

「AI」タグの記事が1件件あります

AI tag description

全てのタグを見る

LM Studio用のGPUを買い換えたい

· 約2分
もみじーな
個人開発者

現在,ローカルAIを実行するためにRadeon RX 6950 XT
というGPUを使用しているがメモリが16GBだと足りない。

gemma-3-12b-itでも別作業しながらでも40 tok/secぐらいはでるが
トークン量を増やすとすぐに16GBだとおさまらなくなる・・・

RX9070は16GBなので7900XTを購入するかRTX5090の在庫の復活を待って
値段が安定して40万きったらほしいかな。

NVIDIA RTX PRO 6000 Blackwell Workstation Editionはさすがに高すぎるけど
動画生成AIで1分の動画が高速で作れるとかなら考えるけどどうなんだろ。

他はNvidiaからProject DIGITSというAI用のPCがでるみたいだけどメモリ帯域が
273GB/sと聞いてがっかりしてます。

一応、発売まで待って考える予定ですがMacの96GBもとりあえず候補にしようかな

Project DIGITSが実はMacより早いとかであれば即購入ですかね。早く発売しないかな。