「LM Studio」タグの記事が9件件あります

※今回、購入理由は低消費電力なデュアルGPUをテストするためです。
ローカルAIはまだ特別な理由がない限り勧めしません(金の無駄)(画像生成は例外 5060ti 16GBが入門におすすめ)
あとLM Studio用とは書いてますが多分,llama.cppかOllamaで運用します。

とりあえずPCパーツは買い揃えました。

そしてArc Pro B60 24GBは1枚だけこの前に購入しましたがくる気配はありませんね。

できれば年内来てほしいです。

年末に遊ばせてください・・・

テストしてないので抵抗がありますが来週も来ないようならもう1枚追加注文はする予定ですが本当に買ってよいものか中古のRTX3090を2枚買った方が幸せだったのではないか7900xtxをもう1枚買えばよかったのではないか？

しかしもうパーツは買い揃えました止まることなどできないのです。

どうせ7900xtxもRTX3090もx8/x8だと処理能力落ちますし・・・

そして買ったものが以下です・・・

前のプランと少し変わってます。

買ったものリスト​

合計268,502円でした。(プラス120,000になる予定)

6月頃組んだUltra 7 265K PCと比べてもやっぱりメモリが高いので少し高く感じますね。

これでもクーポンとか色々適用したんですけどね・・・・

組み立てはGPUが届くまでに適当にやっておきますが次回は組んだからテストするぞで始まることを祈ります。

早く届いてくれーーー

一応、写真貼っておきます。

組み立てだけしました​

2日後くらいに組み立てだけしました。
ケースとマザーボードの相性が多分悪かったですが無事biosまで確認しました。
PCの上に使わずにおいてたHuionのディスプレイを使ったのでほこりで画面が汚いですね・・・
グリスも結局使わなかったです。
MSIのファンに最初から塗ってあった分で十分ひえてそうです。
画像ではCPUファンがOPTにささってますが気にしないで・・・ あとケースに背面ファンがなかったので後で追加します。

タイトル通りArc Pro B60 24GBを1枚だけ購入しました。

本当は嫌ですが予約購入です・・・・

果たしていつ入荷されるのか

本当は2枚欲しいのですがちょっと構成を考え直す可能性を考慮してとりあえず1枚予約購入です。

ケースも買いなおすことにしました。

結局、あのケースは2スロット厚でギリギリ収まったとしてもおそらく廃熱で死にます。

ごめよHyte お前は倉庫で眠っててくれ

現在、考えているPC構成は以下の2パターンに絞りました。

電源はもしかしたら850か1000wにするかもしれないので合計は目安ですね。

まだ、電力スパイクとかもちゃんと考えてないので・・・

足りはしてるはず。

Aプラン​

合計387,830円

Bプラン​

合計 369,000円

x8/x8対応のマザーがなさすぎてマザーボードは高くなりがちですね。

一応、Arc Pro B60 24GBをDualで運用を検討している方がいたら安いマザーボードは基本的にNGだと思っておいてください。

性能が落ちます。

また、CPUにも実は制限があります。Ryzenでの例ですが例えばGが付くモデルとかは避けるべきです。

理由はCPU自体が持っているレーン数が少ないため、2枚挿し時に制限がかかる可能性があります。(間違えている可能性はありますがリスクは捨てるべきです)

とりあえず6950xtを前のPCからもぎ取って動作テストはしたいかな。

あまりにもB60がゴミならやめて別を考えます・・・

一応,書いときます(特殊な理由がないならAPI使いましょう)

現在、RTX5090をAI生成もといゲームように使ってますが24時間365日起動しとくのは微妙なのとどうしてもゲーム中に使えないので構成を検討中です。

とりあえずArc Pro B60を年内に1枚買ってみる予定です。(在庫があれば)

私が今回,推論用PCの購入に検討したもの​

AMD Ryzen AI Max+ 395​

AMD Ryzen AI Max+ 395を買えばいいという話ですがこれは論外です。

中華のミニPCをAIサーバー用途に30万,40万払うのはさすがに怖すぎます。

gmktecのミニPCを過去にサーバーようにフル稼働させたときに1か月もたなったことがあるのでさすがにね・・・
(確かに交換してくれますがデータが吹き飛ぶ可能性があります。)

重要なのは中華ミニPCはサーバーではありません。(通常用途で使ってあげてください)

Corsair AI Workstation 300の日本発売を待ってましたが出る気配もないのであきらめです。
(そりゃ輸入してもいいですよ？ついてるWifiとかの技適がね)

NVIDIA DGX Spark​

NVIDIA DGX Sparkも検討しましたが発表時と話が違うぞ？
そのメモリ帯域速度で60万はなんかなと・・・

企業とか開発者じゃなく、個人でこれを買うならケチらずいっそメモリは少し減りますがNVIDIA RTX PRO 6000でも買ってください。

NVIDIA RTX PRO 6000​

5090より確かにメモリ量が3倍です。
ただそれだけです。
私がやりたいローカルAIでの動画生成がまだ5秒や10秒でしかも音声なしの状態でこれを買うメリットは存在しません。

まだ、次の世代と生成AIの進化を待つべきです。

絶対、2027年のRubin買った方がいいですよ。

私はSora2(OpenAIのPro)に課金をおすすめします。

Nvidia DGX Station GB300かH200​

Nvidia DGX Station GB300は高い高すぎる。
正直、将来的には検討の対象ですが価格以外に騒音と熱を処理できるスペースが現在、ありません。

車が買えるレベルのH200を買うにしても私がやりたいことリストをローカルAIがまだできないので暫くはAPIでいいかなというのが現状です。

買うならDELLとかのAIサーバーになりそう。

それまでに規制の少ない課金AIがでればそれで解決ですがSora2とか見てるとキャラクターとかストーリーとか制限が入りそう。

2026年発売予定のMac Studio M5 Ultra​

これは来年あたり買ってみる候補になります。
おそらくメモリ帯域が1TBくらいになります。
メモリ量も1tbにならんかな

そしてArc Pro B60 24GB​

今、ソフマップとかで約12万で販売が開始されてます。
安いです。
現在、売れ残りの7900xtxと確かに価格は変わらないですしメモリ帯域速度も遅いです。

しかし重要なのは消費電力とIntelということです。

IntelのGPUを買ったことがないのです。

買ってみます。

ただそれだけです。

10月に7900xtxが投げ売りされてたのですが開けてないのでがこれは飾っておきます。
私には6950xtを積んだ化石PCがまだあるのです。

検討中の構成と大失敗​

現在、検討中の構成は以下です。

どこを失敗しているか​

失敗したのはPCケースです。
実は何も考えずに10月にセールしていたのでB60用にY40 Songque Limited Editionを買ってしまいました。
このPCケース何が問題かわかる人にはわかります。

まず価格・・・ではないですね。

そうです、このケースはデザインを追求したPCケースである為にあることができません。

それがデュアルGPUです。

マザボにささらないのです1枚目すらライザーケーブル必須なのです・・・・・

ロープロはささりますね。

しかもこのPCケースを買った理由が既に2つフルプライスで去年買ってあったのですが1万円引きで公式で売ってたのと積みすぎてケースが取り出せないないというアホな理由です。

なんだよＰＣケース積みすぎって

転売ヤーではないですがそのうちPCたくさんHyteで組んで飾りたいと思い実はHYTE Y70 Silver Wolf Limited Editionもあと3台分あります。

見てくださいとてもきれいです(LEDは一部うざいので消しました)

ホタルエディションも1台ですが予約済ですよ？

仕方がないのでとりあえず１枚構成で組んでみる予定です。

Hyteさんには申し訳ないですが最悪、切断・・・はしないですがケースを変えるか考えます。

多分,箱にいれたまま積んである色んなPCケースだけでRTX PRO 6000が買えますね・・・・

床も抜けそう

LM Studioでgpt-oss-120bがギリギリ動作したので報告です。

私の環境

MoEっぽいので動くとは思いましたがまぁ使えなくはない速度でした。

一応,トークン速度(14.55token/s)でした。

長いコードを書かせてみましたが使えなくはないくらいの生成速度ですが他の30bなどのモデル速度と比較するとやっぱり生成時間が苦痛です。

文章生成だけならいいかもしれないですがコード生成だったり修正だと待ち時間がいやなので少なくとも80GB以上のメモリがグラボにあるならいいですがないならおとなしく30bかAPI使ったほうがでいいす。

モデルのロードも60GBを超えるのでメモリ帯域速度的にかなり遅かったです。

使えそうならメモリ増設しようかなと思ったけど今回はいいかな
(2枚刺しにしている理由はDDR5は4枚だと不安定になると聞いたから)

LMStudioでgpt-oss-20bを試してみました。

20bなのであまり期待はできませんがQwen3 Coderと比較したかったので前と同じプロンプトでテストです。

HTML, CSS, JSを使用して、2025年9月に開催される『Tech Innovation Summit』のウェブサイトを作成してください。イベント概要、スケジュール、講演者紹介、チケット購入ページを含み、モダンで革新的なデザインにし、カウントダウンタイマーも実装してください。

gpt-oss-20bで作成したサイトが以下です。

https://momijiina.com/other/20250811/gpt-oss-20b.html

前回のqwen3-coder-30bでテストしたやつ

https://momijiina.com/other/20250801.html

正直、どっちも悪くはないですがqwen3-coder-30bのほうがきれいです。

gpt-oss-20bはRTX 5090で165.66 tok/secでした。

おそらくこちらもMOEです。

あと試してみてなかったのでqwen3-30b-a3b-2507も試してみました。

https://momijiina.com/other/20250811/qwen3-30b-a3b-2507.html

あれ？　qwen3-30b-a3b-2507のほうがいい？

やっぱりテストプロンプトはもっと難しいやつにしたほうがいいかな？

なので次のテスト(プロンプトはAI生成です)

「Googleスプレッドシート風」の軽量ウェブアプリ（静的: HTML/CSS/Vanilla JSのみ）を生成してください。
要件:
index.html / styles.css / script.js の3ファイル構成
機能:
任意サイズ初期グリッド (例: 20列 x 30行) を生成
A1 形式セル参照
数式: 先頭= のセルは式として評価
四則演算 (+ - * /)
括弧 ()
セル参照 (例: =A1+B2*2)
範囲対応関数: SUM(A1:B5), AVG, MIN, MAX
再計算はセル変更時に全体再評価（循環参照はエラーマーク）
行/列の追加ボタン
選択セル強調・行列ヘッダー固定
コピー & ペースト (Ctrl+C / Ctrl+V) : 値ベース
Undo / Redo（直近履歴 50 件）
データの JSON / CSV エクスポート & インポート
ローカルストレージ自動保存（間隔 2 秒 or デバウンス）
ダーク / ライトテーマ切替
UI:
簡易ツールバー: 追加行/列, Undo, Redo, Export JSON, Import JSON, Export CSV, Theme toggle, Clear
ステータスバーに: 選択セルアドレス, 計算結果プレビュー
コード品質:
モジュール的構造 (関数を整理)
コメントで主要ロジック説明
依存なし（CDN含む）
アクセシビリティ配慮 (tabindex, aria-label)
セキュリティ:
eval 不使用。自作の式パーサー/トークナイザで実装
想定外トークンはエラー扱い
パフォーマンス:
1000+ セルでも即時レスポンス
再計算アルゴリズムはシンプルな全再計算で可（要最適化コメント）
出力: ファイルごとにコードブロック (ファイル名付き) で提示。
最後に利用手順 (ブラウザで開くだけ) と拡張アイデア箇条書き。

各モデルで作成したサイトの画像です。
ちょっと今回、JSONのインポートがあるので写真だけです。（危ないので）
ChatGPT5 比較用

gemma3 27b (53.93 tok/sec)

qwen3-coder-30b (128.50 tok/sec)

qwen3-30b-a3b-2507 (138.83 tok/sec)

gpt-oss-20b (164.46 tok/sec)

gemma3は見た目だけで入力が不可能でした。

gpt-oss-20b、qwen3-30b-a3b-2507に関してはセルは表示されず。

今回、1回の生成だけでまともに動いたローカルモデルはqwen3-coder-30bだけですがエラーを追加で貼り付ければ修正はどのモデルでも可能です。

GPT5を10点とするとqwen3-coder-30bは5か6点です。

ですがローカルで動くことに価値がありますのでqwen3-coder-30bは今のところ 5090で動作する最高のモデルですね。

Radeon RX 6950 XTも比較したいなと思ったときにわざわざマウスとHDMIケーブルを差し替えるのがめんどくさかったのでKVMを購入してみました。

サーバー用が少し高かったイメージがあったのでいくらかなと思ったのですが3500円でUGREENさんがうってました。

USB3.0と2.0で価格も500円くらいしか差がなかったですが3.0だと電源アダプターが必要みたいだったのでやめました。

中身はこんな感じです。

付属のHDMIは短いですがモニターの近くに置くものなので問題ないのともともとのHDMI 2つをこっちにさす感じです。

USB Type Bのほうはある程度長いのでメインとサブを1.5mくらい? 離してますが中央にKVMおけば問題なく届きました。

2か月で壊れたというレビューもあるので怖いですがとりあえず今は異常はなさそうです。

UGREENは安かろう悪かろうみたいなイメージが昔はありましたが最近はよく聞くので良くなったと信じます。

これですぐ壊れるなら次はAnkerを買います・・・

少し前に買ったUGREENの原神エディションはまだ壊れてないのも今回、品質を信じてみた決めてですかね。

一応 Amazonの製品名(型番とか書いてくれ・・・)
UGREEN HDMI KVM切替器 2入力1出力 キーボード、マウス、モニターを共有 PC2台用 4K@60Hz USB2.0 4ポート 切替器 HDMI2.0専用 ドライバー不要 簡単接続 手元スイッチ&USBケーブル付

昨日、LM StudioとQwen3-Coder-30bで作成したものを修正しました。

アップロード後,1ページ目が挿入されていないバグを確認しましたが別にプログラムをGithubに保存するとかもないので修正はしないです。

無理やり表示されるようにしたので新しいページを確認してください。

https://momijiina.com/other/20250803

今回の修正内容は画像の周りに枠ができる問題の修正と裏表紙を作成しました。

とりあえずここまでできれば満足なのでまた別のものをつくります。

あと黒猫かわいいです。　

ホームとアイコンがドキュザウルスのデフォルトのままなので黒猫に変えようかな？

変わってたらそういうことです

LM StudioとQwen3-Coder-30bでどこまでコードが作れるのかテストしてみました。

特にやりたいお題もなかったのでたまたま聞いていたWONさんのSisterという曲のPVのアルバム風のものが作れるかテストしてみました。

「完璧すぎて可愛げがないと婚約破棄された聖女は隣国に売られる」というアニメのEDです。（ぜひ見てくださいw）

一応,Youtubeの動画はこちらです

この前、アマプラで何となく見てていい曲だなとYoutubeで聞いてました。

ってことで簡単に作成してみたアルバムが以下です。

https://momijiina.com/other/20250802/

画像は生成しましたがまぁ、それっぽいのが画像生成含めて60分くらいなのでかなりいいのではないですか？

調整すれば完璧なものも作れなくはないですがテストなので今回はここでやめます。

タイトルや写真のURLはいじってますので95%はAIコーディングです。

現状はプログラムがわかる人の補助ですが2,3年後はプログラマーなくなりそうで怖いですね。

Qwen3 CoderがついにでてLM Studioでも30bが使えるようになっていたので試したのですがやばすぎます。

作成してもらったウェブサイトを張っておきますが商用利用可能なフリー画像素材も学習データに入れたようでほぼ完璧なサイトが以下のプロンプトだけで作成できました。
(以前もありましたが画像がきれいに入ることはあまりなかったです。)

作成してもらったウェブサイト　※しかも一発生成です。

HTML, CSS, JSを使用して、2025年9月に開催される『Tech Innovation Summit』のウェブサイトを作成してください。イベント概要、スケジュール、講演者紹介、チケット購入ページを含み、モダンで革新的なデザインにし、カウントダウンタイマーも実装してください。

そしてこちらをご覧ください。

RTX 5090を使いQwen3-Coder-30bで120 token/sでています。

gemma3 27bは60 token/s程度です。 一応、比較用画像

すごい速度で生成されたので驚きました。
さらにQwen3 Coderは日本語対応なので神です。

Qwen4は一体どうなるのか・・・

そういえばLM Studio用に６月に作成したPCのスペック写真を貼ってなかったので下にry

時間があれば6950XTでどれくらいの速度がでるか試してみます。(一応、5090を1とした場合のメモリ帯域速度から予測はできますが最適化などの差を含みます。)

あ、最後に話が変わりますがRadeon AI Pro R9700は20万前後くらいになりそうですね。

Intel Arc Pro B60の値段しだいですが年末か来年あたりどちらかを4枚買ってさらにオクタチャネル対応マザーを試してみるかもしれません。