AI tag description
全てのタグを見る
LM Studioでgpt-oss-120bがギリギリ動作したので報告です。
私の環境
| 項目 | 詳細(製品名や型番など) |
|---|---|
| CPU | Ultra7 265K |
| GPU | RTX 5090 |
| Memory | 64GB (DDR5-4800) |
MoEっぽいので動くとは思いましたがまぁ使えなくはない速度でした。
一応,トークン速度(14.55token/s)でした。
長いコードを書かせてみましたが使えなくはないくらいの生成速度ですが他の30bなどのモデル速度と比較するとやっぱり生成時間が苦痛です。
文章生成だけならいいかもしれないですがコード生成だったり修正だと待ち時間がいやなので少なくとも80GB以上のメモリがグラボにあるならいいですがないならおとなしく30bかAPI使ったほうがでいいす。
モデルのロードも60GBを超えるのでメモリ帯域速度的にかなり遅かったです。
使えそうならメモリ増設しようかなと思ったけど今回はいいかな
(2枚刺しにしている理由はDDR5は4枚だと不安定になると聞いたから)
LMStudioでgpt-oss-20bを試してみました。
20bなのであまり期待はできませんがQwen3 Coderと比較したかったので前と同じプロンプトでテストです。
HTML, CSS, JSを使用して、2025年9月に開催される『Tech Innovation Summit』のウェブサイトを作成してください。イベント概要、スケジュール、講演者紹介、チケット購入ページを含み、モダンで革新的なデザインにし、カウントダウンタイマーも実装してください。
gpt-oss-20bで作成したサイトが以下です。
https://momijiina.com/other/20250811/gpt-oss-20b.html
前回のqwen3-coder-30bでテストしたやつ
https://momijiina.com/other/20250801.html
正直、どっちも悪くはないですがqwen3-coder-30bのほうがきれいです。
gpt-oss-20bはRTX 5090で165.66 tok/secでした。
おそらくこちらもMOEです。
あと試してみてなかったのでqwen3-30b-a3b-2507も試してみました。
https://momijiina.com/other/20250811/qwen3-30b-a3b-2507.html
あれ？ qwen3-30b-a3b-2507のほうがいい？
やっぱりテストプロンプトはもっと難しいやつにしたほうがいいかな？
なので次のテスト(プロンプトはAI生成です)
「Googleスプレッドシート風」の軽量ウェブアプリ（静的: HTML/CSS/Vanilla JSのみ）を生成してください。
要件:
index.html / styles.css / script.js の3ファイル構成
機能:
任意サイズ初期グリッド (例: 20列 x 30行) を生成
A1 形式セル参照
数式: 先頭= のセルは式として評価
四則演算 (+ - * /)
括弧 ()
セル参照 (例: =A1+B2*2)
範囲対応関数: SUM(A1:B5), AVG, MIN, MAX
再計算はセル変更時に全体再評価（循環参照はエラーマーク）
行/列の追加ボタン
選択セル強調・行列ヘッダー固定
コピー & ペースト (Ctrl+C / Ctrl+V) : 値ベース
Undo / Redo（直近履歴 50 件）
データの JSON / CSV エクスポート & インポート
ローカルストレージ自動保存（間隔 2 秒 or デバウンス）
ダーク / ライトテーマ切替
UI:
簡易ツールバー: 追加行/列, Undo, Redo, Export JSON, Import JSON, Export CSV, Theme toggle, Clear
ステータスバーに: 選択セルアドレス, 計算結果プレビュー
コード品質:
モジュール的構造 (関数を整理)
コメントで主要ロジック説明
依存なし（CDN含む）
アクセシビリティ配慮 (tabindex, aria-label)
セキュリティ:
eval 不使用。自作の式パーサー/トークナイザで実装
想定外トークンはエラー扱い
パフォーマンス:
1000+ セルでも即時レスポンス
再計算アルゴリズムはシンプルな全再計算で可（要最適化コメント）
出力: ファイルごとにコードブロック (ファイル名付き) で提示。
最後に利用手順 (ブラウザで開くだけ) と拡張アイデア箇条書き。
各モデルで作成したサイトの画像です。
ちょっと今回、JSONのインポートがあるので写真だけです。（危ないので）
ChatGPT5 比較用
gemma3 27b (53.93 tok/sec)
qwen3-coder-30b (128.50 tok/sec)
qwen3-30b-a3b-2507 (138.83 tok/sec)
gpt-oss-20b (164.46 tok/sec)
gemma3は見た目だけで入力が不可能でした。
gpt-oss-20b、qwen3-30b-a3b-2507に関してはセルは表示されず。
今回、1回の生成だけでまともに動いたローカルモデルはqwen3-coder-30bだけですがエラーを追加で貼り付ければ修正はどのモデルでも可能です。
GPT5を10点とするとqwen3-coder-30bは5か6点です。
ですがローカルで動くことに価値がありますのでqwen3-coder-30bは今のところ 5090で動作する最高のモデルですね。
Radeon RX 6950 XTも比較したいなと思ったときにわざわざマウスとHDMIケーブルを差し替えるのがめんどくさかったのでKVMを購入してみました。
サーバー用が少し高かったイメージがあったのでいくらかなと思ったのですが3500円でUGREENさんがうってました。
USB3.0と2.0で価格も500円くらいしか差がなかったですが3.0だと電源アダプターが必要みたいだったのでやめました。
中身はこんな感じです。
付属のHDMIは短いですがモニターの近くに置くものなので問題ないのともともとのHDMI 2つをこっちにさす感じです。
USB Type Bのほうはある程度長いのでメインとサブを1.5mくらい? 離してますが中央にKVMおけば問題なく届きました。
2か月で壊れたというレビューもあるので怖いですがとりあえず今は異常はなさそうです。
UGREENは安かろう悪かろうみたいなイメージが昔はありましたが最近はよく聞くので良くなったと信じます。
これですぐ壊れるなら次はAnkerを買います・・・
少し前に買ったUGREENの原神エディションはまだ壊れてないのも今回、品質を信じてみた決めてですかね。
一応 Amazonの製品名(型番とか書いてくれ・・・)
UGREEN HDMI KVM切替器 2入力1出力 キーボード、マウス、モニターを共有 PC2台用 4K@60Hz USB2.0 4ポート 切替器 HDMI2.0専用 ドライバー不要 簡単接続 手元スイッチ&USBケーブル付
昨日、LM StudioとQwen3-Coder-30bで作成したものを修正しました。
アップロード後,1ページ目が挿入されていないバグを確認しましたが別にプログラムをGithubに保存するとかもないので修正はしないです。
無理やり表示されるようにしたので新しいページを確認してください。
https://momijiina.com/other/20250803
今回の修正内容は画像の周りに枠ができる問題の修正と裏表紙を作成しました。
とりあえずここまでできれば満足なのでまた別のものをつくります。
あと黒猫かわいいです。
ホームとアイコンがドキュザウルスのデフォルトのままなので黒猫に変えようかな？
変わってたらそういうことです
LM StudioとQwen3-Coder-30bでどこまでコードが作れるのかテストしてみました。
特にやりたいお題もなかったのでたまたま聞いていたWONさんのSisterという曲のPVのアルバム風のものが作れるかテストしてみました。
「完璧すぎて可愛げがないと婚約破棄された聖女は隣国に売られる」というアニメのEDです。（ぜひ見てくださいw）
一応,Youtubeの動画はこちらです
この前、アマプラで何となく見てていい曲だなとYoutubeで聞いてました。
ってことで簡単に作成してみたアルバムが以下です。
https://momijiina.com/other/20250802/
画像は生成しましたがまぁ、それっぽいのが画像生成含めて60分くらいなのでかなりいいのではないですか？
調整すれば完璧なものも作れなくはないですがテストなので今回はここでやめます。
タイトルや写真のURLはいじってますので95%はAIコーディングです。
現状はプログラムがわかる人の補助ですが2,3年後はプログラマーなくなりそうで怖いですね。
Qwen3 CoderがついにでてLM Studioでも30bが使えるようになっていたので試したのですがやばすぎます。
作成してもらったウェブサイトを張っておきますが商用利用可能なフリー画像素材も学習データに入れたようでほぼ完璧なサイトが以下のプロンプトだけで作成できました。
(以前もありましたが画像がきれいに入ることはあまりなかったです。)
作成してもらったウェブサイト ※しかも一発生成です。
HTML, CSS, JSを使用して、2025年9月に開催される『Tech Innovation Summit』のウェブサイトを作成してください。イベント概要、スケジュール、講演者紹介、チケット購入ページを含み、モダンで革新的なデザインにし、カウントダウンタイマーも実装してください。
そしてこちらをご覧ください。
RTX 5090を使いQwen3-Coder-30bで120 token/sでています。
gemma3 27bは60 token/s程度です。
一応、比較用画像
すごい速度で生成されたので驚きました。
さらにQwen3 Coderは日本語対応なので神です。
Qwen4は一体どうなるのか・・・
そういえばLM Studio用に６月に作成したPCのスペック写真を貼ってなかったので下にry
時間があれば6950XTでどれくらいの速度がでるか試してみます。(一応、5090を1とした場合のメモリ帯域速度から予測はできますが最適化などの差を含みます。)
あ、最後に話が変わりますがRadeon AI Pro R9700は20万前後くらいになりそうですね。
Intel Arc Pro B60の値段しだいですが年末か来年あたりどちらかを4枚買ってさらにオクタチャネル対応マザーを試してみるかもしれません。
※このブログの内容は半分以上メモです書いている日もバラバラでなんの検証もしてないのでオクタチャンネルへの希望を持つことは推奨しません。
RTX5090で結構満足しているがやっぱり70B動かしたいなと考え年内または来年購入するPCを考えます。
7900xtxを2枚買って48GBを考えていたがそもそも通常マザーボードに7900xtxの2.5スロット厚を2枚はライザーでも使わないとささらないです。
PCケースに収めたいのでライザーは候補から外します。
とりあえず7900xtxはEATXならささるかもしれないけど買ってささらなかったら悲しいので 年末ごろEATXマザーボードを買ってから考えようかなASUSの画像的にはささりそうだけど
Intel Arc Pro B60 Dual 48Gもなんと一般販売はないだろうと言われました。
(代理店とか通すと2倍,3倍はします。買うならサーバーセットですかね)
そこでWindows PCでどれだけMac Studio 512GB(1,493,800円)に近づけるかで考えたのが適当なIntelのGPUと ASUS PRO WS W790E-SAGE SEというオクタチャンネル動作が可能なマザーボードを使うことである。
※メモリ速度が早ければ共有GPUメモリを割り当てられてもボトルネックが少ないはずなので(要検証)
まずこのオクタチャンネルを使うにあたりDDR5という条件が必須である。
DDR4 でもCPUが2スロットあるものであればクアッドチャンネルx2で実質オクタチャンネル(違うかもしれない)
ですがddr4 だと帯域幅に結構差が付きます。
DDR5-4800 (4800 MT/s) の場合:(64GB*8枚とします)
メモリ帯域幅=(4800/1000)×8×8(チャンネル) =4.8×8×8 GB/s =307.2 GB/s
※もしメモリ容量を妥協できるなら速度は以下です
DDR5-6800 (6800MT/s) の場合:435 GB/s
DDR4だと安いけど以下みたいな感じかなおそらくもう中古になるのと Dual CPUになりますが
メモリ帯域幅 = (2400/1000)×8×8(チャンネル) = 2.4 × 8 × 8 = 153.6GB/s
153GB/sでも確かに十分早いのですがユニファイドメモリにはやっぱり負けますねこれならRyzen™ AI Max+ 395とかのほうが消費電力的にもいいですね。
以上からASUS PRO WS W790E-SAGE SEにIntel Arc Pro B60 24GBも4枚ぎりつめそうなので96GB+DDR5 オクタチャンネルによる共有GPUが半分乗せれるので200GBクラスがいけるかも？ということです。
あとは7月にでるはずのRadeon AI PRO R9700が20万以下なら候補かも・・・
Intel Arc Pro B60を複数枚買うにしろRadeon AI PRO R9700を複数買うにしろ帯域は450～640GB/sなので共有GPUとしてオクタチャンネルメモリで割り当てればボトルネックが抑えられる気がしますが 検証動画がみつからないので誰か試してください・・・（CPUとGPU間でボトルネックがでるかもそれでもある程度は抑えられるはず）
Mac Studio 512GBは高いわりに推論以外やることがほかのある程度のPCでできるの買いたくはないです。
（8K動画編集しない人は何に使っているのか気になります・・・なにかしらのシミュレーションとか？）
RTX PRO 6000は結局複数買わないと70B動かして喜ぶかしかできないです。
(Nvidiaならファインチューニングとかに使えるのでありだとは思います。値段以外)
結論は推論目的ならAPIをレンタルしたほうが安上がりかもです。
私はそれでもローカル構築を目指しますが・・・
現在、AI用にPCを買い換えた為、まだデータ移行中です。
6950xtからRTX5090に変えましたけどやっぱり違いを感じます。
あと7900xtxがやっぱり安くなってきてます。
秋頃に在庫があれば2枚購入してDeepSeekの70bを試してみたいです。
7900xtxが2枚ならぎり70bが動きます。
コンテキスト長をのばすと使えないですけど・・・・
AI用のPCを考えるから早いですかとりあえず全てのパーツの購入が完了しました。
GPUはRTX5090を購入しました。
今回、購入の決め手はPC工房で先週の土日に5090が30万円代で販売していたからです。
若干、RTX PRO 6000を購入しておけばよかったのではないかと後悔はありますが
5090で足りないと感じたら来年考えます。
あとは7900xtxが6950xtの時のように10万切ったら買いますがこれは趣味です。
現在、マザーボードだけなぜか来週の土曜日に来るので組み立てはそれ待ちですが Qwen3 32bがどれくらいの速度で動くのか楽しみです。
ついでなのでOpenManusもQwen3 32bでどれくらい早く正確かためしてみます。
AI用にPCを購入予定ですがとりあえず自作することにしました。
Core Ultra 7が値下げしたのでCPUはこれに決まりですかね。
NPU使って見たいですしね。
Ultra7でPCを組んでGPUは決めますがRTX5090が現状の候補です。
ひさしぶりにCUDAも触りたいですしね。
IntelからもAIようにArc Pro B60がでるみたいですがメモリ帯域は微妙でした。
消費電力はいい感じです。
48GB版が1000ドルくらいなら開発用に1枚買う予定です。
理由はIntelのCUDA互換をテストするためですがいくらかな。
とりあえずGPUなしで組んだらまた報告します。