もみじーな

※このブログの内容は半分以上メモです書いている日もバラバラでなんの検証もしてないのでオクタチャンネルへの希望を持つことは推奨しません。

RTX5090で結構満足しているがやっぱり70B動かしたいなと考え年内または来年購入するPCを考えます。

7900xtxを2枚買って48GBを考えていたがそもそも通常マザーボードに7900xtxの2.5スロット厚を2枚はライザーでも使わないとささらないです。

PCケースに収めたいのでライザーは候補から外します。

とりあえず7900xtxはEATXならささるかもしれないけど買ってささらなかったら悲しいので 年末ごろEATXマザーボードを買ってから考えようかなASUSの画像的にはささりそうだけど

Intel Arc Pro B60 Dual 48Gもなんと一般販売はないだろうと言われました。
(代理店とか通すと2倍,3倍はします。買うならサーバーセットですかね)

そこでWindows PCでどれだけMac Studio 512GB(1,493,800円)に近づけるかで考えたのが適当なIntelのGPUと ASUS PRO WS W790E-SAGE SEというオクタチャンネル動作が可能なマザーボードを使うことである。

※メモリ速度が早ければ共有GPUメモリを割り当てられてもボトルネックが少ないはずなので(要検証)

まずこのオクタチャンネルを使うにあたりDDR5という条件が必須である。

DDR4 でもCPUが2スロットあるものであればクアッドチャンネルx2で実質オクタチャンネル(違うかもしれない)

ですがddr4 だと帯域幅に結構差が付きます。

---

DDR5-4800 (4800 MT/s) の場合:(64GB*8枚とします)

メモリ帯域幅=(4800/1000)×8×8(チャンネル) =4.8×8×8 GB/s =307.2 GB/s

---

DDR5-4800を使う理由は64GBメモリがこのクロック数より上だと24GBしかないんですよね・・・

※もしメモリ容量を妥協できるなら速度は以下です DDR5-6800 (6800MT/s) の場合:435 GB/s

DDR4だと安いけど以下みたいな感じかなおそらくもう中古になるのと Dual CPUになりますが

メモリ帯域幅 = (2400/1000)×8×8(チャンネル) = 2.4 × 8 × 8 = 153.6GB/s

153GB/sでも確かに十分早いのですがユニファイドメモリにはやっぱり負けますねこれならRyzen™ AI Max+ 395とかのほうが消費電力的にもいいですね。

以上からASUS PRO WS W790E-SAGE SEにIntel Arc Pro B60 24GBも4枚ぎりつめそうなので96GB+DDR5 オクタチャンネルによる共有GPUが半分乗せれるので200GBクラスがいけるかも？ということです。

あとは7月にでるはずのRadeon AI PRO R9700が20万以下なら候補かも・・・

Intel Arc Pro B60を複数枚買うにしろRadeon AI PRO R9700を複数買うにしろ帯域は450～640GB/sなので共有GPUとしてオクタチャンネルメモリで割り当てればボトルネックが抑えられる気がしますが 検証動画がみつからないので誰か試してください・・・（CPUとGPU間でボトルネックがでるかもそれでもある程度は抑えられるはず）

Mac Studio 512GBは高いわりに推論以外やることがほかのある程度のPCでできるの買いたくはないです。
（8K動画編集しない人は何に使っているのか気になります・・・なにかしらのシミュレーションとか？）

RTX PRO 6000は結局複数買わないと70B動かして喜ぶかしかできないです。
(Nvidiaならファインチューニングとかに使えるのでありだとは思います。値段以外)

結論は推論目的ならAPIをレンタルしたほうが安上がりかもです。

私はそれでもローカル構築を目指しますが・・・

現在、AI用にPCを買い換えた為、まだデータ移行中です。

6950xtからRTX5090に変えましたけどやっぱり違いを感じます。

あと7900xtxがやっぱり安くなってきてます。

秋頃に在庫があれば2枚購入してDeepSeekの70bを試してみたいです。

7900xtxが2枚ならぎり70bが動きます。

コンテキスト長をのばすと使えないですけど・・・・

Canvas LMSをUbuntuにインストール Moodleから色々な大学がCanvas LMSへ移行しているようなので使用してみるために 構築してみました。

私が大学の時はMoodleでしたね。

今回、構築してみましたがMoodleと比べると構築方法が難しい気がしました。

それに情報がないですし公式マニュアはわかりづらいです。

普通に公式通りいれてもエラーばっかでした。

実際、Canvas LMSを見てみましたけど今後、日本で普及すれば気にならないかもしれないですがMoodleの方が今は
長い間あるだけあってマニュアルも多いので簡単に構築、運用できるのでいいと思いました。

間違いなくこれを保守運用するとなるとMoodleより高くなります。

脆弱性が少ないらしいけどアップデートしないのは怖いです・・・

ぶっちゃけた話をするならMoodleに追加でテーマ(Academiとか)入れておけば今風になるのであんまり変わらない気がしました。

今回の構築方法は開発ページにメモとして残しておくので構築してみたい方はそちらを確認してください。

まぁ、試したいだけならDocker使った方が早いですけど。

もともと選択列に複数選択と自由入力を許可するとなぜか日本語検索ができないというもので Githubにも何度か問題としてあがっているのでこのバグの所有者は多そうです。

以下の用に修正後はしっかり日本語が反映されているのがわかります。

文字は適当に入力してます

問題はこの修正での影響があるのかなので誰か確認してもらえると助かります。

開発ページに修正方法を追加しておきます。

これでExmentをMariaDBで運用してもとりあえずの問題はなさそうです。

ただ、Composerのアプデとかでファイルが上書きされると思うので都度修正が必要かもしれません。

UbuntuにExment入れて色々したいと思い、構築テストをしていたのですが データを入力していたらフリーワードで日本語検索をしても一部検索にひっかからない問題が発生。

Issuesにもあがっていましたが条件が(選択肢,複数選択,自由入力を許可)です。

さすがにこれはWEBデータベースとしては問題があるので調査しました。

調査結果として
ExmentとMySQL8.0ではこの問題は発生しませんでした。
ExmentとMariaDBではこの問題が発生しました。

これはDBをVPSで立ててExmentをレンタルサーバーに入れようがVPSに入れようがWindowsのXAMPPに入れようが発生しました。
※追記 SynologyとQNAPのNASのMariaDBでもテストしました。(ダメでした)

問題はMariaDBを使うことで発生しています。

恐らくMariaDBとMySQLではJSON等の処理に違いがあることが原因です。

少なくとも初期設定でMariaDBを使う場合は何か設定が必要ということになります。

一応、文字コードは関係ありませでした。MySQLとMariaDBでutf8mb4_general_ci,utf8mb4_unicode_ciでいずれもテストしました。

さらにこのIssuesは2021年頃から何度かあげられていました。つまり、修正は絶望的。

以上のことからExmentを使う場合はMariaDBは非推奨といっても過言ではないです。

一応、MariaDBを使う場合の対策を考えてみますがMySQLを推奨します。

今回、ExmentをUbuntuに導入する為にMySQL8.0とMariaDBとphpMyAdminを構築する為のメモを作成したので あとで分割してメモとしてドキュメントに保存しておきます。

AI用のPCを考えるから早いですかとりあえず全てのパーツの購入が完了しました。

GPUはRTX5090を購入しました。

今回、購入の決め手はPC工房で先週の土日に5090が30万円代で販売していたからです。

若干、RTX PRO 6000を購入しておけばよかったのではないかと後悔はありますが
5090で足りないと感じたら来年考えます。

あとは7900xtxが6950xtの時のように10万切ったら買いますがこれは趣味です。

現在、マザーボードだけなぜか来週の土曜日に来るので組み立てはそれ待ちですが Qwen3 32bがどれくらいの速度で動くのか楽しみです。

ついでなのでOpenManusもQwen3 32bでどれくらい早く正確かためしてみます。

AI用にPCを購入予定ですがとりあえず自作することにしました。

Core Ultra 7が値下げしたのでCPUはこれに決まりですかね。

NPU使って見たいですしね。

Ultra7でPCを組んでGPUは決めますがRTX5090が現状の候補です。
ひさしぶりにCUDAも触りたいですしね。

IntelからもAIようにArc Pro B60がでるみたいですがメモリ帯域は微妙でした。
消費電力はいい感じです。

48GB版が1000ドルくらいなら開発用に1枚買う予定です。

理由はIntelのCUDA互換をテストするためですがいくらかな。

とりあえずGPUなしで組んだらまた報告します。

Exment用に機能強化版のかんばんビューの作成が完了しました。

少し前にGithubを更新してますので確認してください。

開発のページにも後で追加しておきます。

スパゲッティコード状態ですがとりあえずほしい機能は実装しました。

AIでコード生成すると楽でいいですがコードがぐじゃぐじゃになるので考え物かもしれないです。

AIで修正できないときに手動で手直しとデバッグしてますが余計時間かかってる可能性もありますね。

気が向いたらまた更新しますが今回はとりあえずこれで完成とします。

Exment用にかんばんビューの作成を開始しました。

少し前にGithubにアップロードしてます。

独自に作る予定でしたが公式プラグインを調整したほうが早そうだったので・・・

とりあえずGithubのはタイトルとその下に詳細テキストを表示できるようにしてます。

現在、作成中の画面はこんな感じです。

データはこんな感じ（ちょっと追加しちゃってるけど）

タグの表示とタグの編集を行えるようにまではしているので後はアバターの追加だけです。
アバターの実装も実は６割程度まで完成しているので来週、再来週あたりにGithubを更新しておきます。

かんばんの次は何を作ってみようかな・・・

LaravelでNFCリーダーが実装できるって昔聞いたのでテストで打刻システム作ってみても面白いかもですね。
一応、公式にもありますがボタン式なのでNFCだとありがたい人もいるかも？

ExmentにAI実装しても面白いかも

NASの容量が限界だったのでSynologyのDS925+を購入してみました。

噂じゃHDDはSynology製じゃないと認識しないとかいう話だったので 純正を購入しましたが値段もあんまり変わらない感じです。

特に縛りがなければWD REDをいつも買ってますがまぁ壊れないならどこでもいいです。

一応,Synologyの純正HDDはSeagate製でした。

DS920+からの追加購入ですがCPUがAMDになってたこと以外には特にソフトも外観も変わりはありませんでした。 ついてくるガイドも今までどおりです。

次、購入するときはDS1825+とかの8ベイモデルがいいかな。

一応軽くシリアル等はつぶしておきます。