自分でAIを動かす (2) 〜LM Studio〜

OllamaインストールできるMacBook Air M4、Intel Mac mini、デスクトップワークステーション(Intel Core i7)にもインストールして若干の評価をしました。インテルの両マシンはラブ32 GBを積んでいるので生かせるかなと思ったんですけど基本的にCPUが遅くてだめでした。この2つでのAIの運用と言うのは諦めました。

結局M4のMac二台に絞られたわけですがMacBook Air 4にはOllamaとChatboxの組み合わせが必ずしも良いとは言えません。というか結局チャットボックスの豆腐フォント問題については解決できませんでした。そこでFirefoxにページアシストと言う機能拡張を入れてつなぐんですがそれだったら別にローカルで動かす必要はないんですよね。

それでこの前の記事にいただいたコメントやSNSでもほぼ同時に同じような情報をいただいたんですけれども、LM Studioを動かすことにしました。モデルについてはAIのお勧めで “Qwen/Qwen2.5-7B-Instruct-GGUF” にしてみました。まだほんの挨拶程度しかやってませんけれども、非常にサクサク動いてくれますし、メモリーの使用量も大きくないようです。

しばらくこの状態で評価してみたいと思います。

コメントについて

当記事へのコメント欄は,記事公開後一定期間で閉鎖されます.その際は適当な新しい記事に当記事の表題を引用して,コメントしてください.

Leave a Reply

Your email address will not be published. Required fields are marked *