自分のPCで動くAIエージェント、Muse Glimmer✨

社内の資料やコードをクラウドに送るのは、ちょっと不安ですよね🤔

そんな悩みに応えてくれそうなのが、Metaが公開したMuse Glimmerです。ローカル、つまり自分のPCの中で常に動かして使うエージェント向けの、約30Bクラスの大規模言語モデルなんです。重みはApache 2.0ライセンスで公開されていて、商用利用や改変、再配布にも制限がありません。ただし、学習データやコードまで公開されているかは確認できていないので、正確には「オープンウェイト（重みを公開）」のモデルです。

得意なのは、コーディングやスケジュール管理、ファイル整理など。コマンドがエラーを返したときに、原因を調べて別の方法を試す機能もあります💡

動かすには、4ビット量子化で24〜32GBのVRAMを積んだGPUやMacが目安です。一般的な業務PCではなく、ハイエンド機が前提になります。OllamaやLM Studioといった既存のツールで試せるのがうれしいポイントです。

ベンチマークはMeta自身が測った数値なので、実際の業務に合うかは、手元で試して確かめたいところです。ローカル実行では運用やセキュリティも自分たちの責任になります。公式のライセンスと利用ポリシーも、あわせて確認してくださいね。

社内データを外に出さずにAIを試したい人に、ぜひおすすめしたいです🌱

#MuseGlimmer #ローカルAI #AIエージェント