最近、ローカルAI環境を構築したいと考え、いろいろと調べています。

機密性の高いデータを扱うため、クラウドにデータを送らず、手元のコンピュータでAIを動かす必要があります。しかし、いざ構築しようとすると簡単ではありません。

どのLLMを使うのか。どの程度のパラメータ数が必要なのか。メモリは何GB必要なのか。GPUはどうするのか。モデルをどう更新するのか。

最近発売されたMacの情報を調べれば調べるほど、ローカルAIとは「自分の手元に小さなChatGPTを作ること」のように思えてきます。

そういえば、家電製品にも「AI搭載」と書いてある。あれは、どんなAIなのでしょう。

エアコン、冷蔵庫、洗濯機、掃除機。いまや多くの家電に「AI」という言葉が使われています。

もちろん、エアコンの中で巨大な生成AIが動いているわけではないでしょう。

考えてみれば、昔はこうした製品に「マイコン搭載」と誇らしげに書かれていました。

その後、「デジタル制御」「インテリジェント」「IoT」、そして今は「AI搭載」。

もちろん単なる名称変更ではありません。従来のプログラムを実行することを基本としていたのに対し、機械学習ではデータから分類や予測の規則を獲得できます。

現在「AI」と呼ばれている機能のすべてが、生成AIのような高度なものではありません。ルールベースの制御、統計モデル、機械学習、センサー処理などを組み合わせたシステムも少なくありません。

そう考えると、ローカルAIに対する見方が少し変わります。

ローカルAIは、巨大なAIをローカルに持ってくることである必要はない。

そもそも家電は、何でもできるAIを必要としていません。

エアコンに小説を書かせる必要はありません。洗濯機に世界史を質問する必要もありません。必要なのは、その製品に求められる限定された仕事について、必要な入力を受け取り、必要な判断を行う能力です。

たとえば、データ処理や数値計算はPythonに任せる。明確に定義できる判定はルールベースで実行する。データベースから必要な情報を検索する。そして、人間の言葉を理解したり、結果を説明したり、文章にまとめたりする部分だけを小型のLLMに担当させる。

つまり、

「すべてをAIにやらせる」のではなく、「AIが必要なところだけAIにやらせる」。

この発想なら、必要な計算資源は大きく変わります。

ローカルAIを考えると、つい「どれだけ大きなモデルを自分のPCで動かせるか」という競争に目が向きます。

しかし、重要なのはAIの大きさではなく、仕事に対して必要十分な知能をどう配置するか。

そう考えれば、パーソナルPCで十分にローカルAIは構築出来そうです。そうなればAIは一部の巨大企業や専門家だけのものではなくなります。

もしかすると、これから面白くなるのは「より巨大なAI」だけではなく、特定の仕事のために設計された、小さく、閉じたAIなのかもしれません。