吾輩は猫である。
名前はまだない。
最近、
人間はAIを、
遠くの大きな計算機だけでなく、
自分のパソコンの中でも動かそうとしている。
人間はこれを、
ローカルLLMと呼ぶ。
なるほど。
AIまで、
家猫になったらしい。
クラウドへ行かず、
手元で考える。
文章を読み、
要約し、
質問にも答える。
しかも、
外へ出さずに済む情報もある。
吾輩は思う。
これは、
なかなか猫向きである。
猫は、
自分の縄張りを好む。
知らぬ場所へ、
何でも持ち出したりはしない。
大切なものは、
できれば家の中で扱う。
ローカルLLMも、
少し似ている。
社内文書。
個人のメモ。
外へ出したくない情報。
手元で処理できれば、
安心につながることもある。
だが、
家の中なら何でもできるわけではない。
大きなモデルを動かせば、
メモリも使う。
GPUも欲しくなる。
電気も食う。
返事が遅いこともある。
そして、
最新の情報まで自動で知っているとは限らない。
吾輩は思う。
自由には、
設備がいる。
自分で飼うなら、
自分で面倒を見る必要があるのだ。
クラウドのAIは、
大きな力を借りられる。
ローカルLLMは、
自分の縄張りで動かせる。
どちらが優れているかではない。
何を外へ出してよいのか。
どれだけの性能が必要なのか。
速さを取るのか。
安心を取るのか。
使い分ければよい。
人間は、
何でも一つにまとめたがる。
だが、
猫は知っている。
外でしかできないこともあれば、
家の中で済ませた方がよいこともある。
吾輩は猫である。
クラウドには住まぬ。
できれば、
暖かい部屋の中で、
必要なことだけ考えていたい。
ローカルLLMとは、
AIを小さくする技術ではない。
どこで考えさせるかを、
人間が自分で選べるようにする技術なのだ。
家の中
AIまでも
縄張りに
