吾輩は猫である。
名前はまだない。
人間は、
AIを賢くする。
学習させる。
評価する。
間違いを直す。
そして最近、
少し妙なことを考え始めた。
AI自身に、
AIを改善させるのである。
人間はこれを、
再帰的自己改善と呼ぶ。
吾輩は思う。
ずいぶん怠けた発想である。
自分で作ったものに、
「もっと賢くなれ。」
と言って、
改善まで任せようというのだから。
だが、
もし本当にできたら、
少し話が変わる。
AIが、
自分の弱点を見つける。
直す。
すると、
前より賢いAIになる。
そのAIが、
また自分の弱点を見つける。
さらに直す。
また賢くなる。
そして、
その賢くなったAIが、
もっと良い改善方法を考える。
なるほど。
これは、
なかなか終わらない。
吾輩は思う。
猫にも、
似たところはある。
昨日、
扉を押しても開かなかった。
今日は、
前足を引っかけてみる。
開いた。
すると明日は、
最初から引っかける。
一度学んだことが、
次の学びを速くする。
これも、
小さな自己改善である。
だが、
人間が心配しているのは、
その速さなのだろう。
一歩ずつなら、
人間も見ていられる。
だが、
一改善。
二改善。
十改善。
百改善。
と、
どんどん速くなったら。
人間が、
「ちょっと待て。」
と言った時には、
もうずいぶん先まで行っているかもしれない。
吾輩は思う。
成長とは、
速ければよいものでもない。
何を良くするのか。
誰のために良くするのか。
どこで止めるのか。
そこが決まっていなければ、
「改善」という言葉さえ、
少し危うい。
猫なら、
より速く走れるようになったからといって、
一日中走ったりはしない。
より高く跳べるようになっても、
必要のない棚には登らぬ。
……たぶん。
能力が増えることと、
使い方が良くなることは、
同じではないのである。
人間は、
AIが自分で賢くなる未来を期待する。
新しい薬を考える。
新しい技術を作る。
難しい問題を解く。
それは、
大きな力になるかもしれない。
だが、
自分を改善できる者ほど、
何を目指すかが重要になる。
吾輩は猫である。
毎日少しずつ学ぶ。
人間の癖を覚え、
餌の時間を覚え、
どの鳴き方が一番効くかまで改善している。
考えてみれば、
吾輩もすでに、
再帰的自己改善中なのかもしれぬ。
ただし、
吾輩の目的は一つである。
昨日より少ない労力で、
今日のおやつを手に入れることだ。
再帰的自己改善とは、
AIが勝手に賢くなる魔法ではない。
賢くなった自分が、
さらに賢くなる方法まで見つけてしまう、
成長そのものを加速させる仕組みなのだ。
そして、
その時人間に問われるのは、
「どこまで賢くできるか」
ではなく、
「何のために賢くするのか」
なのかもしれぬ。
賢さを
賢さで磨く
先いずこ
