「なんでも自由にしてください」
と言われると返って何をすれば良いのか分からず、
何も出来なくなることがあります。
一方で、
「ボールを使って何かしてください」
と言われると、壁当て、キャッチボールでもしようとなります。
機械学習の世界でも、
なんでも自由に学習するよりは、
何かしらの制約の下で学習した方が、
良い性能を示すことがあります。
この制約のことを「帰納バイアス」と言います。
ここでは、身近に見られる帰納バイアスの例をもう少し見てみましょう。
白紙に何か書けと言われると難しいが・・・
白紙とクレヨンを渡されて、
いきなり何か描けと言われるとかなり困ります。
何でも描けてしまうせいで、
初めは何も思い浮かばないのではないでしょうか。
一方で、赤い紙と黒いクレヨンを渡されて、
何か描けと言われるとどうでしょうか。
今度は、白紙の場合とは違って、
りんごでも描こうかなと描くものの候補が、
すぐに思い浮かんだのではないでしょうか。
もちろん、りんごは白紙の紙とカラフルな
クレヨンを使っても描けます。
白紙を見たときには思い浮かばなかった発想が、
赤い紙と黒いクレヨンという制限を受けることで、
すぐに思い浮かぶというのが帰納バイアスの効果です。
体の関節の可動域
私たちの体の関節は、曲がる角度がある程度決まっています。
たまに360度回転する関節を持つロボットもあります。
そのようなロボットが歩き方をゼロから学習すると、
果たして私たちと同じような歩き方を獲得するでしょうか?
私たちは、生まれてから成長するに連れて、
自然とみんな同じような歩き方を覚えていきます。
みんなが同じような歩き方になるのは、
関節が360度回転する訳ではなく、
ある程度動く範囲が決まっているからではないでしょうか。
つまり、関節の可動域が帰納バイアスとして働いていて、
関節の可動域から自然に実現できるような歩き方を、
みんな獲得していっているのではないでしょうか。
そう考えると、ロボットに歩き方を教えるときは、
関節にあえて可動域を制限して設定しておくと、
学習がスムーズに進むのかもしれません。
まとめ
機械学習の用語の「帰納バイアス」を、
身近な例を使って説明しました。
よく探してみると、他にも、制限されていることが、
返って物事の潤滑油になっているようなケースが見つかるかもしれません。