Echo State Network はなぜ Echoなのか
リザバーコンピューティングの一種にEcho State Networkがある．この名前のEchoはどこから来ているのか．
x(t+1) = f(W・x(t) + Wfb・y(t))
の右辺第二項から来ていることが分かった．xはリザバーでyは出力．出力をリザバーにフィードバックしているからEchoなのだ．重みWfbは学習はせず固定だ．出力フィードバックをしなくても動きそうな気がするが，それについて明確に理由を書いてある文献はまだ見つからない．しかしわざわざ名前にEchoをつけるくらいだから，出力フィードバックは意味があるのだろう．
Echo State Networkに似たものとしてliquid state machineがある．本質的に同じと言われているが，liquid state machineには出力フィードバックがないように見える．本当に同じなのだろうか．
x(t+1) = f(W・x(t) + Wfb・y(t))
の右辺第二項から来ていることが分かった．xはリザバーでyは出力．出力をリザバーにフィードバックしているからEchoなのだ．重みWfbは学習はせず固定だ．出力フィードバックをしなくても動きそうな気がするが，それについて明確に理由を書いてある文献はまだ見つからない．しかしわざわざ名前にEchoをつけるくらいだから，出力フィードバックは意味があるのだろう．
Echo State Networkに似たものとしてliquid state machineがある．本質的に同じと言われているが，liquid state machineには出力フィードバックがないように見える．本当に同じなのだろうか．