forbesjapan.com トランスフォーマーアーキテクチャには長期記憶が存在しないため、人間の思考において本質的に重要な、長期間にわたって情報を保持し活用する能力が制限されている。一方、タイタンは短期記憶に加えてニューラル長期記憶と「驚き」に基づく学習システムを導入している。それらは、予想外または重要な出来事を記憶する上で、人間が使っている仕組みに近い。 「驚き」に基づく学習システムと聞いて、私はドーパミンを思い浮かべました。 ドーパミンが報酬系というのは有名な話ですが、その分泌量は「期待した結果」と「もたらされた結果」の差によって上下するという面白い事実があります。 期待通りの良い結果…