こんにちは．TechFUL PROのアルバイトをしているzekiです． TechFUL PROでは人工知能に関する問題を提供しています． 今回はニューラルネットワーク(NN)の限界について観察してみます． NNはそのパラメータ数を無限に大きくするとどのような関数にも限りなく近似できる「万能近似関数」です． が，パラメータを無限に用意することは不可能ですし，そのようなパラメータは存在はしますが求め方はわかりません． では，現実的に考えて，有限のパラメータと勾配降下法による最適化にはどのような限界があるのでしょうか． NNの構成 今回のNNは1入力1出力で，128次元3層の隠れ層とReLUで構成し…
仰々しいタイトルなのでありますが、ワイエルシュトラス関数の応用の続きです。一種のフラクタルみたいなものです。色合いが禍々しいところがドラゴンちっくでしょ！ 上記の側面図。 レシピはひどくカンタンです。｛x(u,v),y(u,v),z(u,v)}で各座標をワイエルシュトラス関数に置き換えるだけです。 こんなタイプの式です。項数ｎはたかだか２か３で打ち止めにしないと発散するでしょう。
ja.wikipedia.org