工場統計力学(建設中!) このページをアンテナに追加 RSSフィード

いまだ輝かざる暁の数は、げに多かり    (リグ・ヴェーダ)

2016-11-06

[]関数の勾配ベクトルと等高線は直交する。 関数の勾配ベクトルと等高線は直交する。を含むブックマーク 関数の勾配ベクトルと等高線は直交する。のブックマークコメント

このタイトルでは、突然何のことか、と思われてしまいますが、サポートベクターマシン(SVM)という機械学習の勉強を始めたら「ラグランジュの未定乗数法」というのが登場しました。これは以前も見たことがある手法ですが、よくよく考えてみるとなぜこれでうまく計算できるのか私にはさっぱり分からないことに気付きました。Wikipediaに解説が載っていたので読んだのですが、いまひとつ理解できません。いろいろ考えているうちに「関数の勾配ベクトルと等高線は直交するんだろうか?」という疑問が出てきました。そして、このことが正しければWikipediaに出ているラグランジュ未定乗数法の説明は理解出来る、と思いました。そこでさらに、「関数の勾配ベクトルと等高線は直交する」ということをネットで調べたら、いい説明に出会いました。

以下、そこの記事そのままではなく、自分の理解に従っての書き方ですが、自分へのメモ用にこのことの証明を以下に記します。


証明

関数fのグラフz=f(x,y)z=ccは定数)とすると、

  • c=f(x,y)・・・・(1)

となり、これは高さcの等高線となる、この等高線の中の任意の1点を選び、これを(a,b)で表す。すると(1)より

  • c=f(a,b)・・・・(2)

である。一方、z=f(x,y)の点(a,b)における接平面は、以下のように書ける。

  • z=f(a,b)+¥left¥[¥frac{¥partial{f}}{¥partial{x}}¥right¥]_{(a,b)}(x-a)+¥left¥[¥frac{¥partial{f}}{¥partial{y}}¥right¥]_{(a,b)}(y-b)・・・・(3)

ただし、¥[¥partial{f}/¥partial{x}¥]_{(a,b)}は、点(a,b)における¥partial{f}/¥partial{x}の値、¥[¥partial{f}/¥partial{y}¥]_{(a,b)}は、点(a,b)における¥partial{f}/¥partial{y}の値を表す。この接平面の高さcの等高線は(3)から

  • c=f(a,b)+¥left¥[¥frac{¥partial{f}}{¥partial{x}}¥right¥]_{(a,b)}(x-a)+¥left¥[¥frac{¥partial{f}}{¥partial{y}}¥right¥]_{(a,b)}(y-b)

となる。ここで(2)を用いると、

  • ¥left¥[¥frac{¥partial{f}}{¥partial{x}}¥right¥]_{(a,b)}(x-a)+¥left¥[¥frac{¥partial{f}}{¥partial{y}}¥right¥]_{(a,b)}(y-b)=0・・・・(4)

となる。ここで図形的に考えると、接平面の等高線(3)は、f(x,y)の等高線(1)の点(a,b)における接線になっていることが分かる。(x,y)は接線上の点であるから、ベクトル

  • ¥left¥[¥begin{array}x-a¥¥y-b¥end{array}¥right¥]

は、点(a,b)から点(x,y)へのベクトルであり、つまりこれは等高線(1)の点(a,b)における接ベクトルである。一方、

  • ¥left¥[¥begin{array}¥[¥partial{f}/¥partial{x}¥]_{(a,b)}¥¥¥[¥partial{f}/¥partial{y}¥]_{(a,b)}¥end{array}¥right¥]^T

は点(a,b)における勾配ベクトルである。式(4)からこの接ベクトルと勾配ベクトル直交していることが分かる。よって、点(a,b)において、等高線(1)と勾配ベクトル直交している。


このように書いたものを改めて読んでみると、図を追加しないとあまり意味が分からないことに気付きました。しかし、3次元の図を描く(曲面を描く)よい方法を私はまだ知りません。これは私の課題です。

トラックバック - http://d.hatena.ne.jp/CUSCUS/20161106

2016-10-30

[]菅島(すがしま) 菅島(すがしま)を含むブックマーク 菅島(すがしま)のブックマークコメント

今度は、菅島(すがしま)という島に行ってきました。それまで、私の菅島への印象はあまりよくありませんでした。それは、この島には採石場があり、山がかなり削られて大変な姿になっているからです。鳥羽駅からは幸いその姿は見えないのですが(見えたら観光客には興ざめな光景)、安楽島(あらしま)のほうへ行くとその痛々しい姿が見えてしまいます。手っ取り早い話、Google マップでその姿が見えてしまいます。

そんなことで、私は菅島に行こうという気が起こらなかったのですが、行って見ると随分印象が異なりました。島の北側に集落があり、定期船の港もそこにあります。そこは島でいうと採石場とは反対側なので、採石場の姿は見えません。

この日はよく晴れていましたが陸でも風が強い日でした。

f:id:CUSCUS:20161029084858j:image:left


港はこんな感じ


上陸した時に初めて聞いた音が、船着場近くの道路工事のドリルの音でした。どうも、離島というよりか、工場、という雰囲気がしてしまいました。しかし、少し歩くと雰囲気は一変し、見どころのある風景が広がりました。細い道を進むと険しい岩場になり、上にはトンビが何羽も旋回し、私が近づいたのに驚いたカラスが十数羽、岩陰からどっと飛び出してきました。

f:id:CUSCUS:20161029082627j:image

f:id:CUSCUS:20161029082618j:image:left



伊勢湾フェリー


f:id:CUSCUS:20161029083743j:image

岩場と岩場に囲まれて孤立した砂浜があり、ここは「しろんご浜」というところです。ここで海女(あま)のお祭である「しろんご祭り」が行われます。

f:id:CUSCUS:20161029083023j:image

毎年7 月11 日、菅島の白浜(しろんご浜)で行なわれる「しろんご祭り」は、700 年ほど昔、菅島にあらわれた白蛇を竜神の使いとあがめて、大漁と海上安全を祈願したのが始まりと言われています。ホラ貝の音を合図に海女全員が海に入り、鮑(あわび)のつがいの初捕りを競うもので、雌雄つがいの鮑を最初に捕った者が海女頭となり、一年中尊敬されます。白浜は通常は禁漁区ですが、この日のみ漁が許され、この鮑は菅島の守り神とされる白髭神社奉納されます。世界でも韓国と日本だけとされる海女文化が島の人々により引き継がれています。(市の無形民俗文化財)(国土交通省の島の宝100景に選定)


鳥羽市のホームページより

f:id:CUSCUS:20161029083125j:image:left




中央、遠くに見えるのが神島。その向こうは渥美半島。


私は、そこがおごそかな場所に感じられました。そう感じたのは、その時、人が誰もいなかったせいもあるかと思います。

トラックバック - http://d.hatena.ne.jp/CUSCUS/20161030

2016-10-19

[]「脳・心・人工知能」 甘利俊一著 へのメモ書き(3) 強化学習 「脳・心・人工知能」 甘利俊一著 へのメモ書き(3) 強化学習を含むブックマーク 「脳・心・人工知能」 甘利俊一著 へのメモ書き(3) 強化学習のブックマークコメント

「『脳・心・人工知能』 甘利俊一著」

を読んで、「スパース表現」の概念とならんでもうひとつひっかかった内容は「強化学習」に関する記述です。

 たとえば囲碁や将棋などのゲームを考えよう。現在の局面で、どんな手を打つのがよいだろうか。可能な手の中から1つを選んで実行すると、局面が変わる。これでよくなるかもしれないし、悪くなるかもしれない。目的は最終的に勝利の局面に至ることである。でたらめに手を打って試行錯誤を重ねたのでは、勝利はなかなか得られない。

 どういう手がよいかを途中で教えてくれる教師は、現実の世界には通常いない。勝ち負けは局面の最後で決まり、この結果がゲームの報酬である。


「『脳・心・人工知能』 甘利俊一著」より

このようなゲームをさせるAI技法は、一昔前(1980年代)のAIであれば探索と呼ばれる技法でした。これをニューロの世界でどう扱うかは、興味のある話題です。


こちらがある手を打ったからといってその結果局面がどう動くかは確率に従って決まる。ゲームの場合なら、相手の打つ手はわからないから、その時々でランダムな要因が入ってくる。このような問題は、「マルコフ決定過程」と呼ばれ、多くの研究があった。

 マルコフ決定過程での学習戦略は、心理学の言葉を使って「強化学習」と呼ばれる。最後の結果から、途中でのよい戦略を推定してこれを強化する。そのために、各局面(これを「状態」と呼ぼう)に対して、それがどのくらいよいかの価値付けをする。

 状態SV(S)の価値があるとしよう。S勝利に近い局面の場合はこの状態の価値が高いし、負けパターンなら低い。状態の価値は直接教えてもらえない。学習によって学び取らなければいけない。


同上

価値V(S)というのは、以前のAI評価関数と呼ばれていたものでしょうか? この評価関数をどう設定するかが大きな問題でした。そして、学習によってそれをどう改善していくか、というのも問題でした。しかし、私は上の引用で「確率」が出てくるところに違和感があります。と同時にここが鍵かな、とも思います。


状態Sにいるときに、自分はどんな手を打ったらよいだろう。可能な手はたくさんある。1つの手(アクションという)Aを選ぶと状態は変化し、SAとで決まる新しい状態S’=F(S,A)へと移っていく。

 しかしこれは確率的で、実際にはAを選ぶと、それによってSS’に移る確率が与えられる。ただし、この確率も未知である。状況が確率的であるから、自分の戦略も確率的にして、状態がSにあるときにアクションAを選ぶ確率を定め、局面を確率的に動かしていく。この確率を¥pi(A|S)と書こう。


同上

だんだん話が分からなくなってきます。


期待していた以上に結果がよい場合も、逆に悪い場合も、自分の認識がどこか事実と違っているということである。何が悪かったかというと、状態の評価V(S)が間違っていたのかもしれないし、Aを選ぶ確率が違っていたのかもしれない。結果が予想以上によかった場合にも、同じことがいえる。


同上

確かにここが課題の核心なのですが、ではどうやってそれを解くかというと、次のように非常にはしょった記述しかなく残念です。


このとき、現在の認識を変えなくてはいけない。変えるのは、状態S評価値と、それからAを選ぶ確率¥piである。これは確率分布の話なので、ここで確率降下法が使える。しかも、リーマン空間の中の話であるから、情報幾何を使った戦略自然勾配法が有力である。


同上

「これは確率分布の話なので、ここで確率降下法が使える」と言われても理解できません。「しかも、リーマン空間の中の話であるから」と言われても、今までの記述のどこに「リーマン空間」が出てきたのか分かりません。「情報幾何」はそれこそ甘利先生創始の学問ですが、これも私にはほとんど分かりません。私が理解しているのは、通信路における問題で、その時の雑音の特性によって空間の形を決めていくような話だったと思います。これが上のゲームの話とどう関連するのかさっぱり見当がつきません。

トラックバック - http://d.hatena.ne.jp/CUSCUS/20161019

2016-10-17

[]御船神社・牟弥乃(むみの)神社 御船神社・牟弥乃(むみの)神社を含むブックマーク 御船神社・牟弥乃(むみの)神社のブックマークコメント

f:id:CUSCUS:20161016072430j:image:right


伊勢神宮摂社末社の中で私がまだお参りしていない神社はまだいっぱいあって、その中の1つに昨日、お参りすることが出来ました。JR参宮線の外城田(ときだ)という駅の近くにあることを見つけたので、行って来ました。とても静かなところです。こんなところを歩いていると、新種のポケモンを探しているのと同じようなことを自分はしているのかな、とも思いました。


f:id:CUSCUS:20161016072651j:image:left



しばらく歩いていくと、めざすところが見えてきました。


f:id:CUSCUS:20161016073011j:image

f:id:CUSCUS:20161016073125j:image:left



お邪魔します。

御船神社・牟弥乃(むみの)神社と名前は二つありますが、御同座といって牟弥乃(むみの)神社御船神社で兼用しています。御船神社は内宮の摂社で御祭神は「大神(おおかみ)の御蔭川(みかげかわ)の神、牟弥乃(むみの)神社は内宮の末社で御祭神は「寒川比古(さむかわひこ)の命(みこと)、寒川比女(さむかわひめ)の命(みこと)」です。

そばには外城田川という細い流れの川が流れています。2007年に亡くなられた日本の古代史が専門の大阪教育大名誉教授鳥越憲三郎氏がその著書「伊勢神宮の原像」の中で外城田(ときだ)は元々キダという地名で、このあたりに内宮の摂社末社が多いのは、内宮の宮司の血筋である荒木田(あらきだ)氏の故郷がこのキダであるからだ、と推定されていたのを思い出しました。そして鳥越氏は荒木田(あらきだ)という氏(うじ)の名を新(あら)たなキダと解釈されていたと記憶しています。ところどころ私の記憶が間違っているかもしれませんが。


f:id:CUSCUS:20161016073320j:image:right


前の週には答志島の八幡神社と美多羅志(みたらし)神社をお参りしましたが、どうも最近、神前では何も考えないようになっているようです。今日は、「何かお願い事をする必要もない、ただ、この静かな気持ちにひたっていればそれでいいのだ」というふうに思えてきました。

鳥の声以外にはほとんど音のしないところでした。


トラックバック - http://d.hatena.ne.jp/CUSCUS/20161017

2016-10-16

[]フランソワ・ドマ著「エジプトの神々」を読む(6) フランソワ・ドマ著「エジプトの神々」を読む(6)を含むブックマーク フランソワ・ドマ著「エジプトの神々」を読む(6)のブックマークコメント

 オシリスは大地の神ゲブを父として、天空の女神ヌゥトを母として、生まれました。さて、古代エジプトの暦は一年を365日としていましたが、それは30日からなる月を12ヶ月数え、それに残りの5日を足して出来た暦でした。この残りの5日に、天空の女神ヌゥトは1日に一柱ずつ、子供を産みました。最初の日にはオシリスを、二日目にはハロエリスを、というふうに、以下、セト、イシス、ネフテュスを産みました。オシリス、ハロエリス、セトは男の神で、イシスとネフテュスは女神です。

f:id:CUSCUS:20100116201228j:image:left




白い帽子をかぶり椅子に座っているのがオシリス。その後ろに立っているのがイシスとネフテュス


 長ずるにおよんでオシリスはイシスを、セトはネフテュスをそれぞれめとりました。オシリスは王となって、人々に耕作を教え、法を定め、神々を敬うことを教えました。つまりは人々に文明を教えたのです。一方、このような目覚しい功績を上げることが出来ないセトは、オシリスを妬んでいました。そこで、セトは共犯者たちの手を借りて、奸計をめぐらしました。セトはひそかにオシリスの身体の寸法を計り、その寸法にぴったりの、美しく、見事に装飾をほどこした箱を作り、それを広間の宴席に運び込みました。そしてセトが言うのは

「どなたでもこの箱の中にお休みになって、お身体が箱にぴったり合う方がいらっしゃいましたら、これを進呈いたしましょう。」

と、こんなことを言いました。そこで人々が代わる代わる試してみましたが、誰もうまく合いません。最後にオシリスが箱の中に入って横になりました。するとセトの共謀者たちが駆け寄って、箱に蓋をかぶせ、外からボルトを打ち込み、熱く溶かした鉛をその上にかぶせて密封し、そのままナイル川へかついで行き、川に投じてしまいました。全てはあっという間の出来事でした。

https://upload.wikimedia.org/wikipedia/commons/b/bc/Seth1.png



セト


f:id:CUSCUS:20120814125152j:image:w400:left



イシス


 途方にくれたイシスは全土をさまよい、会う人ごとに声をかけ、箱のことを知らないかと尋ねました。一方、オシリスを閉じ込めた箱はナイル川から地中海に出て、そこから東に向かい、今のレバノンにあった古都ビュブロスの浜辺に打ち上げられました。すると、不思議なことにその箱のそばからエリカの木の芽が生え、またたく間に伸びて堂々とした若木になり、中に箱を包み込んでしまいました。その木の立派さに感銘を受けたビュブロス王は命令を発してその木を伐採させ、中にオシリスがいるのに気付かずにその木の幹を切って、王宮の屋根を支える柱にしました。やがてイシスはそのことを知り、ビュブロスにたどり着きました。そして王宮に神として現れ、王と女王に対して「我に屋根の下なる柱を与えよ」と言うやいなや、いとも容易にその柱を引き抜き、中からオシリスの棺を取り出したのでした。(ここに伝えられていない神秘な事情があり、イシスはオシリスの子を身ごもったらしい。やがてイシスは息子ホルスを産む。)

イシスは夫の死体をエジプトに持ち帰ってブゥトにこの棺を隠しました。しかし、月の光の下で夜狩りをしていたセトが偶然オシリスの死体を見つけました。セトは、これを14の断片に切断してナイル河に捨ててしまいました。それを知るとイシスは、パピルスの舟に乗って沼地を渡って探し回りました。一片一片探し回ったイシスは、一片見つけるごとにその場所に墓を建てていきました。こういう次第で、エジプトの各地にオシリスの墓があることになったのでした。イシスは最後に全ての断片を集めることが出来、妹ネフテュスとともに魔術によってオシリスを復活させたのでした。オシリスは冥界の王になりました。一方、ホルスのほうはセトに復讐の戦いを仕掛けて勝利し、エジプトの王になりました。

https://upload.wikimedia.org/wikipedia/commons/6/69/Osiris_tombe_arbre.gif


箱の中に寝ているのがオシリス。左側に立っているのがイシス。右側がネフテュス


さて、フランソワ・ドマの「エジプトの神々」の記述に戻ります。

しかし、オシリスは、イシスが君臨していた小島フィラエの真西、ビゲーすなわちギリシアのアバドンに墓を一つもっていた。


フランソワ・ドマ著「エジプトの神々」より

ビゲーもナイル川の中にある島です。このビゲーにはオシリスの「ふくらはぎ」が祭られていたということです。「すなわちギリシアのアバドンに」というのは、おそらくビゲーがギリシア語ではアバドンと呼ばれるという意味だと思います。ちょうど「アブー」をギリシア人たちが「エレファンティネ」と呼んでいたようにです。しかし、英語のWilipediaで調べてもビゲーがギリシア人たちにアバドンと呼ばれていたという記事が見つかりませんでした。

トラックバック - http://d.hatena.ne.jp/CUSCUS/20161016