この本は深層学習の流行初期の2017年という微妙な時期に出た本なので目次を見れば分かるとおりTransformer(またはBERT)は載っていません。Attentionについてはp.91以降に説明がありますが、Transformerの軸になっているSelf-Attentionについての解説はありません。
なのでこの本を手にする場合にはそのことに注意が必要です。
それでも(深層学習の父である)ヒントン博士の論文を起源としベンジオの論文が契機となった単語の分散表現の由来についての話(p.60-62)は個人的にはタメになりました。
特に、分散表現は技術的には「意味」をベクトル化するという高尚な事情よりは、現実的に計算可能な規模のデータに変換できるようになったことに意義があった(と自分は理解していますが)という話は興味深いところではあります。
ところで、この本は基本的には大学院等での教科書を想定した本ということもあって載っているサンプルコードは擬似コードだけで特定のプログラミング言語のものは載っていませんが、この本の一番最後にこの本の出版当時に利用可能だったと思われる深層学習のフレームワークの名前が挙がっている(p.209-210)ので普通にPythonを使っているようです。
無料のKindleアプリをダウンロードして、スマートフォン、タブレット、またはコンピューターで今すぐKindle本を読むことができます。Kindleデバイスは必要ありません。
ウェブ版Kindleなら、お使いのブラウザですぐにお読みいただけます。
携帯電話のカメラを使用する - 以下のコードをスキャンし、Kindleアプリをダウンロードしてください。
よく一緒に購入されている商品
+
+
総額:
当社の価格を見るには、これら商品をカートに追加してください。
ポイントの合計:
pt
一緒に購入する商品を選択してください。
この商品をチェックした人はこんな商品もチェックしています
ページ 1 以下のうち 1 最初から観るページ 1 以下のうち 1
著者について
著者をフォローして、新作のアップデートや改善されたおすすめを入手してください。
