機械学習

今回は Gradient Boosting Tree（勾配ブースティング木）を試してみる。 【目次】 Pythonでの実装コード SASでの実装コード SASでお試し（対象データ、データ加工） SASでお試し（モデル作成） SASでお試し（モデル評価） 参考 決定木を学習器としたアンサンブル学習であり、ブースティングと言われる手法。 ※XGBoost ではないのであしからず。 Pythonでの実装コード Pythonでは scikit learn で実装できる。 sklearn.ensemble.GradientBoostingClassifier — scikit-learn 0.24.2 …

こんにちは。 梅雨も明け、暑い日が続きますね・・・ 晴れていることは嬉しいですが、気軽に外を歩けないのが辛いです。 相変わらずドラムの練習もしているのですが、車に荷物を乗せスタジオまでに持ち運ぶ頃には汗だくで満身創痍です。 とはいえ、好きなことですので暑さに無理しない程度に？楽しんでいこうと思います！ はじめに 急に変わってお仕事の話ですが、昨年からAIに関する業務に携わっていて、最近ではオープンデータを活用して予測モデルを作っています（業務秘密もあるので、超ざっくりしてます笑）。 業務に携わる中で、タイトルの"pandas"を活躍しているわけですが、pandasの基礎のない私は闇雲にググりな…

AI100の疑問。No.001。Transformerでcifar10が上手く学習できない理由 疑問のステータス 未解決。 疑問の内容 Attention is all you needで有名なTransformerの画像への展開としてViT等があるが、これを画像のデータセットcifar10に適用した場合、たぶん、90%の正解が出せていないと思う。このデータセットは、CNN系のネットワークでは簡単に95%とか、もっと、98％とか出せる（当然、augmentationとかは使う）。 さて、これは何が原因か。 原因として考えられる方向性は2つ。 そもそもデータセットが不適切。CNN系のネットワーク…

AIが7歳ぐらいの子供にも劣る理由は、ｘｘｘだ。 話が捻じ曲がるかもしれませんが。。。。 ｘｘｘの回答 xxx = DNA 説明 話が捻じ曲がっているとは思いますが、 7歳ぐらいの子供も、DNAによって仕込みが入っており。 生命誕生から、既に35億年。 無限の数の生命体でパラレルに学習（トレーニング）した成果。 上記の時間と、数から考えて、そう簡単には、人は超えられないはず。

みなさんご機嫌麗しゅう、るーてくです。 今回は以前お話したLenovoのノートパソコン、IdeaPad Flex550の消費電力を計測したので記事にしました。 Flex550のキーボードの不具合についての記事はこちら↓ fire-informatist.hateblo.jp 最近のノートパソコンは３～４年前の同価格帯BTOデスクトップPCに匹敵する性能があります。 Flex550の詳細については今度別記事で紹介しますので、今回は消費電力についてだけまとめたいと思います。 Flex550について 検証機のスペック 消費電力計測方法と雑感 81X200AYJPの消費電力 感想

下記の書籍を参考にしてAIについて軽くまとめてみました。 栢木厚『基本情報技術者教室』(技術評論社、2021年) AIとは、人が行うような学習、認識、予測、判断などの知的な活動を、コンピュータにさせる取り組みや「技術」のことを指します。 学習の仕方は主に5パターンあります。機械学習、教師あり学習、教師なし学習、強化学習、ディープラーニングの5パターンです。 機械学習は、「大量のデータ」をコンピュータに解析させ、コンピュータ自らが「予測や判断」などをできるようにさせることです。 教師あり学習は、あらかじめ「問題と正解」をコンピュータに提示し、誤りを指摘することで、コンピュータ自らがその「特徴を学…

Perceiver: General Perception with Iterative Attention arxiv.org この論文のすごいところ これは、attention系です。 フーリエと位置エンコーディングで、画像をバイト列として処理しきっている。。。ように読める。 余談 CNNぐらいなら、みんなにわかりやすかったと思うのですが、だんだん、わからなくなってきましたね。。。。残念？ 引用されてるか(Google Schalorから引用） 2021/07/16

実は競プロやってます 競プロ = 競技プログラミングのことです。 本記事では詳しい競プロの説明はしません。非常に優秀な方がもっとわかりやすく説明している記事があるからです。 競プロの何やってるの？ 自分はAtCoderしかやってません(2021/07/25現在)。本当はもっといろんな種類やりたいです。しかし、社会人ということもあり時間がたくさんありません。ですので、日本語で一番やりやすいAtCoderから始めました。 実務ではあまり計算量やデータ構造、パズルを解いて快感が得られる機会が少ないので刺激欲しさに始めました。 競プロをやる理由 一番の理由は自分が尊敬する方々が仕事でのパフォーマンスに…

サイバーセキュリティ銘柄であるCRWDについて考察していきます。 ○事業内容 ・まとまったサイトを発見したので引用。 note.com kysu.jp ○市場 ・サイバーセキュリティ市場は10-15％程度のCAGRでの成長が見込まれています。 www.grandviewresearch.com www.mordorintelligence.com www.marketsandmarkets.com www.globenewswire.com www.fortunebusinessinsights.com ・いくつかサイトを調べてみたのですが、サイバーセキュリティという括りだとCRWDの占める割…

皆さん，パラドックスは好きですか？僕は大好きです．高校生の時の愛読書の一つがウイリアム・パウンドストーンの「パラドックス大全」だったくらいです．パラドックスが提示する思考の迷路をうろうろして途方に暮れるのはとっても楽しいですね． 最近，ネットワークフロー（輸送問題）における More-for-Less パラドックスを知ったので紹介します． 注意として，パラドックスは妥当そうな仮定から「論理的な矛盾」を導くもの（ラッセルのパラドックスなど）と「直感的でない結論」を導くもの（誕生日のパラドックス，バナッハ・タルスキのパラドックスなど）の二種類に大別することができますが，More-for-Less …

このブログ記事は、月刊I/O 2021年8月号に掲載された Teachable Machine に関する記事について書いたものです（※ 自分用の備忘録も兼ねて）。 月刊I/O で 4回にわたり掲載予定の『「Teachable Machine 」で機械学習』という連載について、その 1回目の記事が掲載された話になります。 先日発売された月刊I/O 2021年8月号の見本誌を受領！全4回の連載記事として執筆させていただいている『「Teachable Machine 」で機械学習』の 1回目が掲載された号になります。第2回は原稿を提出済みなので、あと2回分を書いていかねば！#TeachableMac…

本日紹介するのは、八谷大岳著「ゼロからつくるPython機械学習プログラミング入門」。 私はこれまで機械学習の本を何冊か読んできたが、古典的な機械学習に関する入門書は、実質的にscikit-learnのチュートリアルで終わっていることも多い。機械学習の中身をもう少し踏み込んで理解したいと思い、本書を読んでみた。書名からはコーディング中心の本という印象を受けるが、本書の性格はどちらかと言えば「サンプルコード付きの理論書」である。「理屈はともかく写経しろ」という内容を想定していると面食らうことになるが、そもそも昔ながらの機械学習は深層学習以上に数学そのものであり、その中身を理解するうえで数学は避け…

エレクトロニック・アーツは，2021年10月1日の発売を予定している「FIFA 22」（PC / PS5 / Xbox Series X / PS4 / Xbox One）のバーチャルプレビューイベントを実施した。オンラインで実施されたこのイベントはメディア関係者に向けたもので，開発者が「FIFA 22」のセールスポイントについてプレゼンテーションを行った。 ここでは新世代ハード版にのみ導入されているテクノロジー「HyperMotion」について詳しく解説された。本稿ではその模様をレポートする。「FIFA 21」 プレゼンテーションの冒頭に，最新の公式トレイラー映像が流された。ピッチ上で激しい…

はじめに 先日、アソシエーションルールマイニングに基づく推薦を民主化するライブラリ「AutoARM」をリリースしました。AutoARMはPythonで実装されており、PyPIで公開されています。 pypi.org またオープンソースソフトウェア（OSS）としてGitHubで公開されています。 github.com ゼロからアイデアを生み出したことからリリースするところまででさまざまな経験をしました。そこで、さまざまな学びがありました。本記事はAutoARMをリリースするまでの記録です。 開発に至る動機 AutoARMの開発に至る動機は３つあります。 “アソシエーションルールマイニングに基づく推…

Appleは専用のA13チップやNeural Engineを搭載した新しい外付けディスプレイをテストしているという情報が出ています。9to5Macが匿名の関係筋から得たとして伝えているもので、新しいディスプレイは「J327」というコードネームで開発されています。 現時点では技術仕様に関する詳細は明らかになっていませんが、関係筋によれば、このディスプレイにはApple製SoCが搭載され、現在のところiPhone 11のシリーズに採用されているものと同じ「A13 Bionic」チップになるとみられています。 Pro Display XDR

コードキャンプゲートはどんな特徴がある？ コードキャンプゲートと他のスクールとの違いは？ 結論から言います。 コードキャンプゲートの他スクールにない特徴 全国に転職可能 チーム開発あり 国家資格キャリアコンサルタントによるキャリア支援 これらを深堀していきます。この記事が気になっている人は、コードキャンプゲートが気になっている人だと思います。 まずは、無料の受講相談を受けることがおすすめです。迷っている時間があれば先に疑問を解消した方が効率的です。 無料受講相談を受けるメリット IT企業の情報収集ができる カリキュラムが自分と合うか確認できる 割引クーポンがもらえる 受講相談を受ける ただ、時…

1980年以前に使われていた？dpマッチングを実装してみました。 手法について どんなの？ あらかじめラベル付けしたテンプレート音声を用意しておき、 入力音声と書くテンプレートの類似度（近さ）を測り、最も近いテンプレートのクラスを出力する手法です。 類似度はどうやって計算するの？ 類似度の計算には、MFCC特徴量のユークリッド距離を用います。 距離が小さいほど、MFCC特徴が類似しています。 距離計算で困ることは？ 上の式は「ある1フレーム同士の距離」しか測れません。 同じ長さの音声同士なら簡単ですが、異なる長さの音声を比較したい場合、どのフレームと比較すればよいでしょう？ 同じ内容音声でも、…

例文1 英文 Domain adaptation is a field associated with machine learning and transfer learning. This scenario arises when we aim at learning from a source data distribution a well performing model on a different (but related) target data distribution. For instance, one of the tasks of the common spam fi…

「塾長～、京都大学主催 人工知能講座 の広告をgmailの広告で見ました。」www.kyodai-original.co.jp「内容はどんなのなの?」「理論だけでなく、Pythonなどを用いたクラウド上での開発演習を行うこともでき、実践的な技術を身につけることもできます。って書いてありました。」「書いてあるね。国民の税金で、潤沢な資金で広告まで出してもらえるってPythonいいね。国民の税金が、京都大学を通して、Googleへ移動しているんだね。すごい政治力じゃん。」「Perl元気塾って、何かありましたっけ?」「うん、Perlディープラーニング入門 - 深層学習・機械学習の基礎数学というのがあ…