ディープラーニング

＜ AIのその先 っていうのも どんどん明確になってきているらしいです ＞ 人間は、自分たちが作り出した道具によって生活環境を大きく変えるっていうことを、大昔から何回も経験して来ていますよね。 原始の時代に「火」を道具として扱うようになって、食生活だけじゃなくって、焼いて、溶かして、生活インフラに与えた影響はとんでもなく大きなものだったでしょうね。 地球上にほぼまんべんなく生活していたであろう人間たち全員に、「火」の利用が伝わるのにどれくらいの時間を要したんでしょうか。 もちろん、同時多発的に各地で「火」を利用するようになったことも考えられますけれど、通信手段を持たない時代、国とか人種とかって…

『人間にディープラーニングは可能なのか』 このことについてNohJesuが話している動画があります。 www.youtube.com ディープラーニングといえばAIの進化がすぐに思い浮かびますが、このところのAIの進化は目覚ましく、AI研究の第一人者であるジェフリー・ヒントン氏もその危険性について警鐘を鳴らしているほどです。 このような事態を招いたディープラーニングですが、これは、人間だったら価値を見出せず無意識のうちに捨ててしまうような膨大な量のデータさえもひとつ残らず取りこぼさず、ビッグデータとして蓄積し、帰納論証的に結論を導き出す学習のことをいいます。 NohJesuの話の中で最も衝撃的…

PytorchでTraining済みのmodelを用いて推論を行う。 結果をtest dataのファイル名と一緒にcsv出力する。まずは、下準備 # module import import os import torch import torch.nn as nn import torch.optim as optim import torchvision from torch.utils.data import Dataset, DataLoader,TensorDataset,random_split,SubsetRandomSampler, ConcatDataset from tor…

機械学習ある程度やっている人が稀に遭遇する現象 あれ, testデータの方がtrainデータよりaccuracy高くね？ なんか変じゃね？すごい不安, このままリリースして問題ないの？この現象, もしかするとdropoutが原因かもしれません。この記事の内容を要約すると, 「modelのtrain時とeval時でbatch normalizationやdropoutの挙動が異なることから, testの方がtrainよりaccuracyが高くなる現象が発生している場合があるため, 評価方法を見直してみましょう」です。 では実際に, この現象を再現してみましょう。 まずはデータセットを作ります。 …

GPTに都々逸を作らせることは可能か BingChatAIは都々逸を理解しているのか 都々逸とは何か どうして都々逸は GoogleのAI サービスBardにも 締めの都々逸 GPTに都々逸を作らせることは可能か 遅ればせながら生成AIと都々逸について書いてみたい。 生成AIのChatGPTがインターネットに公開されたのは2022年11月末であった。マスコミ等によく取り上げられるようになったのは、もう少し後かもしれないが、公開からすでに半年ほど経っている。それでも、いまだにChatGPTという言葉を聞かない日はない。世間に与えた衝撃はすさまじいようだ。 生成AIにも画像生成や音楽生成、文章生成…

イギリス考古学情報heritagedaily AIディープラーニングは、考古学の分野では、物体や文書の分類、類似点の発見、3D モデルの構築、遺跡の検出に役立ちます。 研究者によると、アーカイブ内の数千枚の衛星写真の問題を強調しており、分析には大量のリソースが必要となるが、自動 AI システムを使用すれば、時間とリソースが大幅に削減されるとしている。 イタリアのボローニャ大学は、イラクのメイサン州でテストを実施し、AI アルゴリズムが 80% の精度で関心のある場所を正確に識別しました。 研究者らは、メソポタミア南部の氾濫原内の考古学的に記録された場所を表すベクトル形状で構成されるデータセット…

文系人間の心構え 最近はAIの普及が目覚ましくなっています。AIによって仕事が奪われてしまうということは以前からよく耳にすることです。私のような純粋文系の人間にとっては本当に危機感を抱くことなのでしょうか？本書は文系AI人材になるための具体的な知識や用語の概念を教えてくれる救いの1冊かもしれません。 スポンサーリンク (adsbygoogle = window.adsbygoogle || []).push({}); 【１】AI社会で職を失わないために 時代の変化とともに、今までも技術は進化してきています。手作業が中心だったこともPCの普及で劇的な変化が生じ、それに伴い新しい職種も登場するなど…

タイトル Graph-Toolformer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT Authors Jiawei Zhang 論文 https://arxiv.org/pdf/2309.16595.pdf この論文を解説します 専門外の人でも分かるように説明 この論文は、大規模な言語モデル（LLM）を使用してグラフの推論能力を向上させる方法について説明しています。具体的には、ChatGPTというツールを使用して、グラフデータを自然言語のプロンプトに変換し、LLMがその情報を解釈し…

タイトル: How to Catch an AI Liar: Lie Detection in Black-Box LLMs by Asking Unrelated Questions 著者: Lorenzo Pacchiardi, Alex J. Chan, Sören Mindermann, Ilan Moscovitz, Alexa Y. Pan, Yarin Gal, Owain Evans, Jan Brauner https://arxiv.org/abs/2309.15840 この論文の説明です。 専門外の人でも分かるように説明 この研究は、人工知能（AI）が嘘をついているかどう…

先日から英日Transformerの学習結果の報告を何度か書いてますが（エントリ1・エントリ2・エントリ3）、AWSでA100というGPUが8枚使える最高スペックのインスタンスが空いたので*1、コーパスとモデルを少し大きくして、Googleの有名な“Attention is all you need”論文のベースモデルに近い規模にしてみました。 具体的にいうと、All You Need論文では英語-ドイツ語の翻訳に関しては、 450万ペアの対訳コーパス 37000トークンのボキャブラリ辞書（byte-pair encoding） Transformerブロックはエンコ側・デコ側ともに6層 埋め…

ディープラーニングが出てきてニューラルネットに対して懐疑的な人たちの態度も大きく変化しました．理論をこねくりまわすよりも，実際に動くものの社会的な影響というのは大きいものです．一方，記憶というのはいまだによくわかっていないようです．chatGPT を見ているともはや記憶なんて超越しているようにも思いますが，汎用人工知能はともかく，人間個人個人を特徴づけているのはその人の経験した記憶だと思うので，その仕組みを探求することには意味があると思います．この本は第2次ニューロブームの終わった後に出た本なので，今となっては古い記述が多いかなという印象ですが，哲学に関する記述は興味深いです．AIや脳の人は哲…

１－２．人工知能研究の歴史 「天才たちの挑戦の歴史に涙止まらん。。」 「人工知能」の研究の歴史は、古くは1946年からスタートし、様々な天才たちが「人工知能ができるかもしれんぞ？！」と挑戦しては失望し、乗り越えては挫折し、、、そして80年近くたった今、ようやく実現化が見えてきた！という歴史があるそうです。 もう・・・涙出そうになりません？今世にも数多いる世界中の天才たちが、もう何十年も夢見て破れてどん底からまた立ち直って。。しかも顔も知ってるか知らない人たちがそれぞれの研究に支えられたり、失望したり、改良したり、ブレイクスルーしたり、挫折したり。。中には失意の中、生を終えた天才も多数いたと思い…

高忠実度単眼動的情景再構成のための変形可能な3Dガウシアン 原題：Deformable 3D Gaussians for High-Fidelity Monocular Dynamic Scene Reconstruction 暗黙的な神経表現は、動的なシーンの再構成とレンダリングに新たな道を開いた。それにもかかわらず、動的ニューラルレンダリングの最先端の手法は、これらの暗黙的表現に大きく依存しており、シーン内のオブジェクトの複雑な詳細を正確に捉えることに苦戦することが多い。さらに、暗黙的手法は、一般的な動的シーンにおけるリアルタイムレンダリングの実現に苦戦しており、幅広いタスクでの利用を制限…

タイトル: Can LLMs Augment Low-Resource Reading Comprehension Datasets? Opportunities and Challenges 著者: Vinay Samuel, Houda Aynaou, Arijit Ghosh Chowdhury, Karthik Venkat Ramanan, Aman Chadha https://arxiv.org/abs/2309.12426 この論文の説明です。 専門外の人でも分かるように説明 この研究は、人工知能（AI）が読解問題のデータセット（問題集のようなもの）を作るのに役立つかどうかを調…

夏の暑さもだいぶ落ち着いてきていよいよ秋めいてきました、そろそろサンマがおいしい季節ですね、菅野です。 AWSを用いて様々なアーキテクチャを作成することが可能ですが、どういった構成になっているのかを一目で表すには図が効果的です。 手動でPowerPointや、draw.io等の作図ツールを用いて作成することも多いのではないか、と思いますが、ChatGPTで簡単に出力できたら便利ですよね。 Advanced Data Analysysの動作環境ではDiagramsライブラリがインストールされていないため、Pythonコードを直接ChatGPTで動かして構成図を出力してもらうことはできませんでした…

DX的な仕事に関わり始めたのでとりあえずG検定取っとくかと思い2023/9/9に受験した。先ほど合格通知が届いたので忘れないうちに色々まとめておきたい。 届いた結果↓（数理・統計弱すぎるな） 感想 機械学習やディープラーニングに関するかなり幅広い知識を得ることができるので、業務で使うにあたっての知識インプットとしてはかなり良いと思う。この資格を取ったからと言ってAIを仕事で使えるかというとそんなことは無いが、基本情報の記事で書いたのと同じく「用語を知っている」状態になれるし、それこそが仕事では大事なのだ。 問題に関する率直な感想は「案外難しいなこれ」だった。教科書に載ってないような話とか結構な…

欲しかったデータサイエンス系の資格を全部取ったのでまとめます。 エンジニアではなくデータサイエンティスト寄りのため、AWS絡みやオラクルマスター等の実装系は弾いています（最終成果物がコードではなくレポートや資料であるジョブのイメージ）。 取った資格一覧 統計検定1級 データベーススペシャリスト データサイエンスエキスパート 応用情報技術者 G検定 データサイエンティスト検定リテラシーレベル Python3エンジニア認定データ分析 データサイエンス数学ストラテジスト上級 取った資格一覧 参考にステータス表示を付けていますが、無職の適当な主観なのであまり鵜呑みにしない方がいいです。当然ながら、基本…

大画面の液晶テレビを買いたいがどれを買ったらよいのか？Panasonic（パナソニック）のVIERA（ビエラ）とSONY（ソニー）のBRAVIA（ブラビア）、TOSHIBA（東芝）のREGZA（レグザ）を比較しながらテレビ選びのポイントを解説！ 更新：2023年9月24日 更新情報： 9月23日時点の家電量販店価格と価格の推移を更新しました。(2023年9月24日) 価格の推移にグラフによる月別推移を追加しました。(2023年8月15日) 8月5日時点の家電量販店価格と価格の推移を更新しました。(2023年8月5日) 7月10日時点の家電量販店価格と7月13日時点の公式サイトでの価格の推移を更…

はじめに ChatGPTとStable Diffusionの組み合わせを考えてみました。 どのような内容になったのか、ご覧いただければ幸いです！ はじめに 導入 (Introduction) インタラクティブな画像生成 教育やトレーニング コンテンツ生成のオートメーション アートとクリエイティビティ ゲームやエンターテインメント ファッションとアパレルデザイン 家具とインテリアデザイン 建築とアーバンデザイン さいごに (adsbygoogle = window.adsbygoogle || []).push({}); 導入 (Introduction) 近年、AI技術と画像生成技術が急速に進…