基盤モデル

はじめに こんにちは。サービスイノベーション部での石井です。 業務ではデータサイエンスやAI等の技術を活用したビジネス適用を行なっております。 データサイエンス分野に長く関わっていると手法やトレンドにも徐々に大きな変化が起きてきていると感じています。 膨大なパラメータを持った基盤モデル（大規模モデル）の登場はその大きな変化の1つで、データ分析に日頃接点の少ない方でも LLM*1 と言うワードを一度は耳にしたことがあるかと思います。 本記事ではそのような基盤モデルの中でもあまり馴染みのないグラフに特化した大規模グラフモデル（以降、Graph Foundation Model*2 と記載）を取り扱…

(GROOVE X Advent Calendar 2024 2日目の記事です） こんにちは！ふるまいチームのエンジニア、市川です！ 普段はLOVOTの意思決定エンジンを作っています。 趣味や仕事で論文を読むこともあります。 今後、読んだ論文をInside of LOVOTで紹介できればと思っています（紹介する技術がLOVOTで使われているわけではないです）。 今回紹介するのは「STEVE-1」です。 これはMinecraftというゲーム上で、エージェントに指示を出して行動させる研究です。 arxiv.org 前提知識 この論文を理解するためには、いくつかの重要な概念を押さえておく必要がありま…

先日、日本ディープラーニング協会主催（JDLA）の「CVPR2024技術報告会」にてモルフォの技術者が登壇いたしました。 www.morphoinc.com 昨年に引き続きまして、CVPRという国際学会の重要性や、今年のトレンドの分析、モルフォの技術者が注目した分野や論文について紹介しました。 当日の発表資料を共有させていただきます。 JDLA主催CVPR2024技術報告会 ー コンピュータビジョン技術の最前線 ー by @Morpho 発表動画については是非以下のリンクからご視聴ください。 https://www.youtube.com/live/uic0Z-Gk7ac

基盤モデル（Foundation Model）は、生成AI（Generative AI）の一部で、大規模な深層学習ニューラルネットワークです¹。これらのモデルは、膨大なデータセットに基づいて訓練され、データサイエンティストが人工知能（AI）をゼロから開発するのではなく、基盤モデルを出発点として、新しいアプリケーションをより迅速かつコスト効率よく強化する機械学習モデルを開発します¹。 基盤モデルは、一般化されたデータやラベル付けされていない幅広いデータに基づいて訓練され、言語の理解、テキストや画像の生成、自然言語での会話など、さまざまな一般的なタスクを実行できる機械学習モデルを表します¹。 基盤…