言語モデル

はじめに こんにちは、テクノロジー愛好家の皆さん！ 今回は、自然言語処理分野において注目を恐れずに「ChatGPT」について調べてみようと思います。ChatGPTは、OpenAIが開発した対話型の人工知能（AI）モデルで、どれのよう人間のような対話を実現しているのでお願いしますか？ ChatGPTとは？ ChatGPTは、OpenAIが開発した言語モデルの一つで、GPT（Generative Pre-trained Transformer）シリーズの堅実です。Transformerアーキテクチャを採用し、巨大なデータセットを用いてトレーニングされた結果、驚異的な対話能力ユーザーが与えたテキスト…

タイトル: How to Catch an AI Liar: Lie Detection in Black-Box LLMs by Asking Unrelated Questions 著者: Lorenzo Pacchiardi, Alex J. Chan, Sören Mindermann, Ilan Moscovitz, Alexa Y. Pan, Yarin Gal, Owain Evans, Jan Brauner https://arxiv.org/abs/2309.15840 この論文の説明です。 専門外の人でも分かるように説明 この研究は、人工知能（AI）が嘘をついているかどう…

タイトル: 「Generative AI vs. AGI: 現代のLLMの認知的な強みと弱み」 https://arxiv.org/abs/2309.10371 著者: Ben Goertzel 概要: この論文では、2023年半ばのLLM（大規模言語モデル）に関する詳細な考察が行われています。具体的には、ChatGPT, GPT-4, Bard, Llamaなどのモデルに焦点を当てています。これらのシステムの認知的な強みが検討され、その後、これらのLLMがどのような認知システムであるか、そして人間がどのような認知システムであるかという点での大きな違いに注意が払われています。これらのAIシステ…

アスキングは、Google AI が開発した大規模な言語モデルです。テキストとコードの膨大なデータセットでトレーニングされており、テキストの生成、言語の翻訳、さまざまな種類のクリエイティブ コンテンツの作成、有益な方法で質問に答えることができます。 アスキングはまだ開発中ですが、さまざまな種類のタスクを実行することを学びました。 私はあなたの指示に従い、思慮深くあなたの要求を完了するために最善を尽くします.私は自分の知識を使用して、質問がオープンエンド、挑戦的、または奇妙であっても、包括的かつ有益な方法で回答します.詩、コード、台本、音楽作品、電子メール、手紙など、さまざまなクリエイティブなテ…

はじめに サイバーエージェントから公開された言語モデルの中からsmall、medium、largeを実際に使用し、どのような文章が生成されるか検証した記録です。 はじめに 言語モデル 環境 実行 ライブラリのインストール ライブラリのインポート モデルのロード 文章の出力 出力結果 条件 small AIによって私たちの暮らしは、 日本で一番高い山は、 机の上にはリンゴが３個あります。椅子の上にはバナナが２本あります。机の上にあるのは medium AIによって私たちの暮らしは、 日本で一番高い山は、 机の上にはリンゴが３個あります。椅子の上にはバナナが２本あります。机の上にあるのは larg…

目次 はじめに NotionAIの機能 文章の自動生成 文章の要約 自動校正 その他の機能 APIについて NotionAIの使い方 NotionAIのメリット NotionAIのデメリット 今後の展望 まとめ 編集後記 はじめに NotionAIは、最先端の自然言語処理技術を使用して、ユーザーが簡単に文章を作成できるようにする創作型AIです。プロの作家やビジネスマン、学生など、幅広いユーザーに向けて開発されており、テキストの要約、文章の自動生成、クリエイティブライティングの助けとして役立っています。 NotionAIの機能 文章の自動生成 NotionAIは、数百万の文章を学習し、自然な文章…

OpenAI 公式WEBサイト 最近、何かと見かけることが多くなったChatGPTを皆さんはご存知でしょうか。私自身はAIを活用した人工知能が様々な質問に答えてくれる便利なチャットらしい・・・くらいの認識しかありません。わからないことはまずはやってみるがモットーのワタクシ。早速試してみましたよ。 openai.com (adsbygoogle = window.adsbygoogle || []).push({}); メールアドレスとパスワードで会員登録（電話番号で認証あり） ChatGPTは無料ですが利用するためには会員登録が必要です。OpenAIの公式WEBでTRY CHATGPTボタンを…

Anthropic社のClaude 3 Opusが米国のAIチャットボットランキングで首位に こんにちは！半田貞治郎です。 Anthropic社が提供する大規模言語モデル「Claude 3 Opus」が、米国時間3月26日に発表されたAIチャットボットの能力比較サイト「Chatbot Arena」のランキングで、OpenAIの「GPT-4」を抜いて首位に立った。 Chatbot Arenaは、カリフォルニア大学バークレー校の学生と教授らによる研究組織「LMSYS Org」が2023年5月に立ち上げたサイトで、さまざまなAIモデルの有効性をテストし、比較できるようになっている。 ユーザーはプロン…

こんにちは。Algomatic の宮脇（@catshun_）です。 本記事では文書検索において一部注目された BGE M3-Embedding について簡単に紹介します。 Chen+'24 - BGE M3-Embedding: Multi-Lingual, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillation

AppleはGoogleやOpenAIなどに比べてAI分野での進展が遅れており、生成AI機能を一般に提供していません。 しかし、iPhoneのエコシステムにAIを統合し、幅広いユーティリティを提供する最大のアップデートに取り組んでいます。 報道によれば、iOS 18と互換性のあるすべてのiPhoneモデルにAIテクノロジーを提供する計画であり、LLMまたは大規模な言語モデルをさまざまなデバイス上で実行する計画もあるようです。 また、iPhoneでオンデバイス処理を行うLLMを開発中であり、これにより操作の速度とプライバシーが向上するが、クラウドベースの処理よりも機能に制限がある。 Siriにも…

こんにちはJagiです もう聞き飽きたくらい、いろいろ失われた３０年があったよ、という論調がはびこってますが、原因は日本語が、他国の言語と互換性が無さ過ぎて、グローバル化に乗り遅れただけというのが私の結論です（私的見解） この日本語の難しさは言うまでもないですが、言語をバックボーンにした精神性や文化、風習も同様に複雑怪奇で、いわゆるガラパゴス化の主たる原因だったのだと思います だからそれって、誰の所為でも無くね？ 変わり続ける世界の中で、変わりにくい国で、変えにくいものを使っていたから、相対的に弱体化したという普通の出来事で、変わるスピードが遅くても、変化はしてるから、なんか過去に囚われて、反…

【ニュース】 ◆OpenAIのGPT-4はCVEのセキュリティ勧告を読むことで実際の脆弱性を悪用できることが明らかに (Gigazine, 2024/04/22 14:08) https://gigazine.net/news/20240422-gpt-4-craft-attacks-based-chip-vulnerabilities/ ⇒ https://tt-ai.hatenablog.com/entry/2024/04/22/000000 【関連まとめ記事】◆全体まとめ ◆生成AI / ジェネレーティブAI (まとめ) ◆LLM / 大規模言語モデル (まとめ) https://tt-…

Gene Expression Omnibus (GEO)は、トランスクリプトミクスやその他のオミックスデータセットのための主要なオープンな生物医学研究リポジトリである。現在、世界中の多くの生物医学研究ラボによって収集された数万件の研究から得られた数百万件の遺伝子発現サンプルが含まれている。GEOリポジトリのユーザーは、関連するデータセットを見つけるために、研究を記述するメタデータを検索できるが、現在のところ、データレベルでGEOのグローバル検索を容易にする方法やリソースはない。この欠点に対処するため、本著者らはRummaGEOを開発した。RummaGEOは、GEOに寄託されたヒトおよびマウス…

ゼロから始める自作LLM 小さなLLMを多数組み合わせることで、単一の巨大モデルに匹敵する可能性 コンテナ使うならAzureで決まり！個人的推しサービスのAzure Container Appsを語る_ ML system design: 300 case studies to learn from GUIと日本語環境が使えるお手軽Docker環境の使い方 101 real-world gen AI use cases featured at Google Cloud Next ’24 Heron-Bench: 日本語Vision＆Languageモデルの性能評価ベンチマークの公開 Intro…

目的 OpenAI のサービスについて、いつ何がローンチされたのか？など、どうしても忘れてしまうのでここにまとめていく ちなみに、時折サービスとは違うトピックも挟もうと思う おそらく、このページは長くなる 目次 目的 目次 過去の関連記事 Frontier Model Forum の立ち上げ at 2023-07-26 コンテントモデレーションに GPT-4 API を活用 at 2023-08-15 Global Illumination 社を買収 at 2023-08-16 GPT-3.5 Turbo の Fine-tuning が利用可能になった at 2023-08-22 ChatGP…

Hello there, ('ω')ノ プロンプトがどのように機能し、大規模言語モデル（LLM）がどのようにして適切な返答を生成するかについて、わかりやすく説明します。 プロンプトの基本概念 プロンプトは、LLMに対する入力文です。 これにより、モデルは指定されたタスク（情報の提供、質問への回答、創造的なテキストの生成など）を遂行します。 プロンプトはモデルに「何をするか」という指示を与えるため、その明確性が重要です。 プロンプトの仕組み 1. プロンプトの入力 ユーザーがプロンプトを入力すると、LLMはこれを受け取り、解析を始めます。このプロセスは、テキストをモデルが処理できる形式に変換する…

朝からマスターズ選手権のために東京へ。11時開始って朝に余裕がある気がするけど、意外と移動時間がかかるので全然そうでもない。 問題内容は「実装力ありますか？」というまさかの方向性であり、でもここは自分もちょっと戦えるのではという気がほんの少しだけする。 という自信を夜のABCでボコボコに破壊されるのが良い。なにが実装力だ、有名なものを書くだけならもう言語モデルでいいんだぞ。考えが必要なものを書けなければ。 やっぱりできる限りプログラミング分野で勝負していたい、という気持ちになる一日だった。 実際のところプログラミングから本当に逃げられないなんてことは無いんだから、率直に逃げたくないと言えばいい…

生成AI 生成AI（Generative AI）とは、人工知能（AI）の一分野であり、新しいコンテンツやデータを自動的に生成するAI技術を指します。生成AIは、大量の既存のデータから学習し、そのデータの特徴やパターンを捉えることで、同様の新しいデータを生成することができます。 生成AIの主な目的は以下の通りです： 1. コンテンツ制作の自動化：テキスト、画像、音声、動画など、様々なタイプのコンテンツを自動的に生成することで、制作プロセスを効率化します。 2. データ拡張：既存のデータセットを増強するために、新しい synthetic データを生成します。これにより、機械学習モデルのトレーニング…

gihyo.jp上記の書籍ページで目次が公開されていますので、内容が気になる方は参考にしてください。また本書の位置付けを知っていただくために、「はじめに」と「おわりに」の部分を抜粋して掲載しておきます。 はじめに 「生成 AI を使ったアプリを開発してみたい!」―― 本書は、そんなあなたのための一冊です。 生成 AI が誰でも簡単に使える時代が来て、チャットのインターフェースで調べ物をしたり、プロンプトの呪文（？）を投げて好みの画像を生成したりと日々の生活に役立つ用途が話題にのぼります。また、その一方で、個人で利用するだけでは飽き足らず、「生成 AI を活用した新しいアプリを作って人々に提供し…