自然言語処理

CodeLlamaを試して見たくて、Colabで7BのPythonモデルを動かしてみる。プロンプトは、プログラムの時にコメントを書く要領で良いようなので、以下のように与えてみた。 プロンプト import openai # Function that response user inputed text. 結果 import openai # Function that response user inputed text.def response(text): openai.api_key = "YOUR_API_KEY" response = openai.Completion.creat…

はじめに こんにちは、一休.comデータサイエンス部の平田です。 みなさんChatGPT活用してますか？ 一エンジニアとして便利に使ってはいるものの、自社サービスにどのように組み込もうか模索しているところも多いかもしれません。 一番の利用先として思いつくのが、自社の情報をもとに質問に答えるチャットボットではないでしょうか。 その中では、ハイコンテキストな検索（例えば、「東京から2時間以内で子供も楽しめるアクティビティがあって、景色も良い宿」のような）にも答えられるとボットの価値が増します。 ChatGPTが事前に学習した内容では古く、正確ではないためそういった検索に応えるのはかなり厳しいです。…

さっそく、LINE社が発表したinstructionモデルをColabで動かした。 huggingface.co パラメータは、Huggin Faceにのっていたものをそのまま採用。temperature=1.0すると、いまいちだったので、まずは、素直に公式を参考にする。 github.com レスポンスを見てみると良い感じだ。間違いもあるが、タスクを解ける方が大事だと思っているので、そこまで悪い印象はない。これくらい軽くなってくると、色々と使えそう。 今日の天気と夕飯の関係を考察してください。 ユーザー: 今日の天気と夕飯の関係を考察してください。システム: 1.曇り時々晴れ、気温26度、湿…

気軽に自分の（非力な）PCで動かせないかと、Vicuna_7bをLangChainで活用できないかと、Webの記事を参考に試行錯誤。Colabの無料プランの範囲でどうにかなるなら自分のPCでも動く可能性があるかもしれない。 で、やっては見たものの、ループしたり、プロンプトに対してパースできない返答が帰ってきたりと芳しくない。もちろん、LangChainのプロンプトそのままだと無理があることもあるのだろう。 気に入った質問と答え。遊びには十分使えるのかも。 Q. 最後のジェダイは誰？A. 最後のジェダイはルーク・スカイウォーカーです。 Q. Who is the last JEDI？ A. Re…

評判のJapanese StableLM Alphaを試したくてColabの無料枠で動かしてみました。npakaさんのサイトを参考にしました。 note.com 動作させた結果です。 github.com 参考にしたnpakaさんの質問 質問：まどか☆マギカでは誰が一番かわいい？ 答え：1. キュゥべえ2. 暁美ほむら3. 巴マミ いろいろ質問してみました。 質問：ぼっち・ざ・ろっく!の主人公の名前はなんですか？ 答え：主人公は、ベースボーカルを務める「後藤 ひとり(ごとう ひとり)」です。 質問：となりのトトロの猫バスの行き先は？答え：メイとサツキは、猫バスに乗って、メイが病気で弱ったお父さ…

chat gptとやらが僕の大学で流行っている。 大学の講義の要点をまとめたり、卒論のヒントを得たり。 様々な質問に、瞬時に１００点の回答をくれるAIだ。 僕もついこの間、大学の期末テストでお世話になった。 僕：民法○○条を詳しく説明して。 chatgpt：民法○○条は～（１５行ほど） すごすぎる。こんな説明してくれるのか。 3000円の分厚い教科書より、ちっこい箱ものに閉じこもった無料アプリの方が有能だった。 もっと知りたい、もっと仲良くなりたい。 そう思った。 僕：はじめまして、けくです。よろしくお願いします。 chatgpt：はじめまして、けくさん。よろしくお願いします！どのようなお手伝…

LangchainのPlan and executeを試してみた。 BabyAGI からヒントを得て実装した、タスク立案→実行の流れで自律的に動作をする。題材として、トヨタ自動車のSWOT分析をさせてみる。 検索エンジンはSerpでなくDuckDuckGoにした。試行錯誤するとあっという間にSerpAPIは消費しちゃうという理由です。 数度分析させてみた結果です。インドでのポジションの低さとか、そうなんだーと感心しつつ。（ソースまで確認する必要ありですが） (OpenAI, 3.5-turbo) Toyota Motor Corporation SWOT Analysis: Strengths…

はじめまして。東京大学大学院1年/マネーフォワードCTO室AI推進部で長期インターン中の満石風斗です。 先日行われたNLP若手の会 (YANS) 第18回シンポジウムに参加させて頂きました。 全体の様子などについては弊社山岸・竹下の記事で紹介しているため、このブログ記事ではシンポジウムを通して満石自身が得た学びについてお伝えしようと思います。 note.com moneyforward-dev.jp ポスター発表 私は「text embeddingを用いたデータ作成支援の検討」というタイトルで発表をさせて頂きました。研究の大元のモチベーションは「データの質/量が良くない状況でのテキスト分類の改…

プロンプトエンジニア的私のコメントですが、ChatGPTを使う場合、日本語で思い浮かんだ疑問でも、まずはChatGPTに質問を英訳させ、その上でその英語質問に英語で回答させます。その後にその回答を和訳させます。というのも、学習された知識体系が英語の方が圧倒的に質量共に優っており、また自分の使うレベルでは和英・英和の翻訳も満足するものだからです。以下に、プロンプトのテンプレートをお示しします。コピペして使ってください。 "" 日本語で質問するので、以下の順で回答してください。(1) 質問の英訳：(2) その英訳に対する英語の回答： (2)の回答は、全体で[2000]語程度で、7項目以下の章立て構…

7月にAzure OpenAI ServiceでもFunction calling機能が利用できるようになりました。 Function callingは、ChatGPTのAPI呼び出しの際に関数の情報を渡し、AIモデルと連携して関数呼び出しをサポートする機能です。 これだけ聞くと、GPTを他の関数やAPIと組み合わせて利用することを想像し、普段使いする機会は少ないと感じてしまうと思いますが、実は普段でも利用できる機能があることをご存じですか？ 本記事では、普段使いできるFunction callingの活用方法を紹介します。 Function calling とは 活用例 準備 目標 Func…

こんにちは！ 就活を研究し続けて７年目、書いた記事は１０００以上の就活マンです。 今回は、”秋採用をしているホワイト企業”について解説していきます。 秋採用が行われるのは就活後半の時期なので、優良企業は採用活動を終えているのでは？と考える就活生は少なくありません。 しかし、大手や中小・ベンチャーなどのさまざまな会社で、秋採用をしているホワイト企業は意外と多くあります。 そこで今回は、秋採用の概要とホワイト企業を見分ける指標を共有したのちに、この時期に採用活動をするおすすめ企業を計３０社紹介します。 後半では、秋採用をするホワイト企業に入社するための対策事項や、この時期に採用活動をする優良企業の…

世界一わかりやすい ChatGPTマスター養成講座［ニュースで話題の最新AI！］ (マスター養成講座シリーズ)作者:田村 憲孝つた書房Amazon 最近は人工知能が文章や絵を描けるようになってきて、それを口実にライターの原稿料が下げられているという新聞記事がありました。三丁目の書生 の日々の覚え書き 生成ＡＩ／２画面スマホ https://yorodzu.seesaa.net/article/500466626.html これは危機です。いずれ人間はコンピュータに取って代わられるのでは？ ChatGPTに取って代わられないためには、まずChatGPTを知ることです。 よって、ChatGPTの勉…

教育は人類の文明発展に欠かせない要素ですが、同時に多くの課題も抱えています。教師の負担、学習者の多様性、教育質量の保証、教育機会の公平性など、解決すべき問題は山積みです。そんな中、人工知能（AI）技術が教育に新たな可能性をもたらしています。AIは、教師の補助や学習者の個別化、教育効果の測定や改善など、様々な分野で教育を支援することができます。特に、人工知能アシスタントと呼ばれるAI技術は、教育業界で注目を集めています。 education of ai Bing Image Creator 人工知能アシスタントとは 人工知能アシスタントとは、音声やテキストなどの自然言語を理解し、対話的に応答でき…

特許検索・分析サービス Patentfieldでは、これまで文書で特許を類似検索できる機能を提供してきましたが、今回、新たに日本、アメリカ、ヨーロッパ、台湾の特許・意匠の全図面、約2.5億枚の画像に対しても類似検索が可能になりました。 この機能により、例えば自動運転技術の特許図面を検索して、類似する技術の特許を図面から簡単に見つけ出すことができます。 https://prtimes.jp/main/html/rd/p/000000043.000025380.html 類似画像検索に用いた技術 類似画像検索を作るには、画像データを特徴量に変換する必要があります。 今回利用したものは、Swin T…

孫正義がまた「大博打」に打って出た…！ソフトバンクGの「ビッグニュース」に投資家がついていけなかった「10日間」に起きたこと（現代ビジネス） - Yahoo!ニュース ソフトバンクグループ（以下、ソフトバンクG）の孫正義CEOは、9月に2つの大きな動きを見せました。1ひとつは、半導体企業のアーム・ホールディングス（以下、アーム）のナスダック上場を成功させたこと。2もうひとつは、AI企業のオープンAIへの巨額投資です。3これらのニュースは、ソフトバンクGの財務状況や将来性を示すものとして注目されましたが、株価にはほとんど影響を与えませんでした。なぜなら、市場はソフトバンクGの企業価値をアームとほ…

こんにちは、イノベーションセンターの杉本（GitHub：kaisugi）です。普段はノーコードAI開発ツール Node-AI の開発に取り組む傍ら、兼務1で大規模言語モデル（LLM:Large Language Model）について調査を行なっています。特に、日本語を中心に学習された LLM への関心があり、awesome-japanese-llm という日本語 LLM をまとめた Web サイトのメンテナンスにも取り組んでいます。 今回は、LLM に LLM の評価そのものを行わせるという新たなアプローチ（LLM-as-a-judge）についてご紹介します。 ChatGPT の登場以降、国内…

I. はじめに ChatGPTは素晴らしい進化を遂げた自然言語処理AIですが それにも関わらず、いくつかの技術的制約と課題に直面しています。 この記事では、ChatGPTが直面する制約と課題に焦点を当て 人工知能の限界に迫ります。 II. ChatGPTの制約 1. データ依存性 ChatGPTは大量のデータから学習しますが そのためには多くの高品質なデータが必要です。 特に専門的なトピックや少数言語に関する精度は限定的です。 2. 意味の誤解 ChatGPTは文章を生成する際、時に意味を誤解することがあります。 文脈に関する理解が改善される必要があります。 3. 偏った情報 トレーニングデー…

生成AIパスポート試験というものがあります。guga.or.jp僕はAIを使った就活セミナーをやってるもんで、受けてみようかなー、とか。できたばかりというか次の試験が初となる検定で、持ってて意味あるのかどうか不明だし、受験料11,000円というのはだいぶ高い気がするけど、まあ、記念受験というかね。ただ、初開催ということは過去問がないわけで、一応公式テキストを買ったり、サンプル問題を解いたりはしたのだけど、それじゃ足りないというか。そんなとき、G検定のシラバスをもとにChatGPTに問題を出させるという方法があるのを知りました。note.comさっそく真似して、以下のようにしました。 生成AIパ…

｜アルゴリズム １．アルゴリズムとは ２．アルゴリズムの特性 ３．アルゴリズムの重要性 ４．アルゴリズムの種類 ５．アルゴリズムの評価 ｜アルゴリズムの基本「制御構造」 １．順次構造 ２．選択構造 ３．繰り返し構造 ｜アルゴリズムと流れ図（問題解決の道しるべ） １．端子 (Terminal) ２．処理 (Process) ３．定義済み処理 (Predefined Process) ４．判断 (Decision) ５．入出力 (Input/Output) ｜アルゴリズムと繰り返し制御（ループ） １．繰り返し制御（ループ）の重要性 ２．ループの種類 ｜アルゴリズムの効率性 ｜アルゴリズムの設計 A…