Amazon Bedrock

本日、下記の書籍を読了しました。（ほぼ全編ハンズオン形式なので、読んだというよりハンズオンをやり終えたといった方が正しいかもしれません。） Amazon Bedrock 超入門 せっかくなので、読んだ感想などを記しておきたいと思います。（個人の感想ですので、予めご了承いただければ幸いです。） 必要となる前提知識など 良かった点 生成AIに関する用語などについて、平易な言葉で分かりやすく説明されている 手順が詳細に分かりやすく記載されている テキスト生成・画像生成・チャット・セマンティック検索など、幅広いユースケースを試すことができる 気になった点 まとめと次のステップ 必要となる前提知識など …

最近、LangChainを初めて触りました。まだ初歩的な使い方しか試していないですが、少ないコードで簡単に実装が出来るし、異なるモデルでもコードの流用が出来て、便利だなと思いました。もう少し使い慣れるために、練習として、AWSのアップデート情報を要約してみたいと思います。 参考書籍 LangChainとは SageMakerノートブックで試してみる 要約方法 LangChain関連のモジュールをインストール～BedrockChat用のオブジェクトを作成 テンプレートの作成 テキストファイルの準備とアップロード テキストファイルの読み込みと要約の実行 実行結果 テンプレートのプロンプトを少し変更…

最近、Amazon Bedrockを勉強中です。AWS SDK等でInvokeModel APIをコールしSDXLモデルのイメージ生成を行う場合、マネジメントコンソールのプレイグラウンドと比べて、より多くのパラメータを指定可能であることを知ったので、試してみました。 マネジメントコンソールのプレイグラウンドで指定可能なパラメータ InvokeModel APIで指定可能なパラメータ Boto3でパラメータを指定しイメージ生成してみた プロンプトでの画風指定とstyle_presetを併用してみる （結論）スタイルはケンカさせない方がよい マネジメントコンソールのプレイグラウンドで指定可能なパラ…

今回はAmazon Bedrockのプレイグラウンドから構成図を読み込ませ、IaCファイルが生成できないかを試しました。 背景 Amazon Bedrockは複数の複数の生成AIのFoundation Modelを提供するサービスです。Amazon BedrockはPlaygroundというコンソールも提供しており、ChatGPT / Claudeのように使うこともできます。 今回はAmazon BedrockのPlaygroundからAWSの構成図を渡し、CloudFormationの定義ファイルを生成できないか試してみました。 ※参考： ChatGPTでAWS CloudFormation…

こんにちは、こけしが趣味の坂本（@t_sakam）です。今回は、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」の裏側で利用している AWS のサービスや構成を確認していきたいと思います。 「AI 基盤くん」の構成は、ほぼ Alexa スキル制作の一般的な構成となっており、Alexa スキル制作界隈ではお馴染みの構成ですが、知らない方もいらっしゃると思いますので、何かの参考になれば幸いです。 具体的に Alexa スキルを一から作成する手順に関しては、「Alexa 虎の巻」シリーズに記載していますので、Alexa のスキル制作に興味がある方は、よろしければ、そちら…

こんにちは、こけしが趣味の坂本（@t_sakam）です。Claude 3 の最上位 モデルである Opus が Amazon Bedrock で利用できるようになりました。以前のブログで Claude 3 Sonnet が Amazon Bedrock で利用できるようになった際に Amazon Bedrock のチャットのプレイグラウンドで検証をおこないましたが、今回も チャットのプレイグラウンドで、簡単に実力を確かめてみたいと思います。 aws.amazon.com まずは、以前のブログと同じ 5 体の「こけし」の画像で確認し、その後、今回新しく 5 枚の「こけし」の画像を使って確認してい…

こんにちは、サーバーワークスのこけしの人、坂本（@t_sakam）です。今回は、Alexa スキル更新のお知らせです。タイトル通りなのですが、Amazon Bedrock を利用した Alexa スキル「AI 基盤くん」を更新しました！ 更新内容 AI のモデルを、新しく 2024 年 3 月 15 日に Amazon Bedrock で利用可能になった Anthropic 社の Claude 3 Haiku に変更しました。 Claude Instant V1 からの変更になります。 aws.amazon.com また、内部的なことになりますが、Claude 3 Haiku は、現在（202…

api-change:quicksight: 著者に対する明示的なクエリと、埋め込みユーザーのためのダッシュボード表示の共有をサポート api-change:bedrock: Amazon Bedrock Evaluation BatchDeleteEvaluationJob APIが、停止、失敗、完了した評価ジョブを一括で削除する機能を提供。最大25件の評価ジョブを一度に削除可能 api-change:route53: Amazon Route 53がアジア太平洋（マレーシア）リージョン（ap-southeast-5）でのレイテンシーレコード、ジオプロキシミティレコード、およびAmazon …

GraphRAG Analysis, Part 1: How Indexing Elevates Vector Database Performance in RAG When Using Neo4j Graph Retrieval-Augmented Generation: A Survey Controllable Text Generation for Large Language Models: A Survey 生成AIによるレポーティング業務の効率化：定常業務タスク自動化の実現 Meta Knowledge for Retrieval Augmented Large Languag…

はじめに こんにちは。DELISH KITCHEN開発部の村上です。 直近は社内でAmazon Bedrockを使った RAG基盤の構築をしています。その中でちょうど先月AWSから発表された advanced RAG機能 の中のAdvanced parsing optionsを検証も兼ねて使用する機会があったので紹介します。 Advanced parsing optionsとは Knowledge baseではS3や他のデータコネクターを指定し、データソースを作成、同期することによってOpensearch ServerlessといったベクトルDBにデータを格納しています。データソースはさまざま…

8月6～7日に開催された「AWS JumpStart 2024」へモビルスからもエンジニア4名が参加しました。 今回はSaaS Product DivisionでMOBI VOICEの開発を行っているプラディープ さんの参加レポートをお届けします。 ※原文は英語ですが日本語版のリクエストもあったため、後半に翻訳文を貼り付けしています。 What is AWS JumpStart AWS JumpStart offers a two-day workshop program designed to enhance your understanding of AWS and your archit…

こんにちは、igaです。 8月ももう終わりですが、まだまだ暑い日が続きますね。私は数年前から日傘を使うようになりましたが、晴れた日に外を歩く際、日傘があると少しだけ体感温度がましになるので、夏は日傘が手放せなくなりました。今回は、AWS Location ServiceをCDKで構築して、地図のスタイルをカスタマイズしてみました。 AWS Location Service AWS Location Serviceとは AWS Location Service（以降、Location Serviceと表記します）はAWSが提供する、地図や位置情報、移動経路などが利用できるサービスです。 aws.…

はじめに 電通総研 X（クロス）イノベーション本部 の三浦です。 2024年8月6日、AWS Bedrockを通じてClaude 3.5 SonnetとClaude 3 Haikuが東京リージョンで利用可能になりました。 これを機に「Amazon Bedrock」の試用をしてみました。 Amazon Bedrockとは Amazon Bedrockは、AWSが提供する生成AIサービスプラットフォームです。様々なAIモデルをAPI経由で、サーバーレスに利用できます。 トークン単位の課金となるため試用レベルなら非常に安く、学習環境や、検証環境でも試しやすいコスト感となっています。 参考までに202…

はじめに 夏本番のこの時期、皆様のご様子はいかがでしょうか。新人エンジニアの木介です。暑さにも負けず、毎日一歩一歩成長しています。 今回は先日紹介したPrompt Flows for Amazon Bedrockを使ったAdvanced RAGの実装方法についての紹介を行っていきます。 Prompt flowsを用いることでDifyと同じようにLLMとプロンプトを組み合わせたフローをGUIで作成でき、また、AWS上の各種サービスへ簡単に組み込むことが出来ます。aws.amazon.comacro-engineer.hatenablog.com はじめに 構築したアーキテクチャ 概要 Promp…

こんにちは、新人エンジニアの前田です。 最近、南海トラフ地震の臨時情報や台風などもあったりして、自衛のための事前準備は欠かせないなと思いました。さて、今回はDifyを使って複数の大規模言語モデル（LLM）を切り替えるチャットチャットボットを作ってみたいと思います。 なぜ、この内容をやってみようかと思ったかというと、Difyは、複数のLLMを利用できるのですが、 それらは、事前に設定を行って利用するもので、ユーザーが実行時に切り替えて指定ができなかったのですよね。 とはいえ、これもノーコードで実現できるのが、Difyの強みです。 1. 概要 1.1.Difyとは 1.2. この記事で実現すること…

はじめに こんにちは。パリ五輪はバドミントン混合ダブルスの熱いラリーに見入ってしまいました、コバタカです。ECサイトやカタログなど、商品の画像が必要になる場面は多々ありますが、スタジオで撮影しようとするとコストが嵩んでしまいます。 そんな時に活用できるのが、Amazon Bedrockで提供されているTitan Image Generatorというモデルです。 docs.aws.amazon.com 先日、このモデルの新しいバージョンであるTitan Image Generator G1 v2が発表されており、本記事でもこちらを使用していきます。 aws.amazon.comこのモデルには既存…

こんにちは。タイに来ても日本にある食べ物ばかり食べてしまっている@Ssk1029Takashiです。 この記事はACL2024参加報告記事の後半になります。 前半記事はこちらになります。 acro-engineer.hatenablog.com後半記事ということで、本会議最終日からWorkshopまでのことを書いていきます。 4日目（本会議最終日） 本会議最終日はSessionも少なめにAwardの発表やClosingがありました。 前半記事と同じく、SessionやPosterについては気になった論文という形で後述します。 Keynote 3 最後のKeynoteでは「Are LLMs Na…

はじめに こんにちは、DevOps グループの中島です。 弊社が開発しているサービスでは多くのアプリケーションが PHP で動作しています。そのうち、PHP 7.4 で動作しているアプリケーションを PHP 8.3 に置き換える際に、多くのコード修正が必要になりました。今回は、それらの中でも手で行うと手間のかかる部分について，生成 AI を活用して効率的に行った事例をご紹介します。 前提 アップデート前の主な依存ライブラリのバージョンは以下の通りです。 PHP 7.4, Laravel 6, PHPUnit 8 ここから、執筆時点で最新のバージョンである、 PHP 8.3, Laravel 1…

サーバーワークスの村上です。 先日、「導入して終わり」にしない、 生成AI活用のファーストステップと運用のコツというタイトルでウェビナー登壇させていただきました。 www.serverworks.co.jp ウェビナーではAmazon Bedrockの基本的な内容やRAG運用の弊社事例についてお話させていただきました。本ブログではRAG運用の弊社事例について簡単にまとめようと思います。 RAG運用のつらみ 日々溜まっていく利用データのうち、どこで精度の低い回答が生成されているのか分かりづらい 精度の改善方法が分からない 新しいモデルや機能が頻繁に登場するので追従するのが大変 サーバーワークス…