LiteLLM

【要点】 ◎LiteLLMに認証不要のSQLインジェクション脆弱性が見つかり、公開直後に悪用が確認。データベース改ざんや不正アクセスの危険が指摘された

【要点】 ◎LiteLLMに認証不要のSQLインジェクション脆弱性が見つかり、公開直後に悪用が確認。データベース改ざんや不正アクセスの危険が指摘された

はじめに NTTドコモデータプラットフォーム部（以下DP部）黒須です。 2025年12月現在、社内データ活用プラットフォームPochiの運用開始から2年以上経過し、130名を超える開発者がアプリの開発をしています。 現在プラットフォーム運営チームでは、生産性・品質向上のために、開発者に向けてVibe Coding環境を展開しています。 展開を進めるにあたり、コスト管理の観点から「誰が」「どれくらい」利用したのかを把握できる環境の構築が課題となりました。 本記事では、LiteLLMを用いてコスト管理基盤を実現した事例をご紹介します。 以降の詳細部分については、NTTデータの業務委託先メンバーであ…

以前、Strands Agentsで無理やりAzure OpenAIを利用するブログ記事を書きました。 Strands AgentsはAzure OpenAIをネイティブにサポートしていないのですが、上記ブログではモジュールの一部を書き換えることで、Azure OpenAIを呼び出せるようにしました。 ただ、前回のブログで予言していた通り、Strands Agentsのバージョンが上がったら、この方法は使えなくなってしまいました。 今後、Strands Agentsのバージョンが上がった場合、想定通り動かなくなる可能性があります。とりあえず、後述の動作確認環境では動いたとご認識いただければ幸い…

はじめに 記事を開いていただきありがとうございます。サーバサイドエンジニアのオーです。 今回は「LiteLLMを利用したAI活用基盤」をテーマに「システム構築例」と「運用面のメリット」を簡単に紹介します。 LDIでは、業務生産性の向上の一環としてAIの導入活動を積極的に進めている段階であり、2025年度の取組拡大領域として、「ローソンアプリ領域開発におけるAIエージェント導入」を進めております。そのスタートの一環として、「AIエージェント向けのLLM利用を統合管理する基盤」の構築を試みました。 AIエージェントにおけるLLM、ユーザー、予算などの運用管理にご興味のある方の一助になれば幸いです。…