社内LLM基盤を提供開始、AI運用を標準化

企業内での生成AI活用が直面する具体的課題と立ち上がった基盤の意図

MakeSomethingNew株式会社は、2026年5月21日 09時10分に社内向けのLLM基盤構築サービスの提供開始を発表しました。本サービスは、社内アプリケーション、チャットUI、AI AgentなどからのLLM利用を一元化し、認証認可、モデルルーティング、利用ログ参照、監査対応を共通基盤として整備することを目的としています。

発表文では、企業が生成AIを個人利用や部門単位の試験導入から業務システムやワークフローと接続した本格運用に移行する過程で生じる複数の運用課題が列挙されています。具体的には、権限管理のばらつき、モデルごとのコストやレイテンシ管理の欠如、監査ログの取得困難、障害時の代替経路確保の不足などが挙げられており、これらを統合的に解決するための基盤整備が狙いです。

プレスリリースには、モデルプロバイダーを用途や状況に応じて使い分ける構成を想定している点が明記されています。対象としてはAzure OpenAI、OpenAI API、Groq、OSS LLMなどがあり、運用上の可用性向上やコスト最適化に寄与する設計となっています。

社内LLM基盤の主要機能 — 認証認可からAI Agent接続まで

提供される基盤は大きく分けて4つの柱で構成されます。1)社内ID連携による認証認可、2)複数プロバイダーへのルーティング、3)利用ログ・監査ログの可視化、4)AI Agentが必要とする社内接続基盤です。これらを共通化することで、各アプリケーションが個別実装で抱える重複作業を削減し、セキュリティや運用の一貫性を確保します。

以下に、プレスリリースで示された各機能を詳述します。各項目は企業運用の実務課題に直接対応する設計思想に基づいており、実運用での適用性を重視した構成です。

認証認可（社内ID連携）

基盤は社内のID基盤と連携し、ユーザー、部門、アプリケーションロールに応じて利用可能なモデルや用途を制御します。プレスリリースでは具体例としてEntra IDなどの連携を挙げています。

この仕組みにより、個人利用の拡散を防ぎ、企業の統制に沿った生成AI活用が可能になります。管理者は権限ベースでアクセスを制限し、利用ポリシーを適用できるため、コンプライアンス対応が容易になります。

複数LLMプロバイダーへのルーティング

基盤はAzure OpenAI、OpenAI API、Groqなど複数のプロバイダーを束ね、モデル特性やレート制限、応答速度、コスト、障害状況に応じてリクエストを振り分けます。これにより、特定モデルやリージョンで障害が発生した場合でも代替先への切り替えが可能です。

プレスリリースは、レート制限や障害時の業務影響を低減する運用設計が重要であると指摘しています。ルーティングは単なるラウンドロビンではなく、モデルと業務要件のマッピングに基づいた柔軟な振り分けを想定しています。

利用ログ・監査ログの可視化

ユーザー、部門、アプリ、モデル単位でトークン使用量、レイテンシ、エラー、コストを追跡できるようにする点が本サービスの重要な特徴です。運用チーム、セキュリティ部門、事業部門が同じログを参照して利用状況の把握や監査対応を行えます。

可視化により、横断的なコスト管理やパフォーマンス改善、監査証跡の確保が実現します。これにより、企業全体での生成AI利用に関する透明性が向上します。

AI Agent構築に必要な社内接続基盤

基盤は単にLLM APIを中継するだけでなく、AI Agentが参照する社内データ、実行するツール、呼び出す業務APIを管理可能な形で接続します。これにより、Agentの動作やデータアクセスに対する統制が取りやすくなります。

開発チームは認証・ログ・ルーティングなどの共通機能に煩わされることなく、各業務に特化したAgent設計に集中できるようになります。結果として導入期間の短縮や品質向上が期待されます。

導入を想定する企業像と運用上のメリット

プレスリリースでは、想定する導入シーンが具体的に列挙されています。全社的に生成AI活用を進めたい企業、複数部門でAI Agentを導入したい企業、複数LLMを使い分けたい企業、社内チャットや業務システムへLLMを組み込みたい企業、LLM利用量やコストを一元的に可視化したい企業などが対象です。

これらの導入シーンに対して、基盤は以下のような運用上のメリットを提供します。

• 権限管理の一元化によるセキュリティの向上
• プロバイダー間の切替による可用性と性能の安定化
• トークン使用量やコストの部門別集計による経営管理の精度向上
• 監査ログ整備により規制対応や内部監査の負荷軽減

加えて、基盤を導入することで、業務APIや社内データに安全に接続する設計が可能になり、AI Agentの実運用に必要なガバナンスを確立しやすくなります。

MakeSomethingNewの事業領域とサービス詳細、問い合わせ先

MakeSomethingNew株式会社は「新しい何かを創造する」を掲げ、NPO向けシステム開発、生成AI活用支援、Web開発を主な事業としています。生成AI・LLMを用いたWebサービス開発、AI Agent構築、プロンプトエンジニアリング、業務システムへのAI組み込みなどを通じて組織の事業開発と業務改善を支援しています。

社内LLM基盤構築サービスの詳細や導入検討に関する案内は、サービスページで公開されています。問い合わせはプレスリリースに記載された窓口にて受け付けています。

サービスページ

https://llm-infra.makesomethingnew.jp/

会社ウェブサイト

https://makesomethingnew.jp/

お問い合わせ

eiichi_sugiyama@makesomethingnew.jp

本文の要点まとめ

以下の

本稿では、MakeSomethingNewが公開した社内LLM基盤構築サービスの発表内容を整理して紹介しました。企業が内部で生成AIを安全かつ効率的に運用するために必要とされる認証認可・ルーティング・ログ管理・AI Agent接続といった要素が、共通基盤として提供される点が本サービスの中核です。導入を検討する企業は、想定される導入シーンや管理項目を踏まえて社内要件と照らし合わせることが実務的な第一歩となります。