AI Gateway は、LLM エンドポイント、コーディング エージェント、およびモデル サービス エンドポイントを管理および監視するための Databricks ソリューションです。 AI Gateway を使用して、使用状況の分析、アクセス許可の構成、プロバイダー間の容量の管理を行います。
AI ゲートウェイ (ベータ)
新しい AI ゲートウェイ エクスペリエンスは ベータ版で利用できます。 AI Gateway (ベータ) は、豊富な UI、監視性の向上、拡張された API カバレッジなど、強化された機能を備えた LLM エンドポイントとコーディング エージェントを管理するためのエンタープライズ コントロール プレーンです。
| トピック | Description |
|---|---|
| AI ゲートウェイ (ベータ) | AI Gateway (ベータ)、サポートされている機能、および使用を開始する方法について説明します。 |
| AI ゲートウェイ エンドポイントを構成する | LLM とコーディング エージェントの AI ゲートウェイ エンドポイントを作成して構成します。 |
| AI ゲートウェイ エンドポイントのクエリを実行する | OpenAI クライアントとその他のサポートされている API を使用して、AI ゲートウェイ エンドポイントのクエリを実行します。 |
| AI ゲートウェイ エンドポイントの使用状況を監視する | システム テーブルを使用して、AI ゲートウェイ エンドポイントの使用状況とコストを監視します。 |
| 推論テーブルを使用してモデルを監視する | Unity カタログ デルタ テーブルの要求と応答を監視および監査します。 |
| コーディング エージェントとの統合 | Cursor、Gemini CLI、Codex CLI、Claude Code などのコーディング エージェントを AI ゲートウェイと統合します。 |
注
AI Gateway の機能では、ベータ期間中に料金は発生しません。
エンドポイントの提供
AI ゲートウェイ機能は、外部モデル エンドポイント、Foundation Model API エンドポイント、カスタム モデル エンドポイントなど、モデル サービス エンドポイントでも使用できます。
| トピック | Description |
|---|---|
| エンドポイントを提供するための AI ゲートウェイ | サポートされている機能や制限事項など、エンドポイントにサービスを提供するための AI Gateway の機能について説明します。 |
| Model Serving エンドポイントで AI Gateway を構成する | エンドポイントを提供するモデルで、使用状況の追跡、ペイロードのログ記録、レート制限、ガードレールなどの AI ゲートウェイ機能を構成します。 |
| AI ゲートウェイ対応推論テーブルを使用して提供されるモデルを監視 | AI ゲートウェイ対応の推論テーブルを使用して、提供されたモデルを監視します。 |