Cloudflare 30：AI Gateway ― AI の呼び出しの前に立つ関所

直接呼ぶと：費用も障害も、呼び出し元ごとにばらばら

AI Gateway を使わずに、アプリから各社の API を直接呼んでいる状態を考えます。

これらを解決するために、アプリの中に「記録する仕組み」「キャッシュする仕組み」「回数を数える仕組み」を自分で作ることもできます。でも、それを呼び出し元ごと、提供元ごとに作るのは大変です。

そこで、呼び出しを全部1か所に集めて、そこでまとめて面倒を見るという発想が出てきます。

一言でいうと：アプリと AI の提供元の間に立つプロキシ

AI Gateway は、AI の API のためのプロキシ（代理人）です。アプリは提供元に直接ではなく、AI Gateway に依頼を送ります。AI Gateway はそれを提供元に転送し、返ってきた答えをアプリに返します。その途中で、いろいろな仕事をします。

これは、00号で見た Cloudflare の基本の形（利用者とオリジンの間に立つリバースプロキシ）と同じです。違うのは、守る相手が「あなたのサーバー」ではなく「あなたが AI にかける費用と、AI の呼び出しの流れ」であることです。

導入のしかたは、驚くほど簡単です。呼び出し先の URL を、AI Gateway の URL に変えるだけです。OpenAI や Anthropic の SDK は、そのまま使えます。

キャッシュ：同じ質問には、保存しておいた答えを返す

最初の機能はキャッシュです。02号で見た CDN のキャッシュと、考え方は同じです。

ある依頼に対する答えを、AI Gateway が一定の時間覚えておきます。次にまったく同じ依頼が来たら、提供元には送らず、覚えていた答えをその場で返します。

どのくらいの時間覚えておくか（TTL）は、ゲートウェイの設定で決められます。依頼ごとに変えたいときは、cf-aig-cache-ttl というヘッダーで秒数を指定します。逆に、この依頼だけはキャッシュを使いたくない、というときは cf-aig-skip-cache のヘッダーで飛ばせます。

効果が大きいのは、「よくある質問への回答」「同じ商品説明の要約」「決まった文章の翻訳」のように、同じ依頼が何度も来る場面です。一方で、1人ずつ違う会話のような依頼には、ほとんど当たりません。

回数制限：1つのゲートウェイへの呼び出しを絞る

2つめの機能は回数制限（レート制限）です。

AI の API は、呼んだぶんだけ料金がかかります。アプリのバグで同じ呼び出しがループしたり、悪意のある人がボタンを連打したりすると、請求があっという間に膨らみます。

AI Gateway では、ゲートウェイごとに「一定の時間に何回まで」という上限を決められます。上限を超えた呼び出しは、提供元に送られずに AI Gateway が断ります。つまり、お金がかかる手前で止まるのです。

ただし、この上限はゲートウェイ全体に対するものです。「利用者1人あたり1分に5回まで」のように人ごとに絞りたいときは、Worker の中で数えるか、06号のレート制限（Workers の Rate Limiting バインディングなど）を組み合わせます。AI Gateway の回数制限は、「全体として、これ以上は絶対に使わない」という最後の安全装置と考えるとよいでしょう。

記録：すべての呼び出しを、あとから見られる

3つめの機能は記録（ログ）です。AI Gateway を通った呼び出しは、1件ずつ記録されます。

管理画面では、これらを一覧で見たり、条件で絞り込んだりできます。「利用者から変な答えが返ったと報告があった」というとき、その時刻の記録を開けば、実際に何を送り、何が返ったのかが分かります。

ただし、依頼と答えがそのまま残るということは、そこに個人情報や社外秘の内容が含まれていれば、それも残るということです。記録を残すかどうかはゲートウェイごと・依頼ごとに切り替えられます。扱うデータに合わせて設定しましょう（落とし穴のページでも触れます）。

費用：提供元ごと・モデルごとに、使った額を見る

4つめの機能は費用の集計です。記録したトークン数と、各モデルの料金表を元に、どの提供元の、どのモデルに、いくら使ったかの目安を出してくれます。

管理画面の分析のページでは、リクエスト数、トークン数、費用、エラー数、キャッシュに当たった割合などを、時間の流れに沿ったグラフで見られます。

これにより、たとえば次のようなことが分かります。

表示される費用は、あくまで目安です。提供元の料金の変更がすぐ反映されないこともあります。正式な金額は、各提供元の請求で確かめてください。

再試行と切り替え：失敗したら、別のモデルへ

5つめの機能は、失敗への備えです。

AI の提供元も、ときどき遅くなったり、エラーを返したり、止まったりします。そのたびにアプリの AI 機能が止まるのは困ります。

AI Gateway では、失敗したときにもう一度試す（再試行）ことや、別のモデル・別の提供元に回す（フォールバック）ことを設定できます。たとえば「まず OpenAI のモデルに頼み、失敗したら Workers AI のモデルで答える」といった形です。

2026年9月時点では、こうした振り分けはダイナミックルーティング（Dynamic Routing）という仕組みで設定するのが基本になっています。以前あった「Universal Endpoint」（依頼の中に複数の提供元を並べて順に試す方法）は、非推奨になっています。古い記事の書き方をそのまま真似しないよう注意してください。

アプリのコードに「失敗したら別の会社の API を呼ぶ」処理を書くと、提供元ごとの書き方の違いを全部アプリが抱えることになります。関所の側で切り替えれば、アプリは1つの呼び方のままで済みます。

導入：ゲートウェイを作り、URL を差し替える

AI Gateway を使い始める手順は、次のとおりです。

キャッシュの時間、回数制限、記録を残すかどうかは、ゲートウェイの設定画面で決めます。

1つ気をつけたいのが、ゲートウェイの URL はアカウント ID とゲートウェイ ID さえ分かれば組み立てられることです。提供元の API キーは別に要るとはいえ、他人に勝手に使われて記録が汚れたり回数制限を食いつぶされたりしないよう、認証付きゲートウェイ（Authenticated Gateway）を有効にしておくのがおすすめです。有効にすると、Cloudflare の API トークンを専用のヘッダーに付けた呼び出しだけが通るようになります。

使い方①：呼び出し先を、ゲートウェイの URL に変える

AI Gateway の URL は、次の形をしています。

https://gateway.ai.cloudflare.com/v1/{アカウントID}/{ゲートウェイID}/{提供元}

たとえば OpenAI のチャットの API なら、これまで

https://api.openai.com/v1/chat/completions

を呼んでいたところを、

https://gateway.ai.cloudflare.com/v1/{アカウントID}/my-gateway/openai/chat/completions

に変えます。末尾の openai の部分を anthropic や workers-ai などに変えると、他の提供元にも同じゲートウェイを通せます。どの提供元に対応しているかは、公式の Providers のページに一覧があります。

また、OpenAI の API と同じ形で書ける互換の窓口も用意されていて、モデル名の指定だけで複数の提供元を呼び分けられます。さらに 2026年には、Cloudflare の API（api.cloudflare.com）側にも提供元をまたいで使える窓口が加わっています。どの書き方が最新の推奨かは変わりやすいので、公式のドキュメントで確かめてください。

使い方②：Worker からの呼び方

Worker から使う場合の例です。Workers AI（28号）なら、env.AI.run() の3つめの引数でゲートウェイを指定するだけです。

const out = await env.AI.run(
  "@cf/meta/llama-3.1-8b-instruct",
  { prompt: "Cloudflare を一言で説明して" },
  { gateway: { id: "my-gateway", cacheTtl: 3600 } },
);

OpenAI の公式 SDK を使う場合は、baseURL を差し替えます。API キーは wrangler の secret（npx wrangler secret put OPENAI_API_KEY）に入れておきます。

import OpenAI from "openai";

const openai = new OpenAI({
  apiKey: env.OPENAI_API_KEY,
  baseURL: `https://gateway.ai.cloudflare.com/v1/${env.ACCOUNT_ID}/my-gateway/openai`,
});
const res = await openai.chat.completions.create({
  model: "gpt-4o-mini",
  messages: [{ role: "user", content: "こんにちは" }],
});

依頼ごとにキャッシュの時間を変えたいときは、cf-aig-cache-ttl ヘッダーに秒数を入れて送ります。SDK の多くは、追加のヘッダーを渡すオプションを持っています。

料金と制限：中心の機能は無料、記録の件数に上限

2026年9月時点の料金の骨格です。

AI Gateway 自体は、ほとんどの人にとって無料で入れられる関所です。キャッシュが当たれば提供元への支払いが減るので、入れたほうが安くなることもよくあります。

ログの保存件数の上限はプランによって違い、変わることもあります。本番で使う前に、公式の Pricing と Limits のページで確かめてください。

よくある落とし穴

AI Gateway でつまずきやすい点をまとめます。

とくに2つめは、見落とすと情報漏えいになります。「この依頼は、誰が送っても同じ答えでよいか」を、キャッシュを有効にする前に必ず考えてください。

他の機能とのつながり

AI Gateway は、AI を使う他の機能の「見張り役」です。

AI の機能を作り始めたら、最初からゲートウェイを通しておくのがおすすめです。後から入れることもできますが、記録は入れた時点からしか残りません。問題が起きてから「記録があれば」と思っても、過去の分は戻ってきません。