Udemy 新コース: 作って学ぶPower BI!

AI Builder のAI プロンプトの消費クレジットの「実質価格」をAzure OpenAI Service と比較してみる

2024年2月のライセンスガイドにはAI Builder のGPTプロンプトの機能である、テキストを作成する というアクションのクレジットがいくらになるかという表記が記載されました。

Power Platform ライセンスガイド

ダウンロード

最新のライセンスガイドのダウンロードはこちらから可能です。

最新の情報はこちらを参考にしてくださいね。

Power Platform ライセンスガイド(英語)

AI Builder クレジット消費レート表

公式のライセンスガイドには以下のように比較表が記載されています。

AI プロンプトでは、Power Apps からでも、Power Automate からもインターフェイスは関係なく16クレジットが1000トークン(1k)ごとに消費されるのが目安として書かれています。

16刻みではなく、実際のトークン数で消費されます。「実際の消費レポートを確認してみる」セクションをご確認ください。

ライセンスガイド(P27)公式情報

画像に alt 属性が指定されていません。ファイル名: image-66-1024x681.png

Azure OpenAI Service の費用と比較してみる

コレがどれぐらいの費用感なのか理解するために、Azure OpenAI Service (AOAI)の費用と比べてみます。

前提条件

比較表

分類モデルコンテキストインプット
(1,000 トークンあたり)
アウトプット
(1,000 トークンあたり)
AI BuilderGPT-3.5-Turbo 非公開16 クレジット($0.008)16 クレジット($0.008)
AOAIGPT-3.5-Turbo (16K)16K$0.003$0.004

実際の消費レポートを確認してみる

実際は16クレジットずつカウントされているわけではなく、細かくカウントされています。実際の消費を見てみると、16刻みになっていないことがわかります。

AI Builder の活動にて確認することが出来ます。

モデルのアクティビティを監視する (プレビュー) | Microsoft Learn

料金計算ツールではこのように解説されています。

ある企業が顧客からリクエスト メールを受信して 処理しています。各 GPT リクエストには、メール入力 (平均 500 ワード分の 350 トークン) とリクエスト (300 ワード分の 210 トークン) が含まれます。生成される回答は約 500 ワード (350トークン) です。 AI Builder GPT と Power Automate を利用して回答を自動化し、毎月 20 万件のメールを処理する場合、その企業は 300 万のサービス クレジット (AI Builder を 3 ユニット分) を購入する必要があります。
AI Builder 計算ツール | Microsoft Power Apps

費用を比較するうえでのポイント

AI Builder AIプロンプトのほうが高く、純粋なAOAI よりざっくり倍ぐらいの費用感になっています。

しかしちょっと待ってください!ここで費用比較の際に考えるべきポイントが3点あるかと思います。

1. AI Builder にはインフラ、セキュリティコストが含まれている

もし、Power Platform からAzure のサービスであるAOAI に接続する場合、どのように接続するかを検討する必要があります。

例えばオンプレミスデータゲートウェイを経由して接続する必要があるとなった場合、安全性のため、オンプレミスデータゲートウェイは冗長構成を取る事が推奨されています。複数のVMを構成するのかどうかも検討する必要がありますし、そのVMの消費コストも発生します。

オンプレミス データ ゲートウェイとは | Microsoft Learn

上記の図は説明のために簡素化しています。実際にはAzure OpenAI Service は仮想ネットワーク上にあるのではなくサービスとして展開されます。API Management によって特定の仮想ネットワークからのアクセスのみを許可している構成のイメージとしてお考えください。

2. AI Builder には保守運用コストが含まれている

接続を考えてインフラまで構成するということは、そのお守りまで考えないといけないということです。

上記のようにオンプレミスデータゲートウェイまで設置して運用するということは、サーバーがダウンしていないか、CPU使用率に問題がないか、OSのアップデートを行えているか、などのインフラの運用作業が必要になります。

AI Builder の場合、それをアウトソースできるため管理者目線では考えなくて良い、費用が含まれていることになります。

「考えないでいい、任せられる」という方が個人的には精神的な負荷が少なく良いなと思います。

3. Power Apps Premium ユーザーライセンス等にクレジットが付帯してくる

最後にポイントとなるのは、Power Apps Premium のユーザーライセンスにもAI Builder のクレジットが付帯しているということです。範囲を超えない利用の場合、AI Builder アドオンライセンス無しでOKということになりますので、例えば:

すでにPower Apps Premium ライセンスが1,000ライセンスあると、1ユーザーライセンス当たり500クレジットが付帯しますので500,000クレジットが組織にはプールされていることになります。

OCR2GPTのシナリオでは、OCRに3クレジット、AIプロンプトに大体15〜30クレジット使いますので、1ページあたり25クレジットとすると、2万ページ/月を付帯分だけで処理できることになります。

クレジットは次の月に持ち越しできないので、もし余っている場合はある意味無料でGPTを使える余地があるということです。

どのライセンスにどれだけAI Builder が付帯しているかというと、こちらの通りです。

これを見ると、Power Automate Premium ってすごくお得に感じます。もし、AI Builder アドオン $500 を購入するならPower Automate Premium $15 を33ユーザー分($495)購入して、165,000クレジット付帯する方がお得感あります。165000クレジット分あれば、OCR2GPTのシナリオ(25クレジット/1ページとして)にて6600ページが処理できる計算になります。

ライセンスクレジットの数ルール
(テナントあたりの最大)
AI Builder アドオン (T1、T2、T3)1,000,000ありません。
Power Apps Premium500 1,000,000 クレジット。
アプリごとの Power Apps2501,000,000 クレジット。 *1
Power Automate Premium5,0001,000,000 クレジット。*2
Power Automate プロセス5,0001,000,000 クレジット。
Power Automateホスト型 RPA アドオン5,0001,000,000 クレジット。*2
Power Automate 非アテンド型 RPA アドオン5,0001,000,000 クレジット。*2
Dynamics 365 F&O20,00020,000 クレジット。

*1: 2022 年 11 月より前に購入したアプリごとのライセンスにはクレジットは含まれません。

*2: この最大値はまだ適用されていません。

AI Builder ライセンスとクレジットの管理 | Microsoft Learn

AI Builder のモデルごとに消費するクレジットの計算を行うツールがこちらに提供されています。
AI Builder 計算ツール | Microsoft Power Apps

AI Builder AIプロンプトはいい事づくし?

そういうわけでもなく、サービスとして提供されているため制限はあります。

1. 利用できるモデルが制限されている

現在、利用できるモデルはGPT-3.5-Turbo です。4を使いたい、4-Turboを使いたいといったケースではAOAIを利用するとよいでしょう。

プロンプトを作成する | Microsoft Learn

2. チャット形式などmessageの配列を扱いたい時

AI Builder AI プロンプトでの返答はcontent のみ返ってきます。通常純粋なAOAI では配列形式で返ってくる応答に過去の履歴を含ませて作成することが出来ますが、AI Builder では以下の変更内容のうち、content の部分しか返してくれません。

そのため、過去の会話履歴を持たせてチャットアプリなどを作りたいときは工夫が必要でしょう。

[
	{
		"role": "system",
		"content": "You are an AI assistant that helps people find information."
	},
	{
		"role": "user",
		"content": "こんにちは!"
	},
	{
		"role": "assistant",
		"content": "こんにちは!どのようにお手伝いしましょうか?"
	}
]

3. AOAI のPTUがある

プロビジョニング スループット ユニット (PTU) という購入形式があり、前もって利用するAOAI のリソースを購入しているケースがあります。逆に言うとこちらを利用しないともったいないです。

Azure OpenAI Service プロビジョニング スループット ユニット (PTU) のオンボード – Azure AI services | Microsoft Learn

そのため上記を考えてご利用シーンに合わせて選択するとよいでしょう。

以上、ご参考になれば幸いです。

参考記事

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

Index