Stay up to date with Reveal

Reveal business intelligence blog gives you the latest embedded analytics trends, how-tos, best practices, and product news.

AI Token Costs In Embedded Analytics: Why They’re Becoming a CIO Problem

組み込み分析におけるAIトークンコスト:CIOが抱える問題になりつつある理由

AIトークンコストは、現在、CIOの予算における項目となっています。特に、AIを活用した組み込み分析を提供するSaaSチームにとってそうです。すべての自然言語クエリ、生成されたダッシュボード、および組み込み分析レイヤー内の自動化されたインサイトは、大規模言語モデルからのトークンを消費します。数千人のユーザーを持つマルチテナントSaaSプラットフォームでは、その合計は急速に増加します。AIトークン消費を制御するには、実際のガバナンスが必要です。つまり、ガードレール、モデルの柔軟性、および使用状況の監視です。Revealは、最初からAIを活用した組み込み分析にこれらの制御機能を組み込んだため、チームはコストが急増することなく、AI分析をスケールできます。

Continue reading...