よくぶつかる3つの壁
パイロットはできても運用に進めない
チャットボット一つはすぐ作れます。しかし部門が増えると、権限・上限・記録を人手で管理することになり、そこで止まります。
社内データとつなぐ瞬間にリスクが生まれる
文書やDBを連携すると回答の質は上がりますが、誰が何を見たか、個人情報がモデルに渡っていないかを確認する手段が必要です。
答えが間違っていても理由が分からない
検索が原因なのか、SQLが原因なのか、モデルが原因なのか分からなければ直せません。
4つの柱
エージェント
社内データとツールで動き、書き込みは承認を得るエージェント
主な機能 エージェント・フロー・文書生成・MCP/OpenAPIツール・予約実行 エージェントの詳細を見る →データ
文書とDBを根拠に回答します
主な機能 ナレッジベース・データ分析(自然言語 → SQL)・用語集・ナレッジグラフ データの詳細を見る →評価・可観測性
すべての回答の過程が残り、品質が数値で見えます
主な機能 トレース・自動品質評価・Arena・使用量とコスト見積もり 評価・可観測性の詳細を見る →ガバナンス
使わせつつ、統制の下で使わせます
主な機能 ガードレール・監査ログ・3階層権限・トークン上限・コードゲートウェイ ガバナンスの詳細を見る →一つの質問がたどる道のり
- 1 ユーザーが質問する
Webチャット、Microsoft Teams、社内システムに組み込んだ埋め込みウィジェットなど、どこからでも質問できます。
- 2 ガードレールが最初に確認する
住民登録番号・口座番号のような個人情報や禁止ワードを、ポリシーに従ってブロック・削除・マスキングします。
- 3 エージェントが必要なものを選ぶ
ナレッジベース検索、DB照会(SQL)、用語集、外部ツールを質問に合わせて組み合わせます。データを変更する操作は実行前に人の承認を受けます。
- 4 お客様アカウントのLLMが回答を作成する
モデルは組織が承認したリストの中から、ユーザー・グループ・組織ごとのトークン上限内で呼び出されます。
- 5 すべての過程が記録される
呼び出し順序・所要時間・トークンはトレースに、設定変更は監査ログに残り、自動評価をオンにしたエージェントは回答品質がスコアとして蓄積されます。
オンプレミス型で、機能はティアで選べます
お客様クラウド(Azure · Google Cloud · AWS)・オンプレミス・閉域網。→ セキュリティ・導入
お客様アカウントから直接呼び出します。プラットフォームがLLM利用料にマージンを上乗せすることはありません。
Basic · Standard · Professional · Enterprise の4ティア。監査ログとガードレールはStandardから、データ分析・フロー・トレース・評価はProfessionalから、コードゲートウェイ・グローバルガードレール・暗号化(KMS)・ナレッジグラフはEnterpriseに含まれます。→ 料金・ライセンス
月1回の定期リリース。→ アップデート情報
