Private GenAI Chatbots

アシスタントは承認した文書から答える。汎用モデルが学習時に記憶した内容ではない。Pangeanic はリポジトリ、用語集、社内コンテンツの上に多言語の検索層を組み、アクセス規則を適用して利用者が許された資料だけを見られるようにする。回答は必ず出典を指す。デモと、コンプライアンス部門が承認する仕組みの違いはここにある。検索、権限、引用の組み合わせが、多くの購買担当者の言うエンタープライズRAGだ。

すべての質問に最先端モデルが要るわけではない。Pangeanic は小さめの言語モデルを顧客の用語、言語、文書の文体に合わせ、難しい依頼は同じ構成の中でより大きなモデルへ回す。小型モデルは必要なハードウェアが少なくて済む。既存の GPU 予算や1ラックに収める必要がある配備では効いてくる。

同じ基盤がプライベートクラウドのテナントでも、自社データセンターでも、インターネット接続のない環境でも動く。オンプレミスAIチャットボットはモデルを自社のファイアウォールの内側に置く。Pangeanic はこの選択を、組織が本当に必要とする主権の度合いだと言い換える。エアギャップ運用では外部事業者へのトークン課金呼び出しが使えないため、モデルはローカルに置くしかない。

Pangeanic の言語事業は英語だけにとどまらない。自社サイトのアシスタントは十数言語の EU 公用語に加え、カタルーニャ語、バスク語、ガリシア語を扱う。実際には利用者が一つの言語で質問し、別の言語で書かれた一節を取り出し、回答は質問の言語で生成される。多言語AIアシスタントを自社向けに作る場合は用語管理も要る。用語集は次の案件に引き継げる。

Pangeanic はマスキングと匿名化を処理の流れに組み込む。氏名、口座番号、その他の個人情報を推論の前に検出して置き換える。顧客記録を扱う企業向けプライベートAIなら、どの案件でも関係する話だ。同社はこの機能を単独サービスとしても長く提供してきた。マスキングは、プロンプトが漏れたときに晒される内容も減らす。

管理用の画面でアシスタント、情報源、利用者を管理でき、アシスタントは Web サイトや社内ポータルに埋め込める。Pangeanic は画面だけで終わらせず、人による評価を組み合わせる。専門家が事実の根拠、領域の正確さ、言語の品質を確認してから対象者を増やす。多くの購買担当者にとって、この確認工程こそ試験導入を承認させる決め手になる。