プライベートAIモデルのホスティング。お客様のデータは、お客様が管理するインフラ上に留まります

プライベートAIモデルのホスティングとは、モデルが、あなただけが使用するサーバー上で動作することを意味します。お客様の文書、メッセージ、記録はそのサーバー上で処理され、第三者のAIプロバイダーには渡されません。当社は作業に適したオープンモデルを選び、サーバーの規模を作業量に合わせ、インストールとセキュリティ設定を行い、お客様自身のアプリが呼び出すプライベートなAPIエンドポイントを公開します。

公開後の運用も支援します。適切なシステムと人だけがエンドポイントを使用できるようにするアクセス制御、監視、ソフトウェアとモデルの更新などです。現在、当社のテストシステムでプライベートモデルを稼働させています（NectarBox、テスト中）。顧客向けの構成はプロジェクトごとに範囲を定めます。

率直に申し上げると、お客様が自前でホストするモデルは、通常、最大のホスト型AIモデルほどの能力はありません。分類、抽出、要約、お客様自身の文書からの回答などの多くのタスクでは、十分な性能があります。ただし、その前提を置くのではなく、契約前にお客様自身の例で測定します。適切な場合は両方を組み合わせることもできます。機密性の高い作業にはプライベートモデル、難しいタスクにはホスト型モデルを使います。

まずは無料相談から始めます。作業内容と関連するデータをお聞かせください。プライベートモデルが適切かどうか、何ができて何ができないか、トレードオフを説明し、書面で見積もりをお送りします。ハードウェア、運用コスト、トレードオフは、当社のハードウェアとコストに関する調査で扱っています。

一般的なプロジェクトは、お客様自身の資料のサンプルを使った短い試行から始まり、自社運用モデルの性能を確認します。良好であれば、サーバーと非公開のエンドポイントを構築し、お客様のアプリケーションを接続して運用します。サーバーをお客様のものにするか、当社が手配するものにするか、また一部の作業をホスト型モデルにも振り分けるかは、お客様が選択できます。法的または規制上の要件に関する質問は、お客様の法務またはコンプライアンスの顧問にご相談ください。当社は関連する規則を考慮して設計します。