NectarBoxの機能と進捗
NectarBoxは、お客様のアプリ、スクリプト、ボットがAIモデルへアクセスするための、一つのプライベートな窓口です。最初のバージョンは、プライベートモデルのみを使ったテストシステムで動作しています。サインイン、キー、設定をIT-Labs Coreに移行する予定です。これにより、一つのアカウントと一つのキーのページで、すべてのIT-Labs製品を利用できるようになります(計画中)。
- 18 準備完了
- 13 テスト中
- 4 計画中
準備完了：構築済みで、当社の開発環境でテストに合格している。テスト中：構築済みで、テスト中。テストに合格しない機能は削除します。予定：まだ構築していない。期日は約束しません。
アプリのための一つの窓口
-
標準チャットAPI
準備完了すでに共通のチャットAPIに対応しているアプリは、アドレスとキーを変更するだけで動作します。
-
お客様のJSONスキーマに従う回答
準備完了アプリが必要とする正確な構造で回答を取得します。保存や処理がすぐにできます。
-
ストリーミング応答
準備完了回答を書かれたとおりに表示し、利用者が全文を待たずに済むようにします。
-
既定のモデル名
準備完了アプリは単に「default」を指定します。どのモデルが回答するかは、お客様の組織が決めます。
-
利用可能なモデルの一覧
準備完了アプリは、組織が許可しているモデルを確認できます。
-
目的ごとのルーティングとフォールバック
準備完了あるモデルが混雑または失敗した場合、次のモデルが応答します。アプリの変更は不要です。
-
モデルが混雑しているときの公平なキュー
準備完了混雑時には、一部の依頼を失敗させるのではなく、すべての依頼を均等に遅くします。
-
検索用の埋め込み（Embeddings）
計画中同じ経路から、お客様自身の文書を検索して照合します。
-
1つのアドレスの背後にある多数のモデル用マシン
テスト中お客様向けの呼び出しは、利用が許可された最適な空いているマシンに振り分けられるため、回答が速くなり、1台の混雑したマシンのせいで作業が止まることがありません。お客様のアプリは何も変更する必要がありません。
-
回答できるマシンを選択します
テスト中組織またはクライアントは、レンタルマシンなど、特定の種類のマシンを除外できます。そのため、お客様のテキストは許可した場所にのみ送られます。
すべてのアプリ向けのキー
-
アプリ、スクリプト、ボットごとに独自のキー
準備完了AI の呼び出しはすべて、一人の利用者のキーに紐づきます。IT-Labs Core で作成したキーにアプリ名を表示する機能はまだ開発中です。
-
キーを直ちに無効化
準備完了問題のあるアプリをワンクリックで停止し、修正後に再開できます。
-
キーの置き換えまたは取り消し
テスト中漏洩したキーは、IT-Labs Coreで差し替えまたは無効化でき、他のアプリには影響しません。
-
キーごとの上限
準備完了アプリごとに、1分あたりのリクエスト数、1日の量、並列呼び出し数を設定します。
-
アプリを同僚に引き渡す
計画中担当者が役割を変更すると、その人のアプリは同僚に移ります。これは IT-Labs Core 上で元に戻ります。
-
NectarBoxを呼び出すアプリのための、一つのAPIキーのページ
テスト中NectarBox を呼び出すアプリ向けに、IT-Labs Core で名前付きキーを作成します。利用状況ページでキー名を表示する機能はまだ開発中です。
既定でプライベート
-
プライベートモデルのみ
準備完了お客様のテキストは、当社のモデルサーバー上で回答され、外部のAI企業には送信されません。
-
クライアントウォール
準備完了一人の顧客のリクエスト、記録、費用が別の顧客に届くことがないように構築されています。
-
有効にしない限りテキストは保存されません
準備完了既定では、誰が、いつ、どれだけ使ったかのみが保存され、プロンプトや回答は保存されません。
-
必要な場合のみ、お客様独自のテキストログ
準備完了アプリの回答を確認するためにログをオンにできます。ログはIT-Labsアカウントページから閲覧または削除でき、その内容はご本人のみが見られます。
-
スタッフは管理しているが、中身は読んでいない
準備完了サポートスタッフはアカウントや利用制限を設定できますが、通常の運用では、お客様のプロンプトや回答を閲覧することはできません。第三者による独立監査は受けていません。
-
より大きな外部モデル。お客様が選んだ場合のみ
計画中お客様とご合意のうえで、より大規模なモデルを使用します。その前に、メールアドレス、電話番号、口座番号はマスキングします。
利用状況と上限
-
アプリごと、および個人ごとの利用状況
準備完了利用状況のページで、キーごとの通話と件数を確認できます。IT-Labs Coreのキーのアプリ名は、まだ開発中です。
-
組織の1日あたりの上限
準備完了設定した上限を超える呼び出しは拒否されます。
-
テキストを含まない活動記録
準備完了内容を保存せずに、「誰が、いつ、何にAIを使ったか」に答えます。
-
請求用に報告される利用状況
テスト中1日あたりの利用量の合計は IT-Labs Core に送信され、後に実際の利用量に基づく課金に使えるようにします。プランや料金はまだ設定していません。
-
タスクごとの支出上限
テスト中作業に名前と上限トークン数を設定します。アプリが要求し続けても、その上限で停止します。
-
IT-Labs Core の利用状況とコストのレポート
テスト中今月の通話、件数、人・モデル・タスク・チームごとのコストをご覧ください。数値はNectarBoxからリアルタイムで取得され、テキストが外部に出ることはありません。
-
組織の設定を一か所に
テスト中1日あたりの上限、許可するモデル、テキストログのルールは IT-Labs Core のルールページで設定します。より厳しい設定が優先される想定です。
サインインとアカウント
-
IT-Labsの一つのサインイン
計画中IT-Labs Coreで一度サインインすれば、別のパスワードなしでNectarBoxとその他のIT-Labs製品を開けます。
-
重要な変更を確認
テスト中上限を引き上げたり、アプリを再度有効にしたりするには、サインインを再確認する必要があります。そのため、開いたままのブラウザーでは不十分です。
-
メインのサインインが一時的に停止しても、動作を継続します
テスト中IT-Labs Coreでの短時間の停止があっても、作業は止まりません。NectarBoxは通知を表示し、しばらくの間セッションを保持します。
-
IT-Labsの他の製品とまとめて管理します
テスト中アカウント、席、設定は、すべてのIT-Labs製品について一か所で設定され、NectarBoxは独立して動作を続けます。
必要な場面でヘルプ
-
初回利用ガイドとヘルプページ
テスト中最初の画面で次に行うことを案内し、最初のアプリ向けの呼び出し例を表示します。
-
平易な言葉で書かれた短いマニュアル
テスト中サインイン、キーの作成、アプリの接続に関する手順ガイド。