5分未満でオンプレミスに：Jina埋め込みモデルがオンプレミス導入に対応

Elasticsearchを実際に使ってみましょう。Elasticsearch Labsリポジトリのサンプルノートブックを覗いたり、無料クラウドトライアルを開始したり、ローカルマシンでElasticを今すぐ試せまず。

Jina AIの埋め込みモデルおよび再ランク付けモデル全28種類が、オンプレミス環境への導入向けに完全オフラインのDockerコンテナとして提供されるようになりました。これにはjina-embeddings-v5-omni やjina-reranker-v3が含まれます。1つダウンロードし、オンプレミスのエアギャップ環境またはファイアウォールで保護されたシステムに転送すると、5分以内にローカル推論を実行できます。コンテナは完全に自己完結しており、外部への接続は一切行いません。Hugging Faceやモデルレジストリへの呼び出しは一切ありません。ライセンスサーバーも、テレメトリーやログのエンドポイントもありません。規制対象の業界やデータ主権要件がある場合、またはインターネットアクセスが不安定、あるいは利用できない環境では、これによりサードパーティのAIサービスへの依存がなくなります。Jina On-PremはElastic Inference Service（EIS）、OpenAI、Cohere、Voyage AI、Gemini APIのスキーマをサポートしているため、既存のアプリケーションはコードを変更せずに動作します。

最も高性能なAIモデルは、Web API経由でアクセスするリモートのクラウド環境で実行されます。そのため、セキュリティ、サービスの可用性、価格の安定性について、AIサービスプロバイダーを信頼する必要があります。信頼性、プライバシー、管理可能なコスト、適切なデータガバナンスに対する妥当な要求を、ますます強力で高度化し、リソース集約型となるAIの利用と容易に両立させることはできません。

政府の規制、裁判所の判決、そして他者の利益を考慮したビジネス上の判断により、最近、特定のサービスへのアクセスが制限される事態が生じています。他のサービスに切り替えられるとしても、AIモデルは好きなときに簡単に入れ替えられるコンポーネントではありません。セマンティック埋め込みを使用するアプリケーションでは、クエリ時とデータのインジェスト時に同じモデルを利用できる必要があります。埋め込みモデルにアクセスできなくなると、検索システムは停止してしまいます。

AIの価格設定モデルは、そのリスクをさらに増大させます。 大手AIベンダーが最近公開した財務情報を受けて、顧客が将来的な値上げを懸念するのも無理はありません。 コストが予測できない製品に依存すると、明確なリターンが得られない可能性のある資本集約型のAI投資に、さらなるリスクが加わります。

Jina オンプレミスは、これらの課題に対するElasticの回答です。

オンプレミス型AIを必要とするのは誰ですか？

ローカルホスティングとAIモデルの直接的な制御により、さまざまな技術的ニーズ、業界要件、ビジネス上の関心に対応できます。

ローカルにインストールすれば、AIサービスプロバイダーへの支払いを抑えられますが、ハードウェアと安定したアクセスにかかる費用は組織が負担することになります。利用量によっては、単純にコストが安くなる場合がありますが、自社でAIを運用することを検討すべき、さらに差し迫った理由もあります。以下に挙げる問題のいずれかが当てはまる場合は、Jina On-PremのようなローカルAIソリューションをご検討ください。このリストはすべてを網羅したものではありません。

エアギャップ環境やファイアウォールで保護されたシステムにオンプレミスAIが必要な理由

エアギャップ環境やファイアウォールで保護されたシステムでは、外部AIのAPIを使用できません。Jina On-Premは、お客様のインフラ内で完全に実行され、外部へのアウトバウンド接続はありません。

特に機密性の高いデータを管理する組織にとって、セキュリティとプライバシーに関する検討事項は最重要です。セキュリティ対策が不十分である可能性や、外国政府からの要求に従わざるを得ない可能性のある遠隔地の第三者にすぐに機密データを引き渡してしまうのであれば、機密データの保護に投資してもほとんど意味がありません。

機密データを扱う組織の従業員は、安全なデータ取り扱いに関する研修を受けることがよくありますが、データを扱っている間、インターネット上のあらゆるページにアクセスできる状態になり得るウェブブラウザを全員が使用している場合、これはあまり効果的ではありません。隔離は、エアギャップ化や非常に厳格なファイアウォールで実現できる利用可能な最も効果的なセキュリティ対策ですが、そのためにあらゆる種類の外部サービスを利用することが難しくなります。

低レイテンシと高可用性が求められるシステム向けのオンプレミスAI

サービスとしてのソフトウェア（SaaS）とクラウドコンピューティングは、自社のコンピュータ上でアクセスしやすく信頼性の高いサービスを提供するコストと、問題を他社にアウトソーシングするコストとの間の妥協点と言えますが、レイテンシの変動や停止が伴い、問題が発生した際には完全にコントロールを失うことになります。AIサービスも例外ではありません。埋め込みモデルにアクセスできないことで検索システムがオフラインになってしまう場合、それはもはや適切な妥協点とは言えないかもしれません。

さらに、外部AIに依存すると、容易には予測または管理できないリスクが常に伴います。政治的事象、悪天候、あるいは船舶が錨を海底光ファイバーケーブルに引きずることにより、インターネットへのアクセスが不安定になったり、ネットワーク遅延が増大したりする可能性があります。政府は、輸出禁止措置を利用してAIモデルへのアクセスを突然遮断することが可能であり、実際に最近そうしたことがあります。AIサービスプロバイダーは、新しいモデルへの切り替えを促すために、モデルの提供を終了することがあります。外部サービスの柔軟性とコスト管理のしやすさを、依存に伴うリスクとのバランスを取って検討する必要があります。

GDPR、HIPAA、データ主権コンプライアンスのためのオンプレミスAI

個人データを収集する組織には、規制がますます厳格に適用されます。規制は管轄区域によって異なることが多く、相反する要件を含む場合もあります。特に、HIPAAの規則は米国の医療提供者に非常に厳格なデータ保護義務を課しており、カナダ、欧州連合、およびアジアの多くの管轄区域における強力な一般データ保護法は、個人情報を取り扱うすべての企業に対し、安全に取り扱い、そのデータを他の当事者または他の管轄区域に移転することを制限するよう求めています。これらの規則は、外国企業が当該管轄区域内に顧客を有する場合、その企業にも義務を課す可能性があります。金融機関は、さらに厳格な規則の適用を受けることが多く、情報セキュリティについても、他の形態の犯罪行為に対するのと同様の直接的な責任を負っています。

規制遵守は、特にサードパーティのAIサービスの利用に国境を越えたデータ転送が伴う場合、これらのサービスと両立しないことがあります。

さらに、近年の事象は、国際的なクラウド事業者が外国政府から圧力を受ける場合、データの物理的な保管場所を制限する規則が信頼できる保護手段とはならない可能性があることを示しています。地域によって法律が食い違う場合があり、その場合、データの保存と処理が地域ごとに義務付けられ、第三者のサービスが利用できなくなる可能性があります。場合によっては、AIシステムを含め、プロセス全体を社内で完結させることが唯一の解決策となります。

サードパーティへのデータ送信に起因するAIの責任リスク

データ保護法および機密データに対する認識されている注意義務は、通常、法的責任を伴うものであり、時には非常に重大なものとなります。第三者サービスプロバイダーによる顧客のデータの取り扱いについて、責任を問われる場合があります。裁判所や法的手続によって、安全性が不十分なサービスプロバイダーから事後的な保護をある程度受けられる場合がありますが、そうした救済措置は、国家安全保障機関、法執行機関、または犯罪者であるハッカーに対しては利用できず、一般に有効でもありません。

政府に関しては、国境を越えて事業を展開するクラウドサービスプロバイダーが、機密性の高い国家情報を外国の主体に提供した事例がすでにあります。

しかし、外国政府やハッカーを心配しておらず、外部AIサービスプロバイダー自体も安全だとしても、外部サービスであるというだけで責任上の問題が生じる可能性があります。

例えば、ほとんどの管轄区域では、弁護士と依頼人との通信は特別な法的保護の対象となっており、法律事務所はこの情報を記録または格納する際に厳格な責任を負います。米国では、この「弁護士・依頼者間秘匿特権」は非常に有名で、映画やテレビ番組の筋書きの中心となっています。しかし、秘匿特権が失われる原因の一つは、秘匿特権の対象ではない相手に情報を伝えることであり、最近の動向から、外部AIサービスプロバイダーがそのような相手に該当する可能性があることが示唆されています。

少なくとも米国においては、インデキシングサービスを提供する埋め込みモデルのように、インターネットAPIを介してサードパーティのAIサービスを利用するだけで、重大な機密保持規則に違反する可能性があります。セキュリティ侵害が発生していなくても、外部マネージドソフトウェアを利用しているというだけで、法律事務所が提訴されたり、懲戒処分を受けたり、弁護士資格を剥奪されたりする可能性があります。

オフライン、エッジ、物理的に隔離されたシステム向けのオンプレミスAI

コンピューターシステムが隔離されるのは、セキュリティ上の理由だけではありません。例えば、移動する車両は、不可欠な機能をインターネット接続に依存することはできません。 船舶や航空機には非常に大規模な搭載コンピューターシステムがあり、インターネット接続なしで動作する必要があるため、外部のAIサービスを利用できません。沖合のプラットフォーム、荒野にある遠隔施設、北極圏や南極圏のコンピューターサービス、そしてグローバルネットワークへの十分な物理接続がない島嶼地域は、必要なすべてのサービスを現地でホスティングすることでメリットを得られる設置環境の例です。AIがエンタープライズコンピューティングにおいて果たす役割が大きくなるにつれて、こうした制約への対処がより重要になります。

物理システム（ロボット工学や、物流管理システム、さらにはスーパーのレジのような、空間的に制約された、または外部世界を対象とするその他のユースケース）におけるAIの新たな応用は、グローバルインターネットに接続される可能性がありますが、接続障害や遅延の急増は許容できません。動作にAIシステムを利用する場合、そのAIシステムは可能な限りローカルで、信頼性の高いものである必要があります。

オンプレミスのAIを必要としない人などいるでしょうか？

リモートソフトウェアサービスやオフサイトAIにもメリットはあります。AIモデルの実行には、高価で電力消費の大きい、耐用年数が非常に短いことで知られるプロセッサーが必要になる場合があります。市場要因や外部の経済的ショックにより、現時点では高品質なハードウェアの入手が特に困難です。こうした状況では、ローカルAIの高額な設備投資を負担する代わりに、外部APIを利用してトークン単位で料金を支払うのが妥当な場合があります。

外部APIは、利用頻度が不定期なユーザーに最適です。分析用にデータをバッチ処理するために主にAIモデルを使用し、常時オンラインで稼働させる必要がある検索システムを運用しないのであれば、設備投資負担の大きいハードウェアやローカル環境の構築に投資する意味はあまりありません。

さらに、信頼性とアクセシビリティを確保するためにクラウド上でホストされているeコマースWebサイトなど、データ処理がすでにクラウドベースである場合、同じクラウドインフラストラクチャー上にあるAIサービスを利用する方が、自社でライセンス取得済みのAIモデルを導入するよりもコストパフォーマンスが高い場合があります。すでにクラウドサービスプロバイダーに依存しているため、そのプロバイダーのAIサービスにも依存しても、リスクはそれほど増えません。

ユースケースがその説明に当てはまるようであれば、ニーズに応えるため、Jina AIモデルをEIS、AWS Marketplace、およびGoogle Cloud Platformでご利用いただけます。

以下の表は、主な要因をまとめたものです。回答は、データ、インフラストラクチャー、使用パターンによって異なります。

具体的な状況やユースケースを踏まえ、前のセクションで取り上げたうち該当する問題も考慮して、コストとメリットを検討する必要があります。コストとメリットの分析は、時間の経過とともに間違いなく変化します。AI業界の将来やハードウェアの価格は、短期的にも予測できません。

Jina On-Premのご紹介

ローカルAIサービスのメリットを活用できるユーザー向けに、Jina AIの高性能モデル向けの独立して完結するインストールスイートJina On-Premをご紹介します。

Jina AIのモデルは、何倍ものサイズの埋め込みモデルと同等の精度を備えており、コンピューティングコスト、メモリフットプリント、ハードウェア要件を削減します。そのため、AIをオンプレミスに維持したい、あるいは維持する必要があるユーザーにとって理想的な選択肢となります。あらゆる規模のユースケースに対応する、拡張性があり規模に応じた価格設定のソリューションとともに、商用ライセンスをご利用いただけます。

Jina On-PremはどのようなAPIスキーマをサポートしていますか？

• ローカルインストール用の依存関係一式として、または数分でインストールして実行できるDockerコンテナーとして利用できます。

• Jina On-Premのインストールは、外部システムに接続しません。

  • Hugging Face Hubやモデルレジストリへの呼び出しは行われません（HF_HUB_OFFLINE=1およびTRANSFORMERS_OFFLINE=1が組み込まれています）。

  • ライセンスサーバーはありません。

  • テレメトリまたはログ用のエンドポイントはありません。

• CPUとGPUの両方のハードウェアに対応しており、GPUを自動検出します。

• 最新のjina-embeddings-v5-omniマルチモーダル埋め込みモデルやjina-reranker-v3を含む、全28種類のJina AIモデルをご利用いただけます。

• Jina API、OpenAI、Cohere、Voyage AI、Geminiといった標準的なAI APIスキーマ経由でアクセスできます。Jina On-Premは、それらのスキーマ上に構築されたアプリケーション向けのドロップインソリューションです。

• EISで提供されるモデルの代替としてそのまま使用できます。Jina On-Premはエアギャップ環境のElastic導入と直接統合します。

Jina AIオンプレミスモデルのハードウェア要件

Jinaモデルによってハードウェア要件は異なります。GPU設定を使用する最新モデルの推奨事項を以下の表に示します。NVIDIA L4 GPUより高性能なものは必要ありませんが、v5埋め込みモデルにはA100が推奨されます。最新の組み込みモデルでは、現在最低8GBのVRAMが必要です。

複数のモデルを同時に使用すると、VRAM要件が増加します。詳細については、サイジングとハードウェアのページをご覧ください。

Dockerを使用してJina On-Premをインストールする方法

最も手早く始める方法は、（まだインストールしていない場合は）Dockerをインストールし、Jina On-Premクイックスタートページの手順に従うことです。

28種類すべてのJinaモデル用に、あらかじめ構成されたDockerコンテナが用意されています。1つをダウンロードしてインストール先に転送すれば、5分以内にJina AIモデルを実行できます。

マルチモーダルまたはカスタムビルドの場合、またはコンテナ外でのインストール用に依存関係一式をダウンロードする場合は、バンドルガイドに記載されている手順に従ってください。

Jinaオンプレミスのインストールは、すべてのJina APIおよびEIS機能、ならびにOpenAI、Cohere、Voyage AI、Geminiの各APIを介した埋め込み生成をサポートしているため、標準のインターフェースを使用して既存のアプリケーションに統合できます。詳細については、APIドキュメントを参照してください。

Jinaモデル（Jina On-Premでインストールされたモデルを含む）は、さまざまなライセンス条件で利用でき、最新モデルはCC BY-NC 4.0ライセンスの下、非商用利用であれば無料です。Jina On-Premの商用利用ライセンスについては、Elasticの営業担当までお問い合わせください。