Cohere、「Model Vault」を公開 セキュアでスケーラブルなAIモデル展開を実現

企業向けAIモデル提供の有力企業であるCohereは、専用で完全管理されたプラットフォーム「Model Vault」を公開した。このプラットフォームは、同社のモデルをセキュアかつ大規模に実行するための専用インフラを提供し、自社ホスティングの負担を排除する。

Model Vaultは、自ホスティングの制御性と分離性を保ちつつ、運用オーバーヘッドをゼロにする。大型言語モデルの展開で組織が直面する一般的な課題を解消し、本番環境で信頼性の高い性能を確保する。

主な機能として以下の点が挙げられる。

- 専用で分離されたVPC：セキュリティとコンプライアンスを強化するための完全なリソース分離を提供。 - ノイジーネイバーやレート制限なし：共有インフラの干渉を受けず、一貫した性能を保証。 - 予測可能な性能を備えたエラスティック推論：変動するワークロードにシームレスにスケールし、レイテンシとスループット目標を維持。 - リアルタイムの使用量・性能監視：メトリクス、コスト、効率を追跡する包括的なダッシュボードを提供。

プラットフォームの設計コンセプトは「no sharing, no limits, no surprises」であり、開発者や企業はインフラ管理ではなく革新的アプリケーションの構築に集中できる。

Model Vaultはモデルスケーリングとサービングを担い、CohereのCommandおよびAyaモデルをサポート。生成AIの企業採用拡大に伴うプライベートで高性能なAI推論需要に応える。