Replit(レプリット)は、インテリジェントモデルルーティング機能が全ユーザーに提供開始されたことを発表した。この機能は、品質、速度、コストのバランスを取りながら、各タスクに最適なAIモデルを自動的に選択する。
この機能はリクエストをバックグラウンドでルーティングするため、クリエイターはモデルの比較に時間を費やすことなく、構築作業に集中できる。システムはタスクの特性を評価し、プロジェクトの現在のニーズに合ったモデルを割り当て、必要に応じて効率性と計算能力を切り替える。
内部テストの結果、インテリジェントモデルルーティングは、従来のMax Modeと比較して、出力品質を維持しながらコストを65%削減できることが示されたと報告されている。プラットフォーム側は、これを大幅な使用コスト削減で同等の結果を実現する方法として位置付けている。
全てのユーザーは無料モードから開始し、タスクがより高負荷なモードに移行して料金が発生する可能性がある場合は通知を受け取る。ユーザーは自動的なエスカレーションを無効にして、無料モードのままにすることもできる。CoreおよびProサブスクライバーは、必要に応じてモデルを手動で選択するオプションも引き続き利用できる。
Enterprise管理者は、各ワークスペースに対して承認済みのモデルセットを定義することで、モデルポリシーを適用できるようになる。インテリジェントモデルルーティングは、承認済みのモデルセットから各タスクに最適なモデルを選択するため、チームは組織的な統制を維持しながら、自動選択のメリットを享受できる。
この発表では、この機能はインテリジェントツールへのアクセスを拡大するための第一歩として位置付けられており、複雑な処理はプラットフォーム側で管理されるため、ユーザーはAIが業務をどう強化するかに集中できると説明されている。
出典:Replit
この製品の詳細については、Replit製品ページをご覧ください。