Deep Infra 提供哪些定价模式？

Deep Infra 对部分语言模型采用按令牌计费，对大多数其他模型采用基于推理执行时间的计费。无长期合同或预付款。

模型使用哪些 GPU 运行？

所有模型均运行在 H100 或 A100 GPU 上，优化推理性能和低延迟。

系统根据您的需求自动扩展模型到更多硬件。每个账户限制 200 个并发请求。

每个用户属于一个使用等级。随着使用和支出增加，用户会自动升级到下一个等级，每个等级有发票阈值。

是的，您可以在 Deep Infra 硬件上部署自己的模型并按运行时间付费，获得专用的 SXM 连接 GPU 和自动扩展。

Deep Infra 对部分语言模型采用按令牌计费，对大多数其他模型采用基于推理执行时间的计费。无长期合同或预付款。

所有模型均运行在 H100 或 A100 GPU 上，优化推理性能和低延迟。

系统根据您的需求自动扩展模型到更多硬件。每个账户限制 200 个并发请求。

每个用户属于一个使用等级。随着使用和支出增加，用户会自动升级到下一个等级，每个等级有发票阈值。

是的，您可以在 Deep Infra 硬件上部署自己的模型并按运行时间付费，获得专用的 SXM 连接 GPU 和自动扩展。

Name: Deep Infra
Brand: Deep
Availability: InStock

暂无评分0 已保存

一个用于部署和运行机器学习模型的平台，具有简单的API和按使用付费的定价。