在 Amazon SageMaker AI 上使用 P-EAGLE 并行化投机解码
本文介绍如何在 Amazon SageMaker AI 中直接使用 P-EAGLE，包括从 SageMaker JumpStart 目录选择兼容模型、配置并行草稿规格，并部署高度优化的实时端点以加速生成式 AI 应用。
查看原文解读生成中或暂时不可用，请稍后刷新重试，或直接查看原文。
本文介绍如何在 Amazon SageMaker AI 中直接使用 P-EAGLE，包括从 SageMaker JumpStart 目录选择兼容模型、配置并行草稿规格，并部署高度优化的实时端点以加速生成式 AI 应用。
查看原文