Nova Forge SDK:简化企业级LLM定制的统一开发工具链
AWS Machine Learning Blog2026/03/19 00:06机翻/自动摘要/自动分类
5 阅读
内容评分
技术含量
8/10
营销水分
5/10
摘要
Nova Forge SDK是亚马逊推出的用于简化企业级LLM定制的开发工具包,整合了SFT、RFT、DPO、LoRA等多种微调方法,统一管理从数据准备到模型部署的全流程。它通过智能默认配置和底层服务抽象,降低技术门槛,支持在SageMaker Training Jobs上高效运行,帮助企业快速构建专有AI模型,避免灾难性遗忘与配置复杂性。
正文
大型语言模型(LLMs)虽通用性强,但在处理企业专有数据、业务流程和领域术语时往往表现不足。传统定制方式依赖复杂的手动配置,涉及数据预处理、平台选型(如Amazon Bedrock或SageMaker)、超参数调优及灾难性遗忘风险,门槛较高。为此,Amazon推出Nova Forge SDK,提供一套统一的开发工具包,简化从数据准备到模型部署的全流程。
该SDK采用三层架构:输入层接收RuntimeManager(指定硬件、IAM角色)、训练方法、数据源(通常为S3)及模型;定制层自动配置底层服务(如SageMaker Training Jobs),启动训练任务;输出层生成CloudWatch日志、MLflow指标、TensorBoard记录及最终模型。用户无需手动管理依赖、镜像或配置方案,即可无缝调用监督()、强化(RFT)、直接偏好优化(DPO)、LoRA及全参数等方法。
使用前提包括:AWS账户、AWS CLI、两个IAM角色(用户角色与执行角色),以及ml.p5.48xlarge实例配额(训练需至少4个实例)。训练任务在SageMaker Training Jobs上执行,无需HyperPod集群。SDK支持从Bedrock到SageMaker的全栈定制路径,实现一致的开发体验,显著降低定制的技术与时间成本。