mindformers
latest
开始
介绍
模型支持列表
安装
版本配套
安装
设计
AutoClass
Trainer
Pipeline
Config和API组件
Parallel
低参微调
快速入门
快速开始
特性使用指南
断点续训
边训练边评估
权重离线切分转换
权重自动切分转换
Text Generator
低参微调
Chat Web
Inference
调试调优
精度调优
性能调优
最佳实践
高阶接口使用样例
高阶接口开发样例
AICC上使用Mindformers教程
GPT2从头开始实现
LLaMA 迁移指南
API
接口支持度说明
mindformers
mindformers.core
mindformers.core
mindformers.core.callback
mindformers.core.loss
mindformers.core.lr
mindformers.core.lr.ConstantWarmUpLR
mindformers.core.lr.CosineWithRestartsAndWarmUpLR
mindformers.core.lr.CosineWithWarmUpLR
mindformers.core.lr.LinearWithWarmUpLR
mindformers.core.lr.PolynomialWithWarmUpLR
PolynomialWithWarmUpLR
mindformers.core.metric
mindformers.core.optim
mindformers.dataset
mindformers.generation
mindformers.models
mindformers.modules
mindformers.pet
mindformers.pipeline
mindformers.trainer
mindformers.wrapper
模型&任务
模型
任务
FAQ
FAQ 目录
mindformers
»
mindformers.core
»
mindformers.core.lr.PolynomialWithWarmUpLR
查看页面源码
mindformers.core.lr.PolynomialWithWarmUpLR
¶
class
mindformers.core.lr.
PolynomialWithWarmUpLR
(
learning_rate
:
float
,
warmup_steps
:
int
,
total_steps
:
int
,
lr_end
:
float
=
1e-07
,
power
:
float
=
1.0
,
warmup_lr_init
:
float
=
0.0
)
[源代码]
¶
PolynomialWithWarmUpLR.