gm.ckpts.SkipLoRA#
- class gemma.gm.ckpts.SkipLoRA(
- wrapped: kauldron.checkpoints.partial_loader.AbstractPartialLoader,
Bases:
kauldron.checkpoints.partial_loader.AbstractPartialLoader
包装一个 partial loader 以不恢复 LoRA 权重。
- wrapped: kauldron.checkpoints.partial_loader.AbstractPartialLoader
- transform(
- state: gemma.gm.ckpts._lora._StateT,
通过使用预训练的值更新状态来转换状态。
注解
transform 函数可以修改 state 值,但不应修改其结构、形状或数据类型。
transform 应该正确地从给定状态传播分片信息。
- 参数:
state – 要转换的 state 对象
- 返回:
更新后的 state