gm.ckpts.SkipLoRA

gm.ckpts.SkipLoRA#

class gemma.gm.ckpts.SkipLoRA(
wrapped: kauldron.checkpoints.partial_loader.AbstractPartialLoader,
)[源代码]

Bases: kauldron.checkpoints.partial_loader.AbstractPartialLoader

包装一个 partial loader 以不恢复 LoRA 权重。

wrapped: kauldron.checkpoints.partial_loader.AbstractPartialLoader
transform(
state: gemma.gm.ckpts._lora._StateT,
) gemma.gm.ckpts._lora._StateT[源代码]

通过使用预训练的值更新状态来转换状态。

注解

  • transform 函数可以修改 state 值,但不应修改其结构、形状或数据类型。

  • transform 应该正确地从给定状态传播分片信息。

参数:

state – 要转换的 state 对象

返回:

更新后的 state