peft.split_params

peft.split_params#

gemma.peft.split_params(
params: dict[str, Any],
) gemma.peft._tree_utils.SplittedParams[source]

将嵌套树分割成两个树,一个包含 ‘lora’ 分支,另一个不包含。

示例

params = {
    'dense': {
        'kernel': w,
        'bias': b,
        'lora': {
            'a': a,
            'b': b,
        },
    },
    'other': other,
}


original, lora = peft.split_params(params)

assert original == {
    'dense': {
        'kernel': w,
        'bias': b,
    },
    'other': other,
}
assert lora == {
    'dense': {
        'lora': {
            'a': a,
            'b': b,
        },
    },
}
参数:

params – 一个嵌套字典,表示包含 ‘lora’ 分支的输入树。

返回:

(原始, lora)

返回类型:

具名元组