e" content="配备 Zero3 内存优化器的 Finetune GPT-NEOX"/>
    <meta name="twitter:description" content="该脚本使用零 DP 内存优化功能在多个器件上训练 GPT-NEOX 的偏置参数。"/>
    <meta name="twitter:site" content="@labmlai"/>
    <meta name="twitter:creator" content="@labmlai"/>

    <meta property="og:url" content="https://nn.labml.ai/scaling/zero3/finetune_neox.html"/>
    <meta property="og:title" content="配备 Zero3 内存优化器的 Finetune GPT-NEOX"/>
    <meta prop