【译】Candle 教程 - 将 Pytorch 模型转换为 Candle 模型

原文链接

Candle 是一个用 rust 编写的机器学习框架，它利用了 Rust 在编写机器工作负载(原: machine workloads)时的性能和内存安全优势。Candle 可以替代 PyTorch 等机器学习框架，它也有 python 绑定，因此你可以在 python 中使用它…

这个仓库描述了如何把 pytorch 代码翻译到 Candle 以将基于 transformers 库的 PyTorch 模型转换到 Candle 框架…

❗️❗️ ：为了使代码易于理解，我用等效的 PyTorch 代码注释了 Rust/Candle 代码的每一行。教程结构：

• 开始
• 需要注意的重要事项
• 启动一个新的 rust 项目
• 安装 Candle 和其他软件包
• Pytorch 和 Candle 之间的相似之处
• Tensors(张量)
• Tensor Operations(张量运算)
• 将 PyTorch Transformer 模型转换为 Candle
• RoBERTa
  • 编写构建块
  • RoBERTa 配置
  • RoBERTa Embedding
  • RoBERTa 自注意力机制
  • RoBERTa 自输出
  • RoBERTa IR
  • RoBERTa 输出
  • RoBERTa 层
  • RoBERTa 编码器
  • RoBERTa 模型
• 模型的测试和调试