M1 MacOS pytorch Tensorflow加速

pytorch

通过与 Apple 的 Metal 工程团队合作，我们很高兴地宣布支持在 Mac 上进行 GPU 加速的 PyTorch 训练。到目前为止，Mac 上的 PyTorch 训练仅利用 CPU，但随着即将发布的 PyTorch v1.12 版本，开发人员和研究人员可以利用 Apple  silicon GPU 显着加快模型训练。这解锁了在 Mac 上执行机器学习工作流程的能力，例如在本地进行原型设计和微调。

要开始使用，只需在运行 macOS 12.3 或更高版本且具有 Python 的本机版本 (arm64) 的 Apple 硅 Mac 上安装最新的Preview (Nightly)版本。

您还可以在Apple 的 Metal 页面上了解有关 Metal 和 MPS的更多信息。

Introducing Accelerated PyTorch Training on Mac | PyTorch

tensorflow

从 Tensorflow 2.5 开始，可以使用 tensorflow-metal PluggableDevice 来加速 Mac GPU 上的 Metal 训练。

Apple 通过现已弃用的tensorflow-macos插件和更新的tensorflow-metal插件发布了对 Tensorflow 的 GPU 支持

OS Requirements

macOS 12.0+ (latest beta)

• tensorflow-deps 版本遵循基本 TensorFlow 版本，因此：

  对于 v2.5：

  conda install -c apple tensorflow-deps==2.5.0

  对于 v2.6：

  conda install -c apple tensorflow-deps==2.6.0

注意：支持 python 版本 3.8 和 3.9

Tensorflow Plugin - Metal - Apple Developer

PyTorch on Apple M1 MAX GPUs with SHARK – 2X faster than TensorFlow-Metal – nod.ai

Installing TensorFlow on M1 MacBook Air with GPU (Metal)

https://naolin.medium.com/tensorflow-with-metal-on-a-m1-mac-d8615360c129

其他：

Core ML是一个 Apple 框架，用于将机器学习模型集成到您的应用程序中。

使用coremltools Python 包将模型从TensorFlow和PyTorch等第三方训练库转换为 Core ML。然后，您可以使用 Core ML 将模型集成到您的应用程序中。

 

Core ML 为所有模型提供统一的表示。您的应用程序使用 Core ML API 和用户数据来进行预测和微调模型，所有这些都在用户的设备上进行。严格在用户设备上运行模型消除了对网络连接的任何需求，这有助于保持用户数据的私密性和您的应用程序响应。

Core ML 通过利用 CPU、GPU 和 Apple 神经引擎 (ANE) 优化设备性能，同时最大限度地减少内存占用和功耗。

支持的库和框架

您可以将经过训练的模型从以下库和框架转换为 Core ML：

模范家庭	支持的包
神经网络	TensorFlow 1 (1.14.0+) TensorFlow 2 (2.1.0+) PyTorch (1.4.0+)
树合奏	XGboost (1.1.0) scikit-learn (0.18.1)
广义线性模型	scikit-learn (0.18.1)
支持向量机	LIBSVM (3.22) scikit-learn (0.18.1)
管道（预处理和后处理）	scikit-learn (0.18.1)

Introduction

Apple Developer Documentation