没有硬件，也可以运行与测试 TFLite 应用
提到人工智能和机器学习（Marchine Learning，ML），你的脑海里是否立即会浮现计算中心、高端 GPU、成百上千的 TPU 等等。实际上，随着嵌入式设备、移动终端以及近年来物联网（Internet of Things，IoT）的发展，人工智能离我们越来越近。手机、智能音箱、电话手表，甚至控制开关，都配备有一定的人工智能。特别是物联网和智能家居的快速发展，机器学习在微型低功耗设备上应用得越来越广泛。
TensorFlow 作为人工智能领域的前驱，很早就推出了针对资源受限设备（例如Arm Cortex-M MCU，微处理单元）的框架 TensorFlow Lite。现在，已经有成千上万使用 TensorFlow 的开发人员将 ML 模型部署到嵌入式和 IoT 设备上。
有朋友可能会疑惑，就一个 MCU ，内存只有几 M，CPU 速度也慢，能做什么呢？
实际上能做的事情很多，比如关键语检测或手势识别之类。想象一下吧，当你下班回家，回到黑漆漆的家中，第一件事情就是开灯。借助于 IoT 设备，我们只需轻轻说 “开灯”，而不用四处摸索开关。以前装修为了方便冬天关灯，会装上双控开关，现在有了人工智能，你只要简单说一声“关灯”就可以了。再比如智能监控，检测到家里有异常动静就报警，也是应用人工智能的例子。这些设备平常都是安安静静的待机，采用微控制器就非常适合，能耗低，也可以做得很小。
但是，在小型和嵌入式设备上开发软件比较困难，调试不方便，进行大规模的压力测试更是困难。有过嵌入式系统开发经历的朋友可能会理解，即使是有经验的嵌入式开发人员，也会花大量时间在物理硬件上刷固件和测试应用程序，有时仅仅为了实现一个简单的功能。
在嵌入式设备上开发机器学习应用，开发人员面临着更多的挑战：如何在各种硬件上反复可靠地测试各种模型，能自动完成插拔、刷机、运行等流程吗？
为了应对这一挑战，我们可以向 TensorFlow Lite MCU 团队学习，他们选择了 Renode。这是一个 Antmicro 的开源仿真框架，其目标是为嵌入式和 IoT 系统提供无硬件、持续集成驱动的工作流。
接下来，我将说明如何在没有物理硬件的情况下，使用 Renode 虚拟出 RISC-V MCU，在上面运行 TensorFlow Lite 应用。
Renode 简介
Renode 刚刚发布了 1.9 版，它是一个开发框架，用来模拟物理硬件系统（包括CPU、外围设备、传感器、环境等等），有了它，可以加速 IoT 和嵌入式系统的开发。
Renode 可以模拟整个系统和动态环境 - 包括将建模的样本数据馈送到模拟的传感器，然后通过自定义软件和算法读取和处理。快速运行软件而无需访问物理硬件的能力使得 Renode 成为在嵌入式和IoT设备上实验和构建 ML 应用程序的理想平台。
安装 Renode 并运行
Renode 支持 Linux、Mac、Windows 平台，因为我使用的开发环境是 Ubuntu，下面就说说在 Ubuntu 18.04 上的安装，其它系统请参考 Renode 的安装说明。
安装依赖的 mono 包，这是一个开源的 .NET 运行时环境。
sudo apt install gnupg ca-certificates
sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv-keys 3FA7E0328081BFF6A14DA29AA6A19B38D3D831EF
echo "deb https://download.mono-project.com/repo/ubuntu stable-bionic main" | sudo tee /etc/apt/sources.list.d/mono-official-stable.list
sudo apt update
sudo apt install mono-devel
安装其它包依赖。
sudo apt-get install policykit-1 libgtk2.0-0 screen uml-utilities gtk-sharp2 libc6-dev
访问 https://github.com/renode/renode/releases/latest，下载针对 Ubuntu 的安装包，然后安装。
运行 Renode
运行 Renode 的命令如下：
renode [flags] [file]
你也可以不加任何参数运行 renode 命令，可以出现如下命令行交互界面：
运行 TFLite demo
首先使用下面的命令下载 demo 代码及相关的文件：
git clone --recurse-submodules https://github.com/antmicro/litex-vexriscv-tensorflow-lite-demo
在这个库中，包含有预编译的二进制文件，因为从源码 build 还比较麻烦，我们先用该二进制文件体验 Renode 。
二进制文件位于 binaries/magic_wand 目录，但我们先进入 demo 的 renode 目录，加载“litex-vexriscv-tflite.resc“脚本：
cd litex-vexriscv-tensorflow-lite-demo
cd renode
renode litex-vexriscv-tflite.resc
Renode脚本（.resc 文件）包含有指令，用于创建所需的平台并将应用程序加载到其内存中。加载后，会出现 Renode 的命令行接口，称为“Monitor”，从中可以控制仿真。在命令行接口中，使用 start 命令开始仿真：
(machine-0) start
在模拟设备的虚拟串行端口（也称为UART-会自动在Renode中作为单独的终端打开）上，你将看到以下输出：
renode 的工作原理
Renode模拟硬件（包括 RISC-V CPU 以及 I/O 和传感器），这样二进制文件认为它在实际的硬件板运行。这是通过 Renode 的机器代码转换和全面的 SoC 支持而实现的。
首先， Renode 将应用程序的机器代码转换为本地主机机器语言。
接下来，每当应用程序尝试读取或写入任何外围设备时，该调用都会被拦截并重定向到对应的模型。Renode 模型通常（但不限于）用 C＃ 或 Python 编写，实现寄存器接口，并与实际硬件在行为上保持一致。由于这些模型是抽象的，你可以通过 Renode 命令行接口或使用脚本文件以编程方式与它们进行交互。
在上面的示例中，为虚拟传感器提供了一些离线的、预先记录的数据文件：
i2c.adxl345 FeedSample @circle.data
Renode 中运行的 TFLite 二进制文件处理数据并检测手势。
小结
在本文中，我们演示了如何在没有硬件的情况下将TensorFlow Lite用于微处理器单元。尽管本文以基于 RISC-V 的平台为例，但是 Renode 能够仿真针多种体系结构，例如ARM、POWER等，所以本文的方法也可以用在其他硬件上。
如果您想使用 Renode 探索更多的硬件和软件，请访问 https://renode.readthedocs.io/en/latest/introduction/supported-boards.html 获得所支持的主板的完整列表。
最后，仿真软件无法完全替代实际的硬件，就如同做 Android 开发，仅仅使用 Android 模拟器是不够的，最终产品还需要在真正的硬件上测试。但是借助仿真，无疑可以简化开发过程，更加方便调试。
参考
Running and Testing TF Lite on Microcontrollers without hardware in Renode
