浏览器上跑：TensorFlow发布实时人物分割模型，秒速25帧，24个部位
分栗子 发自 凹非寺
量子位 出品 | 公众号 QbitAI
TensorFlow开源了一个实时人物分割模型，叫BodyPix。
这个模型，在浏览器上用TensorFlow.js就能跑。
而且，帧率还很可观，在默认设定下：
用2018版15吋MacBook Pro跑，每秒25帧。
用iPhone X跑，每秒21帧。
注意，有线上Demo可以玩耍。
怎样分割
在BodyPix眼里，人体可以分成24个部位。比如，左手、右前小腿、后背等等。
对每个像素来说，模型首先需要判断，它是不是人体的一部分。
如果判断属于人体，再分辨它到底在人体的哪个部位：
这样，黑色剪影就变成了色彩丰富的分割成果。
开始食用
现在，来仔细看一下，这个模型该怎么用。
首先明确，如果不和其他模型搭配的话，BodyPix只适用于单人影像。
第一部分：导入
用npm install @tensorflow-models/body-pix安装，然后用es6模块来导入：
1import * as bodyPix from '@tensorflow-models/body-pix';
2
3async function loadAndUseBodyPix() {
4 const net = await bodyPix.load();
5 // BodyPix model loaded
6}或者，通过页面上的bundle来食用，就不用安装了：
1
2
3
4 "https://cdn.jsdelivr.net/npm/@tensorflow/[email protected]">
5
6 "https://cdn.jsdelivr.net/npm/@tensorflow-models/body-pix">
7 bodypix.load().then(function(net) {
8 // BodyPix model loaded
9 });
10
11
12 第二部分A：把人抠出来
这里，只是把像素分成人和非人。
每个像素，都会给出一个0-1之间的数值。
然后，设定一个阈值 (如0.5) 。数值大于等于阈值视为1，小于视为0。
要召唤出一个API，叫estimatePersonSegmentation，来执行这个任务：
1const imageElement = document.getElementById('image');
2
3// load the BodyPix model from a checkpoint
4const net = await bodyPix.load();
5
6// arguments for estimating person segmentation.
7const outputStride = 16;
8const segmentationThreshold = 0.5;第二部分B：区分身体部位
24个身体部位，对应0-23的数字。非人体则是-1。
这里，要召唤出另一个API，叫estimatePartSegmentation：
1const imageElement = document.getElementById('image');
2
3// load the BodyPix model from a checkpoint
4const net = await bodyPix.load();
5
6// arguments for estimating body part segmentation.
7const outputStride = 16;
8const segmentationThreshold = 0.5;
9
10// load the person segmentation model from a checkpoint
11const net = await bodyPix.load();
12
13const partSegmentation = await net.estimatePartSegmentation(imageElement, outputStride, segmentationThreshold);更详细的食用步骤，请至文底博客传送门。
多人也可以？
BodyPix如果可以和人物检测器合并使用，就可以做多人分割任务了：
先把每个人用方框圈起来，然后再在每个方框里做分割。
但凭一己之力，BodyPix暂时还搞不定多人。
不过，对于一个能在浏览器上运行的实时模型，单人25帧每秒，已属优秀。
除了开源模型之外，TensorFlow团队还提供了线上Demo，打开摄像头就可以玩耍了：
Demo传送门：
https://storage.googleapis.com/tfjs-models/demos/body-pix/index.html
BodyPix传送门：
https://github.com/tensorflow/tfjs-models/tree/master/body-pix
博客传送门：
https://medium.com/tensorflow/introducing-bodypix-real-time-person-segmentation-in-the-browser-with-tensorflow-js-f1948126c2a0
作者系网易新闻·网易号“各有态度”签约作者
— 完 —
加入社群
量子位现开放「AI+行业」社群，面向AI行业相关从业者，技术、产品等人员，根据所在行业可选择相应行业社群，在量子位公众号（QbitAI）对话界面回复关键词“行业群”，获取入群方式。行业群会有审核，敬请谅解。
此外，量子位AI社群正在招募，欢迎对AI感兴趣的同学，在量子位公众号（QbitAI）对话界面回复关键字“交流群”，获取入群方式。
诚挚招聘
量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
喜欢就点「好看」吧 !