浅谈 DingOS 设备端计算

在网络高速发展、信息爆炸的时代,我们每天都在接受各种各样的新内容,小到娱乐八卦,大到社会动向;在此大背景下,冗杂的信息也影响了各个服务的产品设计。

对于开发者来说,为了提高服务的综合能力而添加了过多的延展功能,同时也弱化了其原本的核心功能。

对于用户来说,用在筛选服务的时间逐渐增多,但却会经常出现精挑细选的服务并没有自己想要的功能,或者下载了一个内存超高的服务后,发现自己只需要其中一个功能。

为了减少用户使用服务的成本,收获更舒适美好的服务体验,鼎道智联正在全力打造一款【以人为本】的系统 DingOS,以“顾问式交互”为用户提供服务。服务的智能推荐则为其中的重要一环,鼎道算法团队创新地提出了DingOS 设备端计算,提供各种场景的通用化解决方案。

01 什么是 DingOS 设备端计算

DingOS 设备端计算主要依据“用户交互——本地引擎——模型计算——推理输出”等流程进行架构设计。

在进行响应需求启动时,可以由设备端计算引擎进行模型计算与推理,得到推理结果后进行直接返回,全程没有网络传输时间的损耗,采用本地模型和候选集预加载后,也能最大程度上节省磁盘I/O时间,大部分情况下只需要耗费本地系统的cpu和内存读取时间即可。

因此,DingOS 设备端计算可以做到1毫秒左右的响应时间。

0DingOS 设备端计算模型

下面介绍设备端计算之LR算法(线性回归模型):

该模型优点:

相对简单,训练和预测的计算复杂度都相对较低

对稀疏的离散数据非常有效

可以集中精力发掘新的有效特征,且可以并行化工作

解释性较好,可以根据特征权重做解释

线性回归模型:

Y=aX1+bX2+cX3+dX4+... 

· 针对召回算法返回的热门候选集数据,进行二次精排,可以看做是对推荐的预估;

· X1,X2,...可以理解成服务的特征值,比如服务属性中服务类别,服务得分等;

· a,b,c,...是每个特征值的权重;

· Y介于0和1之间,越接近1,越可能被推荐,越趋近0,被推荐的概率就越小;

· 通过最小二乘法计算a,b,c,...,得出拟合公式,拟合出的模型是一条直线;在线之上的就是正样本(被推荐的),在线之下就是负样本(没被推荐的);

· 在做模型预测的时候,对于新进来的一个服务,将其X各个值输入进去,然后判断点是在直线的上方,还是线的下方。如果在线的下方,就可以认为这个服务不被推荐,其排序的权重就比较小;如果在线的上方,Y 的值就会比较大,比如 0.99,其排序的权重就更靠前。

0DingOS 设备端计算的优势

行业内其他的隐私计算大多是应用层进行请求处理的,本地没有推荐能力,全部靠云端推荐引擎进行推荐请求的处理和结果返回,服务请求上会比 DingOS 的设备端计算经过更多的层级。

设备端计算无论是在架构上,还是在链路上都提供了更加灵活和高效的请求处理,能够充分利用 DingOS 内置系统级服务的优势,用户无需在应用商店中选择应用服务,DingOS 系统会根据用户的操作自行推荐最适合当前动作及需求的服务,为用户优化掉繁杂的筛选和下载等动作,提高用户使用服务的效率。

给用户带来了“特殊服务”的同时,设备端隐私计算还能更好地保护用户隐私,严格遵守相关法律法规的要求,数据本地处理不上云,让服务用起来更加舒心、安心、放心,最大程度的完成了【以人为本】的交互。


鼎道秉承着【助天下人尽享智能物联服务】的愿景,致力于让所有用户以最便利的形式使用互联网服务,按需所取。

我们正在这条科技之路上持续探索,并反复打磨 DingOS 及其生态;我们诚邀各界和我们一起打造开放、创新、共赢的生态,也希望为你的科技探索带来一些动力,或启发。

你可能感兴趣的:(浅谈 DingOS 设备端计算)