8 种方案机智应对后端一次性返回 10万 条数据
大厂技术 高级前端 Node进阶点击上方 程序员成长指北，关注公众号
回复1，加入高级Node交流群问题描述
面试官：后端一次性返回
10万条数据给你，你如何处理？我：歪嘴一笑，
what the f**k!
问题考察点
看似无厘头的问题，实际上考查候选人「知识的广度和深度」，虽然在工作中这种情况很少遇到...
考察前端如何处理大量数据
考察候选人对于大量数据的性能优化
「考察候选人处理问题的思考方式」（关于这一点，文末会说到，大家继续阅读）
......
文末会提供完整代码，供大家更好的理解
使用express创建一个十万条数据的接口
若是道友对
express相关不太熟悉的话，有空可以看看笔者的这一篇全栈文章（还有完整代码哦）：《Vue+Express+Mysql全栈项目之增删改查、分页排序导出表格功能》
route.get("/bigData", (req, res) => {
res.header('Access-Control-Allow-Origin', '*'); // 允许跨域
let arr = [] // 定义数组，存放十万条数据
for (let i = 0; i < 100000; i++) { // 循环添加十万条数据
arr.push({
id: i + 1,
name: '名字' + (i + 1),
value: i + 1,
})
}
res.send({ code: 0, msg: '成功', data: arr }) // 将十万条数据返回之
})点击按钮，发请求，获取数据，渲染到表格上
html结构如下：
点击请求加载
方案一: 直接渲染所有数据
如果请求到10万条数据直接渲染，页面会卡死的，很显然，这种方式是不可取的
async plan() {
this.loading = true;
const res = await axios.get("http://ashuai.work:10000/bigData");
this.arr = res.data.data;
this.loading = false;
}方案二: 使用定时器分组分批分堆依次渲染（定时加载、分堆思想）
正常来说，十万条数据请求，需要2秒到10秒之间（有可能更长，取决于数据具体内容）
而这种方式就是，前端请求到10万条数据以后，先不着急渲染，先将10万条数据分堆分批次
比如一堆存放10条数据，那么十万条数据就有一万堆
使用定时器，一次渲染一堆，渲染一万次即可
这样做的话，页面就不会卡死了
分组分批分堆函数
我们先写一个函数，用于将10万条数据进行分堆
所谓的分堆其实「思想就是一次截取一定长度的数据」
比如一次截取10条数据，
头一次截取0~9，第二次截取10~19等固定长度的截取举例原来的数据是：
[1,2,3,4,5,6,7]假设我们分堆以后，一堆分3个，那么得到的结果就是二维数组了
即：
[ [1,2,3], [4,5,6], [7]]然后就遍历这个二维数组，得到每一项的数据，即为每一堆的数据
进而使用定时器一点点、一堆堆赋值渲染即可
分组分批分堆函数（一堆分10个）
function averageFn(arr) {
let i = 0; // 1. 从第0个开始截取
let result = []; // 2. 定义结果，结果是二维数组
while (i < arr.length) { // 6. 当索引等于或者大于总长度时，即截取完毕
// 3. 从原始数组的第一项开始遍历
result.push(arr.slice(i, i + 10)); // 4. 在原有十万条数据上，一次截取10个用于分堆
i = i + 10; // 5. 这10条数据截取完，再截取下十条数据，以此类推
}
return result; // 7. 最后把结果丢出去即可
}创建定时器去依次赋值渲染
比如我们每隔一秒钟去赋值渲染一次
async plan() {
this.loading = true;
const res = await axios.get("http://ashuai.work:10000/bigData");
this.loading = false;
let twoDArr = averageFn(res.data.data);
for (let i = 0; i < twoDArr.length; i++) {
// 相当于在很短的时间内创建许多个定时任务去处理
setTimeout(() => {
this.arr = [...this.arr, ...twoDArr[i]]; // 赋值渲染
}, 1000 * i); // 17 * i // 注意设定的时间间隔... 17 = 1000 / 60
}
},这种方式，相当于在很短的时间内创建许多个定时任务去处理，定时任务太多了，也耗费资源啊。
实际上，这种方式就有了大数据量分页的思想
方案三: 使用requestAnimationFrame替代定时器去做渲染
关于requestAnimationFrame比定时器的优点，道友们可以看笔者的这篇文章：《性能优化之通俗易懂学习requestAnimationFrame和使用场景举例》
「反正大家遇到定时器的时候，就可以考虑一下，是否可以使用请求动画帧进行优化执行渲染？」
如果使用请求动画帧的话，就要修改一下代码写法了，前面的不变化，plan方法中的写法变一下即可，注意注释：
async plan() {
this.loading = true;
const res = await axios.get("http://ashuai.work:10000/bigData");
this.loading = false;
// 1. 将大数据量分堆
let twoDArr = averageFn(res.data.data);
// 2. 定义一个函数，专门用来做赋值渲染（使用二维数组中的每一项）
const use2DArrItem = (page) => {
// 4. 从第一项，取到最后一项
if (page > twoDArr.length - 1) {
console.log("每一项都获取完了");
return;
}
// 5. 使用请求动画帧的方式
requestAnimationFrame(() => {
// 6. 取出一项，就拼接一项（concat也行）
this.arr = [...this.arr, ...twoDArr[page]];
// 7. 这一项搞定，继续下一项
page = page + 1;
// 8. 直至完毕（递归调用，注意结束条件）
use2DArrItem(page);
});
};
// 3. 从二维数组中的第一项，第一堆开始获取并渲染（数组的第一项即索引为0）
use2DArrItem(0);
}方案四: 搭配分页组件，前端进行分页（每页展示一堆，分堆思想）
这种方式，笔者曾经遇到过，当时的对应场景是数据量也就几十条，后端直接把几十条数据丢给前端，让前端去分页
后端不做分页的原因是。他当时临时有事情请假了，所以就前端去做分页了。
数据量大的情况下，这种方式，也是一种解决方案
思路也是在所有数据的基础上进行截取
简要代码如下：
getShowTableData() {
// 获取截取开始索引
let begin = (this.pageIndex - 1) * this.pageSize;
// 获取截取结束索引
let end = this.pageIndex * this.pageSize;
// 通过索引去截取，从而展示
this.showTableData = this.allTableData.slice(begin, end);
}完整案例代码，请看笔者的这篇文章：《后端一次性返回所有的数据，让前端截取展示做分页》
「实际上，这种大任务拆分成许多小任务，这种方式，做法，应用的思想就是分片的方式（时间），在别的场景，比如大文件上传的时候，也有这种思想，比如一个500MB的大文件，拆分成50个小文件，一个是10MB这样...至于大文件上传的文章，那就等笔者有空了再写呗...」
方案五: 表格滚动触底加载（滚动到底，再加载一堆）
这里重点就是我们需要去判断，何时滚动条触底。判断方式主要有两种
scrollTop + clientHeight >= innerHeight或
new MutationObserver()去观测
目前市面上主流的一些插件的原理，大致是这两种。
笔者举例的这是，是使用的插件v-el-table-infinite-scroll，本质上这个插件是一个自定义指令。对应npm地址：www.npmjs.com/package/el-…
当然也有别的插件，如vue-scroller 等：一个意思，不赘述
注意，触底加载也是要分堆的，将发请求获取到的十万条数据，进行分好堆，然后每触底一次，就加载一堆即可
在el-table中使用el-table-infinite-scroll指令步骤
安装，注意版本号（区分vue2和vue3）
「cnpm install \--save [email protected]」
注册使用指令插件
// 使用无限滚动插件
import elTableInfiniteScroll from 'el-table-infinite-scroll';
Vue.use(elTableInfiniteScroll);因为是一个自定义指令，所以直接写在el-table标签上即可
async load() {
// 触底加载，展示数据...
},案例代码
为了方便大家演示，这里笔者直接附上一个案例代码，注意看其中的「步骤」注释即可
方案六: 使用无限加载/虚拟列表进行展示
什么是虚拟列表？
所谓的虚拟列表实际上是「前端障眼法」的一种表现形式。
看到的好像所有的数据都渲染了，实际上只渲染「可视区域」的部分罢了
有点像我们看电影，我们看的话，是在一块电影屏幕上，一秒一秒的看（不停的放映）
但是实际上电影有俩小时，如果把两个小时的电影都铺开的话，那得需要多少块电影屏幕呢？
同理，如果10万条数据都渲染，那得需要多少dom节点元素呢？
所以我们只给用户看，他「当下能看到的」
如果用户要快进或快退（下拉滚动条或者上拉滚动条）
再把对应的内容呈现在电影屏幕上（呈现在可视区域内）
这样就实现了看着像是所有的dom元素每一条数据都有渲染的障眼法效果了
关于前端障眼法，在具体工作中，如果能够巧妙使用，会大大提升我们的开发效率的
写一个简单的虚拟列表
这里笔者直接上代码，大家复制粘贴即可使用，笔者写了一些注释，以便于大家理解。当然也可以去笔者的仓库中去瞅瞅哦，GitHub仓库在文末
代码
{{ item.name }}
loading...
使用vxetable插件实现虚拟列表
如果不是列表，是table表格的话，笔者这里推荐一个好用的UI组件，vxetable，看名字就知道做的是表格相关的业务。其中就包括虚拟列表。
vue2和vue3版本都支持，性能比较好，官方说：**虚拟滚动（最大可以支撑 5w 列、30w 行）**
强大！
官方网站地址：vxetable.cn/v3/#/table/…
安装使用代码
注意安装版本，笔者使用的版本如下：
cnpm i xe-utils [email protected] \--save
「main.js」
// 使用VXETable
import VXETable from 'vxe-table'
import 'vxe-table/lib/style.css'
Vue.use(VXETable)代码方面也很简单，如下：
方案七: 开启多线程Web Worker进行操作
本案例中，使用Web Worker另外开启一个线程去操作代码逻辑，收益并不是特别大（假如使用虚拟滚动列表插件的情况下）
不过也算是一个拓展的思路吧，面试的时候，倒是可以说一说，提一提。
对Web Worker不熟悉的道友们，可以看看笔者之前的这篇文章：《性能优化之使用vue-worker插件（基于Web Worker）开启多线程运算提高效率》
方案八: 未雨绸缪，防患于未然
以下为笔者愚见，仅供参考...
在上述解决方案都说完以后，并没有结束。
实际上本题目在考查候选人知识的广度和深度以外，更是考查了候选人的处理问题的思考方式，这一点尤其重要！
笔者曾做过候选人去求职，也曾做过面试官去面试。就程序员开发工作而言，技术知识点不熟悉，可以快速学习，如文档、谷歌、百度、技术交流群，相关同事都可提供一定的支持
更重要的是看中候选人的思考方式，思维模式
试想，两个候选人实力水平差不多，但是一个只知道埋头苦干，有活就干，不去斟酌；而另外一个却是在用心工作的时候，也会仰望星空，会分析如何干活能够高性价比地完成任务，注重过程与结果
这样的话，哪个更加受欢迎一些呢？
如果笔者是候选人，笔者在说了上述7种方案以后，会再补充第八种方案：未雨绸缪，防患于未然
场景模拟
面试官随意打量着其手中我的简历，抚须怪叫一声：“小子，后端要一次性返回10万条数据给你，你如何处理？”
我眉毛一挑，歪嘴一笑：“在上述7种方案陈述完以后，我想类似的问题，我们可以从根本上去解决。即第八种方案，「要未雨绸缪，防患于未然」。”
“哦？”面试官心中疑惑，缓缓放下我的简历：“愿闻其详。”
我不紧不慢地答道：“在具体开发工作中，我们在接到一个需求时，在技术评审期间，我们就要和后端去商量比较合适的技术解决方案。这个问题是后端要一次性返回我10万条数据，重点并不在10万条这么多数据，而在于后端为什么要这样做？”
面试官抬头，认真听了起来。
我一字一顿地说道：“除去**业务真正需要这种方案**的话（若是客户要求的，那就没啥好说的，干就完了），后端这样做的原因大致有两种，第一种他不太懂sql的limit语句，但这基本不可能，第二种就是他有事情，随便敷衍写了一下。所以，就是要和他沟通，从大数据量接口请求时长过长，以及过多的dom元素渲染导致性能变差，以及项目的可维护性等角度去沟通，我相信只要正确的沟通，就能从根源上去避免这种不太合理的情况发生。”
面试官又突然狡黠地发问：“要是沟通以后，后端死活不给你分页呢？你咋办？你的沟通无效果！你如何处理！人家不听你的！”似乎是觉得这个问题很刁钻，他双臂抱在胸前，靠在椅背上，等待着我脸上即将绽放的的回答不上来地尴尬笑容。
我内心冷哼一声：雕虫小技...
我盯着面试官的眼睛，认真说道：“如果工作中沟通无效果，要么是我自己沟通语言表达的问题，这一点我会注意，不断提升自己的沟通技巧和说话方式，要么就是...”
我声音扬起了三分：“我沟通的这个人有问题！他工作摸鱼偷懒耍滑！固执己见！为难他人！高高在上！自以为是！这种情况下，我会找到我的直属领导去介入，因为这已经不是项目的需求问题了，而是员工的基本素养问题！”
停顿了一秒，我声音又柔和了几分：“但是，但是我相信咱们公司员工中是绝对没有这样的人存在的，各个都是能力强悍，态度端正的优秀员工。毕竟咱们公司在行业中久负盛名，我也是因此慕名而来的。您说对吧？”
面试官眼中闪过震惊之色，他没有想到我居然把皮球又踢给他了，不过他为了维持形象，旋即恢复了镇定，只是面部肌肉在止不住的微微颤抖。
我又补充道：“实际上在工作中，前端作为比较贴近用户的角色而言，需要和各个岗位的同事进行沟通，比如后端、产品、UI、测试等。我们需要通过合理的沟通方式，去提升工作效率，完成项目，实现自己的价值，为公司创造收益，我想这是每一个员工需要做的，也是必须要做到的。”
面试官又抚须怪叫一声：“小子表现还行，你被录用了！一个月工资2200，自带电脑，无社无金，007工作制，不能偷吃公司零食，以及...”
我：阿哒...
原文链接：https://juejin.cn/post/7205101745936416829
作者：水冗水孚
总结
「有效的沟通，源自于解决问题的思维模式，在多数情况下，重要性，大于当下所掌握的技术知识点」
网站效果演示地址：http://ashuai.work:8888/#/bigData
GitHub仓库地址：https://github.com/shuirongshuifu/elementSrcCodeStudy
写在最后
Node 社群
我组建了一个氛围特别好的 Node.js 社群，里面有很多 Node.js小伙伴，如果你对Node.js学习感兴趣的话（后续有计划也可以），我们可以一起进行Node.js相关的交流、学习、共建。下方加 考拉 好友回复「Node」即可。
“分享、点赞、在看” 支持一波