170.自动化的风险

《玻璃笼子》一书中提到了2个故事。

1、很多国家做电子病历,然后有算法根据病人的症状自动推荐了很多检查,但其中有不少其实是没有意义的。这样的结果是增加了病人很多的成本。

2、有一些飞行事故,是因为飞行员过于依赖自动化的驾驶操作,当飞行出现异常的时候,缺少手动的办法来帮助飞机度过危险时刻。数据显示,美国过去10年的空难事故,有2/3是和飞行员的操作失误有关。

去年4月份,马斯克在twitter上承认:“特斯拉工厂的过度自动化是个错误。确切地说,是我的错误。人类被低估了。” 实际的情况是,model 3 尝试大规模使用工业机器人,然后效果并不好,导致产能不及预期,最终影响到了股价。

所以,在自动化、智能化的趋势中,虽然我们收获了效率的红利,但是也要认识到自动化的算法有可能犯错,而过度自动化会带来自身技能的退化。这2点值得警惕!

你可能感兴趣的:(170.自动化的风险)