大数据的价值开始日益受到重视，人们对数据处理的实时性和有效性的要求也在不断提高。现在对大数据的应用己经不局限于BI（商业智能）领域，在公共服务、科学研究等各方面，大数据也都在发挥着巨大的影响力，而且应用面要宽得多。

大数据的意义并不在于大容量、多样性等特征，而在于我们如何对数据进行管理和分析，以及因此而发掘出的价值。如果在分析处理上缺少相应的技术支撑，大数据的价值将无从谈起。

传统的处理和分析技术在这些需求面前开始遭遇瓶颈，而云计算的出现，不仅为我们提供了一种挖掘大数据价值使其得以凸显的工具，也使大数据的应用具有了更多可能性。

就目前技术发展来看，云计算以数据为中心，以虚拟化技术为手段来整合服务器、存储、网络、应用等在内的各种资源，并利用SOA架构为用户提供安全、可靠、便捷的各种应用数据服务；它完成了系统架构从组件走向层级然后走向资源池的过程，实现IT系统不同平台（硬件、系统和应用）层面的“通用”化，打破物理设备障碍，达到集中管理、动态调配和按需使用的目的。

借助“云”的力量，可以实现对多格式、多模式的大数据的统一管理、高效流通和实时分析，挖掘大数据的价值，发挥大数据的真正意义。

大数据对技术提出高要求

大数据处理首先是获取和记录数据；其次是完成数据的抽取、清洁和标注以及数据的整合、聚集和表达等重要的预处理或处理（取决于实际问题）工作；再次需要一个完整的数据分析步骤，通常包括数据过滤、数据摘要、数据分类或聚类等预处理过权最后进入分析阶段，在这个阶段，各种算法和计算工具会施加到数据上，以求能得到分析者想要看到的或者可以进行解释的结果。

涉及到庞大的数据量，这一整套处理流程在各个不同阶段都会对传统的技术手段提出挑战。比如，海量的网络化设备、海量的在线用户、不间断的网络联接，都在时刻生成大量的、多格式的内容数据和状态信息，这些经由各种客户端（网页、应用或是传感器等）采集而来的信息数据，连同成千上万的访问和操作请求，会以高并发的方式向系统服务器施加压力。

通常为了避免由于服务能力的不足而造成服务请求排队的问题，会来用负载均衡技术将单个服务器的压力进行分摊，大幅提高服务性能；在数据采集时，也会通过在采集端部署大量的数据库来对系统性能提供支撑，然后对采集到的数据（包括各种结构化、非结构化和半结构化数据等）进行数据清理、去重、正规化以及相应的格式转换处理。在按照预定规则进行过滤后，输出到分布式数据存储系统中进行存储，为之后的分析和展示做准备。

在分析阶段，为了完成数据挖掘的目的，通常需要处理海量的历史数据，构建复杂的数学统计和分析模型（比如计算冬天的气温水平对特定厚度的羽绒服销量的影响），并针对大量的结果之间的关联性做出高效正确的处理，同时还要支持数据更新带来的重新评估；而在展示阶段，则应当隐藏诸如数据存储拓扑和数据存储结构等实现细节，对业务应用暴露规范的数据访问接口，对复杂的数据访问需求提供透明支撑，大大减小业务应用的构建难度。

这些复杂的需求对技术实现和底层计算资源提出了高要求。所以，为应对这些复杂的大数据处理工作，需要从服务器、网络、存储、软件等各个环节构建一个兼具高可用性和高可靠性的系统环境，提供端到端的全面解决方案。