大数据中台第30页

使用python打开parquet文件

Parquet是一种用于列式存储和压缩数据的文件格式，广泛应用于大数据处理和分析中。Python提供了多个库来处理Parquet文件，例如pyarrow和fastparquet。

Yorelee.·2024-02-04 18:09

2011-2022省级金融科技指数（基于百度搜索指数）

基本技术角度包括“大数据、云计算、人工智能、区块链、生物识别”;资金支付角度包括“在线支付、移动支付、第三方支付”

Fovace·2024-02-04 18:35

2018做了什么呢？回忆中...

在得到上学过的专栏，有大数据，一目了然。在喜马拉雅听的内容，有大数据，也一目了然。在樊登读书会听的书，大数据详细到几点几分读的哪本书。而我这一年三百多天走过的痕迹呢？

清香读书1000天·2024-02-04 18:23

探秘海洋生物，来看看海洋生物公开基因组数据集吧！

近日，由青岛华大基因研究院规划的海洋生物公开基因组数据集（PublicMarineGenomeResources,PMGR）系列在国家基因库生命大数据平台（CNGBdb）正式上线。

尐尐呅·2024-02-04 18:57

在Python中如何定义一个迭代器并使用它

迭代器与生成器总结在Python中，迭代器是一个非常强大的概念，它允许我们以一种延迟处理的方式逐个访问一个序列中的元素，这种处理方式特别适合处理大数据集，因为它不需要在开始处理前就将所有数据加载到内存中

数字魔术师·2024-02-04 18:43

在Python中如何定义一个生成器并使用它

目录1.定义生成器生成器函数示例生成器表达式示例2.使用生成器处理大数据集3.生成器的高级应用总结在Python中，生成器是一种用于创建迭代器的简单而强大的工具。

数字魔术师·2024-02-04 18:12

达梦数据库的最大连接数，怎么查看和设置

公司为客户提供各类数据库软件及集群软件、云计算与大数据等一系列数据库产品及相关技术服务，致力于成为国际顶尖的全栈数据产品及解决方案提供商。

ThatMonth·2024-02-04 18:08

精选70套前端数据可视化大屏

分享70款还不错的前端数据可视化大屏源码其中包含行业：智慧社区、智慧物业、政务系统、智慧交通、智慧工程、智慧医疗、智慧金融银行等，全网最新、最多，最全、最酷、最炫大数据可视化模板。

迂幵·2024-02-04 17:59

阿里云企业级云服务器多少钱？阿里云企业级云服务器最新活动价格表

阿里云服务器有多种实例分类，其中通用型、计算型、内存型、通用算力型、大数据型、本地SSD、高主频型和增强型均属于企业级云服务器，目前在阿里云活动中，通用算力型、通用型、计算型均有优惠，下面是阿里云企业级云服务器价格表

阿里云最新优惠和活动汇总·2024-02-04 17:54

智慧工地怎么做？看看这个污水厂项目

通过采用智能化设备、物联网技术和大数据分析等手段，智慧工地能够提高施工效率、降低安全风险和减少环境污染等方面具有显著优势。在污水厂项目中，运用720云VR全景技术，为智慧工地提供了一个全新视角。

720云·2024-02-04 17:22

私有化部署的即时通讯平台，为企业移动业务安全保驾护航

随着5G移动互联、云计算和大数据等新兴技术的运用，企业信息化快速地发展，使得政企内部存储的数据信息在网上被传播、利用和共享，数字信息的应用大大提高了政企有用信息的利用效率。

恒拓高科WorkPlus·2024-02-04 17:50

2019-03-07

公司做数据，但是我一个架构师对大数据相关技术却了解很浅，实在是惭愧。以后需要大力加强这一块的技能。

bigtian·2024-02-04 16:24

投资人项目手记（50）

目前已经过拥有全国20%的市场份额，公司现在的业务已经全面转型互联网，冰雪大数据，通过控制雪场运营，掌握冰雪用户实现企业在冰雪行业的价值最大化。在冬奥会的促进下，未来冰雪市场会迎来高速发展期。

728d0ac2e16e·2024-02-04 16:08

时空数据挖掘新思路！25篇顶会论文汇总，含2024最新！

在科技飞速发展的今天，我们正处在一个大数据无处不在的时代，在这个时代背景下，时空数据变得尤为重要，它不仅记录了事物的位置和时间变化，还揭示了地理实体间的复杂联系和动态模式。

AI热心分享家·2024-02-04 15:01

性别偏见不存在的，女性入行大数据也能有新未来

那么，对于大数据这个领域，女性入行能否打破传统的“束缚”呢？

yoku酱·2024-02-04 15:50

做大数据需要学习哪些东西啊

文章来源：科多大数据做大数据需要学习哪些东西啊，相信不少对大数据职位感兴趣的人都会有这样的疑问。

kuntoria·2024-02-04 14:02

大数据与机器学习：实践方法与行业案例.2.4　作业调度

2.4作业调度调度工具用来对作业进行调度，通过ETL工具创建的作业如果需要周期性运行，就需要使用调度工具来完成。调度工具是一个相对复杂的系统，尤其是在跨操作系统、跨应用平台的作业环境中更是如此。在复杂的作业环境中，需要使用商用调度工具，目前国内使用较多的商用调度工具为Control-M。该工具是BMCSoftware提供的企业级集中作业调度管理解决方案，能够集中管理跨平台、跨应用的生产控制和调度过

weixin_34054931·2024-02-04 14:01

智慧城市行业盛会:2024北京国际智慧城市展览会（世亚智博会）

为了展示和推广国内外数字技术与新应用成果，引领数字产业发展新方向，积极推动5G、人工智能、大数据、云计算、物联网、移动互联网、元宇宙等新型数字技术与智慧城市相结合，促进智慧城市建设的全面发展，2024北京国际智慧城市展览会

高登先生·2024-02-04 14:19

新零售时代，传统便利店如何转型？

为了适应这些变化，传统便利店需要进行转型，以下是几个建议：引入智能化技术：传统便利店可以引入智能化技术，如人工智能、物联网、大数据等，实现智能化管理和运营。

Runwise 即能创新·2024-02-04 13:02

由亚马逊云科技 Graviton4 驱动的全新内存优化型实例 Amazon EC2 实例(R8g)，现已开放预览

对于要求较高的内存密集型工作负载，R8g实例是不二之选：大数据分析、高性能数据库、在内存中缓存等。亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。

亚马逊云开发者·2024-02-04 13:52

矩阵起源荣获《2023大数据产业年度国产化优秀代表厂商》

近日，矩阵起源荣获《2023大数据产业年度国产化优秀代表厂商》。

MatrixOrigin·2024-02-04 13:05

活动回顾 | 矩阵起源 CEO 王龙：与大数据结合，是大模型成熟的必经之路

导读近日，由数据猿和上海大数据联盟主办，上海市经济和信息化委员会、上海市科学技术委员会指导的“第六届金猿季&魔方论坛——大数据产业发展论坛”在上海市四行仓库举行，吸引了数百位业界精英的参与。

MatrixOrigin·2024-02-04 13:34

我的大学生活

大数据工程学院唐自豪2020402103每个人都在向往大学生活，这是每个优秀的高级毕业生的必经阶段。不知道他们的校园生活如何？精彩or无趣。反正他们是体验过了。

e91e30c11e9b·2024-02-04 13:37

springboot/java/php/node/python基于云平台的计算机考试辅导小程序【计算机毕设】

基于云平台的计算机考试辅导小程序应运而生，它利用云计算的强大数据处理能力和便捷的服务模式，为学习者提供一个随时随地可以访问的学习环境。这

艺馨程序设计·2024-02-04 12:16

大数据技术未来发展前景及趋势分析

流大数据分析Storm:ApacheStorm是一种开源的分布式实时计算系统。Storm加速了流数据处理的过程，为Hadoop批处理提供实时数据处理。

丨程序之道丨·2024-02-04 12:54

刚刚，这所大学的学生再获全国大奖！

湖北医药学院学生彭梦泽、张伟在今天下午举行的2018年首届全国大学生大数据技能竞赛中，经过努力拼搏，分获一等奖、二等奖的好成绩。

高等医药教育·2024-02-04 12:22

数据中台第5章数据汇聚联通：打破企业数据孤岛

要构建企业级的数据中台，第一步就是要让企业内部各个业务系统的数据实现互联互通，从物理上打破数据孤岛，这主要通过数据汇聚和交换的能力来实现。

四月天03·2024-02-04 12:51

大数据Zookeeper--集群操作

文章目录集群操作集群安装选举机制（面试重点）Zookeeper选举机制——第一次启动Zookeeper选举机制——非第一次启动ZK集群启动停止脚本客户端命令行操作命令行语法znode节点数据信息节点类型（持久/短暂/有序号/无序号）监听器原理节点删除和查看客户端API操作IDEA环境搭建创建Zookeeper客户端创建子节点获取子节点并监听节点变化判断Znode是否存在客户端向服务端写数据流程写流

泛黄的咖啡店·2024-02-04 11:15

大数据Hive--安装和配置

文章目录一、Hive的安装地址1.1Hive安装部署1.1.1安装Hive1.1.2启动Hive二、MySQL的安装地址2.1安装MySQL2.2配置MySQL2.3卸载MySQL三、配置Hive元数据存储到MySQL3.1配置Hive元数据存储到MySQL3.2验证元数据是否配置成功3.3查看MySQL中的元数据四、Hive服务部署4.1hiveserver2服务4.2metastore服务五、

泛黄的咖啡店·2024-02-04 11:44

大数据Hive--函数

文章目录一、函数1.1函数简介1.2单行函数1.2.1算术运算函数1.2.2数值函数1.2.3字符串函数1.2.4日期函数1.2.5流程控制函数1.2.6集合函数1.2.7案列演示1.2.7.1数据准备1.2.7.2需求1.3高级聚合函数1.3.1案例演示1.4炸裂函数1.4.1概述1.4.2案例演示1.4.2.1数据准备1.4.2.2需求1.5窗口函数（开窗函数）1.5.1概述1.5.2常用窗口

泛黄的咖啡店·2024-02-04 11:44

大数据Hive--DDL(数据定义)和DML(数据操作)

文章目录一、DDL1、数据库1.1创建数据库1.2查询数据库1.3修改数据库1.4删除数据库1.5切换当前数据库2、表2.1创建表1）普通建表2）CreateTableAsSelect（CTAS）建表3）CreateTableLike语法2.2案例1）内部表与外部表2）SERDE和复杂数据类型2.3查看表2.4修改表2.5删除表2.6清空表二、DML1.1Load1.2Insert1.2.1将查询

泛黄的咖啡店·2024-02-04 11:43

大数据Zookeeper--入门

文章目录Zookeeper入门概述Zookeeper工作机制特点数据结构应用场景Zookeeper下载地址Zookeeper本地安装本地模式安装安装前准备配置修改配置参数解读Zookeeper入门概述Zookeeper是一个开源的分布式的，为分布式框架提供协调服务的Apache项目。Zookeeper=文件系统+通知机制Zookeeper工作机制Zookeeper从设计模式角度来理解：是一个基于观

泛黄的咖啡店·2024-02-04 11:11

大数据入门-大数据技术概述(二)

目录大数据入门系列文章1.大数据入门-大数据是什么2.大数据入门-大数据技术概述(一)一、简介二、技术详解1.分布式协调服务：Zookeeper2.分布式资源管理器：Yarn3.计算引擎：Spark4.

水坚石青·2024-02-04 11:11

大数据入门--zookeeper（一）--集群搭建与常用指令

Zookeeper单机搭建下载官方安装包#解压tar-zxvfzookeeper-3.4.5.tar.gz-C/opt/module/#配置zoo.conf，只需要将conf/zoo_sample.conf重命名为zoo.conf即可mvconf/zoo_sample.cfgconf/zoo.cfg#启动bin/zkServer.shstart#查询状态bin/zkServer.shstatus#

许中宝·2024-02-04 11:40

Hbase2.1 集群搭建

>Hbase在大数据的体系中扮演着DB角色，不得不说是重要的一员，在上一篇，大猪已经给大家演示了[Hadoop3.2集群搭建](https://www.jianshu.com/p/3182aaff918d

kikiki4·2024-02-04 11:08

吴恩达：改善深层神经网络：超参数调试、正则化以及优化(Improving Deep Neural Networks:Hyperparameter tuning, Regularizatio)

@[toc]1.1训练、开发、测试集trainset训练集Devset验证集testset测试集小规模数据：训练集：其他=7:3大数据时代（超百万数据）：训练集占80%或者90%以上验证集和测试集来自同一分布如果只有训练集和验证集

Cache_wood·2024-02-04 10:48

智慧水务（水厂）大数据平台，打造水务运营管理驾驶舱

以物联感知技术、大数据、智能控制、云计算、人工智能、数字孪生、AI算法、虚拟现实技术为核心，以监测仪表、通讯网络、数据库系统、数据中台、模型软件、前台展示、智慧运维等产

郭靖守襄阳【软芯民用】·2024-02-04 09:52

大数据领域的数据仓库

在大数据领域，数据仓库（DataWarehouse）是一个用于存储、管理和分析大量数据的集中式系统。

薛定谔的zhu·2024-02-04 09:43

题记(39)--约数个数(大数据情况)

目录一、题目内容二、输入描述三、输出描述四、输入输出示例五、完整C语言代码一、题目内容输入n个整数,依次输出每个数的约数的个数二、输入描述输入的第一行为N，即数组的个数(N#includeintmain(){intN;while(scanf("%d",&N)!=EOF){int*a=(int*)malloc(N*sizeof(int));for(inti=0;i

INT小蔡·2024-02-04 09:08

转载-58同城离线计算平台设计与实践

本次分享将聚焦大数据平台离线计算和大家一起系统的探讨58在离线计算平台建设实践的思路、方案和问题解决之道。

无色的叶·2024-02-04 09:14

消息队列服务Kafka揭秘：痛点、优势以及适用场景

摘要：消息队列Kafka是一个分布式的、高吞吐量、高可扩展性消息队列服务，广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等，是大数据生态中不可或缺的产品之一，阿里云提供全托管服务，用户无需部署运维

云栖社区v·2024-02-04 08:01

IT行业有哪些证书含金量高？

IT行业涵盖了广泛的领域，包括软件开发、网络管理、数据库管理、信息安全、云计算、人工智能、大数据分析等多个方面。

番茄不是西红柿1·2024-02-04 08:56

文心一言APP上线数字分身功能；王仲远加入智源研究院任院长；商汤科技发布新版日日新·商量大语言模型丨每日大事件...

‍大数据产业创新服务媒体——聚焦数据·改变商业企业动态Meta将于今年在数据中心部署新版本的内部定制AI芯片2月2日消息，Meta将于2024年部署新款自研的定制款芯片到旗下数据中心，以支持人工智能。

数据猿·2024-02-04 07:13

隐私计算行业要步入寒冬？还可以再抢救一下！

大数据产业创新服务媒体——聚焦数据·改变商业在前两年，隐私计算这个细分领域可谓数据安全行业的明星选手，得到很多的关注，并被赋予很大的期待。

数据猿·2024-02-04 07:43

【大数据面试题】001 Flink 的 Checkpoint 原理

一步一个脚印，一天一道大数据面试题。Flink是大数据实时处理计算框架。实时框架对检查点，错误恢复的功能要比离线的更复杂，所以一起来了解Flink的Checkpoint机制吧。

Jiweilai1·2024-02-04 07:13

中国大学生计算机设计大赛与大数据应用主题赛

中国大学生计算机设计大赛与大数据应用主题赛中国大学生计算机设计大赛（简称“大赛”或4C）始筹于2007年，首届于2008年，已经举办了16届80场赛事。

泰迪智能科技·2024-02-04 06:41

镜舟科技客户成功团队负责人孟庆欢：湖仓一体将成为数据架构的新范式

大数据产业创新服务媒体——聚焦数据·改变商业随着数字化的概念逐步深入不同领域企业的运营中，业务形态和数字化路径也越来越丰富。这也为企业数据处理、储存的方式提出了更多要求。

数据猿·2024-02-04 06:40

深度学习和大数据技术的进步在自然语言处理领域的应用

文章目录每日一句正能量前言一、深度学习在NLP中的应用二、大数据技术在NLP中的应用三、深度学习和大数据技术的影响四、应用场景后记每日一句正能量努力学习，勤奋工作，让青春更加光彩。

想你依然心痛·2024-02-04 06:41

子雨大数据之Spark入门教程---Spark入门：RDD的设计与运行原理1.3

Spark的核心是建立在统一的抽象RDD之上，使得Spark的各个组件可以无缝进行集成，在同一个应用程序中完成大数据计算任务。

千寻～·2024-02-04 06:38

大数据本地环境搭建03-Spark搭建

需要提前部署好Zookeeper/Hadoop/Hive环境1Local模式1.1上传压缩包下载链接链接：https://pan.baidu.com/s/1rLq39ddxh7np7JKiuRAhDA?pwd=e20h提取码：e20h将spark-3.1.2-bin-hadoop3.2.tar.gz压缩包到node1下的/export/server目录1.2解压压缩包tar-zxvf/export

OnePandas·2024-02-04 06:31

推荐频道

大数据中台