大数据(Hadoop 第31页

pandas中使用pyarrow加速

灵海之森·2024-02-06 10:45

Python中的pyarrow入门

它提供了跨平台、高性能的数据传输和存储解决方案，在数据处理、机器学习和大数据分析等领域有广泛应

牛肉胡辣汤·2024-02-06 10:42

黑客技术 | 中情局“史上最大数据泄密案”内情曝光

美国纽约市曼哈顿区一家联邦法院2月1日宣布对中央情报局前软件工程师乔舒亚·舒尔特的量刑决定。他因向维基揭秘网站泄露媒体口中“最有价值”的中情局黑客工具等罪行，被判处40年监禁。这起案件号称中情局历史上最大的泄密事件。内情曝光舒尔特现年35岁，2012年至2016年供职于中情局网络情报中心，该中心主要负责对外国政府和恐怖组织发动网络攻击。舒尔特不仅研发软件，还一度负责管理开发黑客工具的计算机程序套件

网安老伯·2024-02-06 10:18

热数据存储在HDFS，冷备数据存储于对象存储中

改方案均采用同一套Hadoop架构，使用hive均可以读取到，在降低成本的同时提高数据的利用率。2.准备条件c

tuoluzhe8521·2024-02-06 10:11

5G智能卷烟工厂数字孪生可视化平台，推进烟草行业数字化转型

5G智能卷烟工厂数字孪生可视化平台是一个集成了5G通信技术、物联网技术、大数据分析技术和人工智能技术的综合性平

数字孪生巨蟹数科·2024-02-06 09:39

决胜大数据时代：Hadoop&Yarn&Spark企业级最佳实践（8天完整版脱产式培训版本）...

Hadoop、Yarn、Spark是企业构建生产环境下大数据中心的关键技术，也是大数据处理的核心技术，是每个云计算大数据工程师必修课。

weixin_30273931·2024-02-06 09:08

Spark视频第5期：Spark SQL架构和案例深入实战

4013289088&fid=977951266414309王家林老师(邮箱：[email protected]:1740415547)Spark亚太研究院院长和首席专家，中国目前唯一的移动互联网和云计算大数据集大成者

Rocky_wangjialin·2024-02-06 09:35

地下停车场智慧监查系统：科技让停车更智能

地下停车场智慧监查系统运用了先进的物联网技术和大数据分析技术，可以对停车场进行全方位的实时监控和管理。该系统具备以下几大功能：（1）智能监控：通过高清摄像头和

久数君·2024-02-06 08:19

linux安装hadoop详细步骤（伪分布式）

今天重装了下hadoop，特在此记录下！

红烧柯基·2024-02-06 08:28

Redis核心技术与实战【学习笔记】 - 24.Redis 数据分片方案选择：Codis 和 Redis Cluster

简述Redis的切片集群使用多个实例保存数据，能很好的应对大数据量的场景。在《4.Redis切片集群》中，介绍了Redis官方提供的切片集群方法RedisCluster。

陈建111·2024-02-06 08:43

机器学习与人工智能、深度学习有什么关系？终于有人讲明白了

导读：“机器学习”一词往往被与“人工智能”“深度学习”混用，也常与“大数据”一词一同出现。下面首先简要介绍它们的关系，然后讲述机器学习的基本概念和模式。

大数据v·2024-02-06 08:10

【Flink入门修炼】1-1 为什么要学习 Flink？

一、批处理和流处理早些年，大数据处理还主要为批处理，一般按天或小时定时处理数据，代表性的框架为MapReduce、Hive、Spark等。

大数据王小皮·2024-02-06 07:29

【Redis】深入理解 Redis 常用数据类型源码及底层实现(3.详解String数据结构)

常用数据类型源码及底层实现(2.版本区别+dictEntry&redisObject详解)-CSDN博客紧接着前两篇的总体介绍，从这篇开始，我们结合源码依次解析下String、Hash、List、Set、ZSet这五大数据结构

AQin1012·2024-02-06 07:19

Hadoop-Yarn-启动篇

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、脚本部分1、start-yarn.sh如果我们想单独启动

隔着天花板看星星·2024-02-06 07:16

【大数据】Flink 中的 Slot、Task、Subtask、并行度

Flink中的Slot、Task、Subtask、并行度1.并行度2.Task与线程3.算子链与slot共享资源组4.Taskslots与系统资源5.总结我们在使用Flink时，经常会听到task，slot，线程以及并行度这几个概念，对于初学者来说，这几个概念以及它们与内存，CPU之间的关系经常搞不清楚，下面我们就通过这篇文章来弄清楚这些概念。1.并行度特定算子的子任务（subtask）的个数称之

G皮T·2024-02-06 07:01

ES核心干货学习（原理及数据结构）

2.需要进行分词检索，语义检索3.需要大数据分析符合上面特征都可以考虑，如日志收集、订单数据链查询，文章检索等。1.3为啥选

li644872790·2024-02-06 07:23

深度学习驱动下的自然语言处理进展及其应用前景

前言自然语言处理（NLP）是一项正在迅速发展的技术，它利用深度学习和大数据技术，让计算机能够更好地理解和生成人类语言。随着NLP的不断进步，我们对于计算机理解和应用语言的能力也取得了显著的提升。

想你依然心痛·2024-02-06 07:46

Spark大数据分析与实战笔记（第二章 Spark基础-06）

文章目录每日一句正能量2.6IDEA开发WordCount程序2.6.1本地模式执行Spark程序2.6.2集群模式执行Spark程序每日一句正能量我们全都要从前辈和同辈学习到一些东西。就连最大的天才，如果想单凭他所特有的内在自我去对付一切，他也决不会有多大成就。2.6IDEA开发WordCount程序Spark-Shell通常在测试和验证我们的程序时使用的较多，然而在生产环境中,通常会在IDEA

想你依然心痛·2024-02-06 07:38

开源大数据集群部署（十）Ranger usersync部署

作者：櫰木rangerusersync部署解压包[[email protected]]#pwd/opt/ranger[[email protected]]#tar-zxvfranger-2.3.0-usersync.tar.gz-C/opt/[[email protected]]#cdranger-2.3.0-usersync修改配置insta

云掣YUNCHE·2024-02-06 07:05

想学大数据？先看完这几本书再说

真正的数据爱好者有很多需要阅读的内容：大数据，机器学习，数据科学，数据挖掘等。

yoku酱·2024-02-06 06:55

【征稿已开启】第五大数据、人工智能与软件工程国际研讨会（ICBASE 2024）

第五大数据、人工智能与软件工程国际研讨会（ICBASE2024）20245thInternationalConferenceonBigData&ArtificialIntelligence&SoftwareEngineering2024

艾思科蓝-何老师【H8053】·2024-02-06 06:51

SparkSQL on K8s 在网易传媒的落地实践

【作者：鲁成祥易顺】随着云原生技术的发展和成熟，大数据基础设施积极拥抱云原生是业内发展的一大趋势。

wangyishufan·2024-02-06 06:02

理想汽车基于Flink on K8s的数据集成实践

分享分为四个部分：1.理想数据集成的发展与现状2.数据集成的落地实践3.数据集成云原生的落地实践4.未来规划分享嘉宾｜王小静理想汽车高级大数据工程师01数据集成的发展与现状理想汽车数据集成的发展经历了四个阶段

架构师小秘圈·2024-02-06 06:28

华为云GaussDB在新零售云转型上的摸索实验

随着互联网技术的不断发展，充分了解消费者的任务也交给了互联网技术，目前最常用到的方法是“通过大数据描绘出消费者的画像”。“人—货—场”是零售中

叶一一yyy·2024-02-06 05:28

CentOS 8 安装配置 Hadoop3.3.6 伪分布式安装方式（适用于开发和调试）

1.配置服务器ssh免密登录，否则后面启动会报错：尝试通过SSH连接到主机出现认证错误的提示配置服务器ssh免密登录：1.生成SSH密钥对（如果尚未生成）：执行下面的命令生成密钥对，一直回车即可ssh-keygen-trsa出现下面的提示说明生成成功了：2.第二步，将公钥添加到~/.ssh/authorized_keys文件：cat~/.ssh/id_rsa.pub>>~/.ssh/authori

鱼大虾·2024-02-06 05:39

HDFS入门基础

HDFS命令基础语法：【hadoopfs具体命令、hdfsdfs具体命令】两个是完全相同的。显示文件列表#hdfsdfs-lsURL创建目录#hdfsdfs-mkdir[-p]URL使用-p参数可以

nucty·2024-02-06 05:33

nucty·2024-02-06 05:31

Apache Hadoop

ApacheHadoop_狭义上说，Hadoop指Apache一款java语言开发的开源框架，它的核心组件有：HDFS（分布式文件系统）：解决海量数据存储YARN（作业调度和集群资源管理的框架）：解决资源任务调度

VincentLeon·2024-02-06 05:28

贴标签

尤其是大数据、AI等技术的发展，让人更无所遁行，在网络的世界里，每个人都是有一个画像的。比如，你经常逛淘宝，喜欢买化妆品，买尿不湿，买一些孕婴产品的时候，你已经被贴上了女性、年轻妈妈等等标签了。

A一心向上·2024-02-06 04:50

RocketMQ和Kafka的区别，以及如何保证消息不丢失和重复消费

语言多语言支持客户端优缺点RocketMQ十万级javajava模型简单、接口易用，在阿里有大规模应用文档少，支持的语言少Kafka百万级服务端scala，客户端java主流语言均支持天生分布式、性能最好，常用于大数据领域运维难度大

Marciaguoguo·2024-02-06 04:38

NoSQL简介

NoSQL数据库用于实时Web应用程序和大数据中，并且其使用随着时间的推移而增加。NoSQL系统有时也称为NoSQL，以强调它们可能支持类似SQL的查询语言这一事实。No

ebook_sea·2024-02-06 03:04

2021-11-07大数据学习日志——MySQL进阶——报表项目

01_数据表介绍学习目标了解项目使用的数据表结构及表关系课程使用微软的Northwind数据集,零售业务，包含了客户，供应商和订单数据。原始数据集可以在微软GitHub仓库下载。为了满足课程需求，数据库数据在原始数据基础上做了微调。基于此份数据，我们将通过SQL来创建数据报表，满足业务需求。1.1数据表整体概览1.2员工表(employees)保存员工基本信息，包含如下字段：employee_id

王络不稳定·2024-02-06 03:03

python-sql-spark常用操作

3.reduceByKey在大数据集上比groupByKey快很多。深入理解groupByKey、reduceByKey-简书【Sp

竹竹竹～·2024-02-06 03:32

Centos7.5+Ambari2.7.3+HDP3.1.0.0离线安装

Centos7.5+Ambari2.7.3+HDP3.1.0.0离线安装1简介Ambari跟Hadoop等开源软件一样，也是ApacheSoftwareFoundation中的一个项目，并且是顶级项目。

WaiSaa·2024-02-06 02:53

关于Spark/Hadoop中Master/Slave IP不正确的问题

在配置SparkStandAloneMode的时候，我遇到了Slave无法向正确的MasterIP发送数据的问题。通常这类问题都来源于没有正确配置./conf/spark_env.sh文件，只要在这个文件里定义好了SPARK_LOCAL_IP和SPARK_MASTER_HOST，就可以解决这个问题。而我设置了configure文件之后问题依然存在。原因在于MasterNode上有多个网卡，每个网卡

ecce·2024-02-06 02:37

跟上时代发展的步伐，做终身学习者

面对大数据、人工智能为代表的高技术革新已经在疫情的催化作用，给社会发展和重整按下了加速键。鸢尾花，不是二月兰因为世界格局的改变，很多以前以重复性执行简单指令就可以胜任的工作，将会被机器、机器人取代。

晓静_628c·2024-02-06 02:24

看这一篇就够了，如何写一手好SQL？

MySQL性能最大数据量抛开数据量和并发数，谈性能都是耍流氓。MySQL没有限制单表最大记录数，它取决于操作系统对文件大小的限制。看这一篇就够了，如何写一手好SQL？

AnyL8023·2024-02-06 01:42

hbase基本命令

1、进入hbase的shellhbase提供了一个shell的终端给用户交互[root@hadoop3conf]#hbaseshell退出使用quit或者ctrl+c需要关闭hadoop的安全模式不然进行一些操作

小月半会飞·2024-02-06 01:52

大模型赋能开发者！海云安荣膺毕马威中国金融科技双50榜单！

系列活动之成都金融科技产业发展大会暨交子金融文化月启动仪式在成都举行，会上，毕马威中国正式对外发布了2023年毕马威中国金融科技企业双50榜单，海云安凭借在金融科技领域丰富的落地成果和突出的市场表现，再次成功登榜“毕马威中国金融科技企业（大数据与

海云安·2024-02-06 00:01

机器学习漫谈：还有很长的路要走

来源：王宏琳科学网博客链接地址：http://blog.sciencenet.cn/blog-3005681-1285948.html人工智能已经成为大数据、机器人和物联网等新兴技术的主要驱动力，在可预见的未来

人工智能学家·2024-02-05 23:57

springboot/java/php/node/python解放社区疫情防控智能管理小程序【计算机毕设】

随着信息技术的飞速发展，尤其是移动互联网和大数据的应用，智能管理小程序成为提升社区疫

python计算机毕设·2024-02-05 23:15

shell中正则表达式

[atguigu@hadoop101shells]$cat/etc/passwd|grepatguigu1.常用特殊字符^$.*[]\^：匹配一行的开头$：匹配一行的结束.

看山不是山a·2024-02-05 23:07

淘宝返利哪个软件佣金最高？盘点10款超高佣金的返利app

氧惠好项目·2024-02-05 23:53

区块链的未来前景

在政策、技术、市场等多重力量推动下,区块链创新步伐不断加快,与云计算、大数据、物联网等技术深度融合,探索应用的范畴也由数字资产向供应链管理、智能制造、工业互联网、社会公益

清风_c547·2024-02-05 22:01

智能网联汽车云控平台标准领航研究

2020年2月，11部委联合发布《智能汽车创新发展战略》，提出构建跨界融合的智能汽车产业生态体系，建设国家智能汽车大数据云控基础平台，为我国率先提出车路云一体化智能网联汽车的发展路线奠定基础，为加速汽车智能化网联化深度融合发展提供指导

智能交通技术·2024-02-05 22:43

航道大数据应用专项研究报告（附下载）

总体目标充分认识航道大数据对行业治理的重要性和必要性，航道大数据的开发和利用是建设智慧航道的基础。

智能交通技术·2024-02-05 22:40

在线JSON转CSV工具

https://www.btool.cn/json-to-csv在大数据时代，数据处理与交换已经成为日常工作生活中的常态。而JSON和CSV作为两种广泛应用的数据格式，它们在不同场景下发挥着关键作用。

yunmoon01·2024-02-05 22:39

大数据开发之机器学习总结（一）

大数据开发之机器学习总结1.背景在大数据开发中，数据分析目的一般分为2大类，一个是基于已有数据，提炼出想要的数据汇总信息。一个是基于已有数据使用算法训练出模型，基于模型预测和分析未来的新数据。

闻香识代码·2024-02-05 21:41

大数据之 ZooKeeper原理及其在Hadoop和HBase中的应用

链接：https://blog.csdn.net/zhang123456456/article/details/78008626ZooKeeper是一个开源的分布式协调服务，由雅虎创建，是GoogleChubby的开源实现。分布式应用程序可以基于ZooKeeper实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master选举、分布式锁和分布式队列等功能。简介ZooKeep

yangfhit·2024-02-05 20:29

大数据分析|大数据分析的十大应用领域

有许多技术可用于分析大数据。这项工作介绍了BDA适用的各种分析技术领域如下。（1）社会分析社交分析是实时数据分析中一个重要且不断发展的分析方法。

封印师请假去地球钓鱼·2024-02-05 20:35

推荐频道

大数据(Hadoop