大数据（hadoop）第3页

小红书架构演进与关键技术解析

随着用户量的不断增加，系统面临着高并发、大数据量等挑战。同时，小红书还需要支持快速的业务创新和迭

ITPUB-微风·2025-02-21 09:16

【Hadoop】使用Docker容器搭建伪分布式集群

使用Docker容器搭建Hadoop伪分布式集群1、编写docker-compose.yaml文件配置集群version:"3"services:namenode:image:apache/hadoop

慕青Voyager·2025-02-21 09:14

【大数据技术】搭建完全分布式高可用大数据集群（MySQL+Hive）

搭建完全分布式高可用大数据集群（MySQL+Hive）apache-hive-3.1.3-bin.tar.gzmysql-connector-java-8.0.30注：请在阅读本篇文章前，将以上资源下载下来

Want595·2025-02-21 09:11

HDFS分布文件系统（Hadoop Distributed File System）

上创建文件夹3.上传本地文件到HDFS4.查看文件5.删除HDFS上的文件或者目录6.修改指定文件的权限信息（读、写、执行）一般语法：chmod[可选项]五、HDFS实战应用六、总结一.HDFS的本质HadoopDistributedFileSystem

柿子小头·2025-02-21 08:38

【AI大数据】数据中台的数据分析与挖掘：从数据到业务的决策

文章目录1.前言2.基本概念术语说明2.1数据模型及其实体关系实体（Entity）属性（Attribute）实体关系（EntityRelationships）2.2数据仓库2.3分析引擎2.4噪声数据2.5数据湖2.6数据总线2.7数据仓库模型3.核心算法原理和具体操作步骤以及数学公式讲解3.1数据挖掘技术概览（1）数据预处理（2）数据探查（3）数据清洗（4）数据转换（5）数据挖掘（6）知识发现（

AI天才研究院·2025-02-21 08:34

屏幕适配—在电脑默认推荐缩放比为125%或150%等情况下的浏览器100%显示的适配（适用大数据平台）

快乐的二进制鸭·2025-02-21 06:55

【大数据分析】Spark SQL查询：使用SQL命令

对于使用关系型数据库或分布式数据库的用户可能更容易和更自然地使用SQL，比如Hive。在SparkSQL编写SQL命令时，它们将被转换为DataFrame上的操作。通过连接到Spark的Thrift服务器，它们可以通过标准的JDBC或ODBC协议从应用服务器连接到Spark。Spark支持两种SQL方言：SQL和HQL。Spark社区推荐的是HQL，因为HQL具有更丰富的功能。要使用HQL，需要使

sword_csdn·2025-02-21 02:58

什么是数据治理以及它在大数据处理中的重要性

数据治理在大数据处理中的重要性提高数据质量：准确

Java资深爱好者·2025-02-21 01:23

org.apache.hadoop.hdfs.server.datanode.DataNode: Block pool ID needed, but service not yet registere

启动hadoop集群，发现datanode没有启动，查看日志报错，如图：//日志文件2020-03-2416:40:55,608WARNorg.apache.hadoop.hdfs.server.common.Storage

@菜鸟进阶记@·2025-02-21 01:19

【update 更新数据语法合集】.NET开源ORM框架 SqlSugar 系列

一、实体对象更新1.1单条与批量1.2不更新某列1.3只更新某列1.4NULL列不更新1.5无主键/指定列1.6更新添加条件1.7大数据更新1.8重新赋值1：list中的值修改1.9重新赋值2:列中的值

m0_74824823·2025-02-20 23:08

Hadoop之HDFS的使用

HDFS是什么：HDFS是一个分布式的文件系统，是个网盘，HDFS是一种适合大文件存储的分布式文件系统HDFS的Shell操作1、查看hdfs根目录下的内容-lshdfsdfs-lshdfs://hadoop01

想要变瘦的小码头·2025-02-20 20:43

深入理解DAG任务调度系统：核心原理与实现

1.背景介绍随着大数据、人工智能等领域的发展，任务调度系统的重要性日益凸显。

AI天才研究院·2025-02-20 18:25

Salesforce联手阿里云，销售易联手腾讯，还在靠”卖血求生“的CRM独立玩家何去何从？

消息一出，便受到很多人的关注，这首当其中，最高兴的算要数销售易的客户，源自其将获得的三大核心价值升级，腾讯将进一步开放云计算、大数据、AI等核心技术能力

·2025-02-20 17:23

RHEL 安装 Hadoop 服务器

在这篇文章中，我们将探讨如何在RedHatEnterpriseLinux(RHEL)上安装和配置Hadoop服务器。Hadoop是一个开源的分布式数据处理框架，用于处理大规模数据集。

XhClojure·2025-02-20 13:41

Python中的 redis keyspace 通知_python 操作redis psubscribe(‘keyspace@0 ‘)

学习Python门槛很低，但它的晋级路线很多，通过它你能进入机器学习、数据挖掘、大数据，CS等更加高级的领域。

2301_82243733·2025-02-20 13:39

如何安装Hadoop

Hadoop入门(一)——CentOS7下载+VM上安装（手动分区）Hadoop入门(二)——VMware虚拟网络设置+Windows10的IP地址配置+CentOS静态IP设置Hadoop入门(三)—

薇晶晶·2025-02-20 13:06

YashanDB访问约束

%E6%A6%82%E5%BF%B5%...访问约束是YashanDB特有的一种关系数据结构，基于有界计算理论的访问约束模型（AC，AccessConstraint）实现：通过在数据源上建立AC，实现大数据变小的模型变换

·2025-02-20 13:11

探索天气预警API：精准预测，守护安全

天气预警API的工作原理天气预警API基于先进的气象监测技术和大数据分析，通过收集全球范围内的气象卫星、雷达、地面观测站等数据源，进行实

·2025-02-20 13:10

深入解析：Tableau在数据可视化中的高级应用

深入解析：Tableau在数据可视化中的高级应用引言在大数据时代，数据可视化已成为数据分析中不可或缺的一部分。

Echo_Wish·2025-02-20 07:18

Sharding-JDBC 实现分库分表

一、引言随着互联网业务的快速发展，数据量不断增长，传统的单一数据库架构已经难以满足高并发、大数据量的存储和查询需求。分库分表技术成为了解决这些问题的重要手段。

一叶飘零_sweeeet·2025-02-20 04:53

阿里云 MaxCompute MaxQA 开启公测，解锁近实时高效查询体验

为减少查询响应时间，提升数据效率，阿里云云原生大数据计算服务MaxCompute推出MaxQA（原MCQA2.0）查询加速功能，在独享的查询加速资源池的基础上，对管控链路、查询优化器、执行引擎、存储引擎以及缓存机制等多个环节进行全面优化

阿里云大数据AI技术·2025-02-20 00:23

《深入浅出AI》前言知识：深度学习基础总结

公众号:GoAI的学习小屋|交流群:704932595|个人简介：掘金签约作者、百度飞桨PPDE、领航团团长、开源特训营导师、CSDN、阿里云社区人工智能领域博客专家、新星计划计算机视觉方向导师等，专注大数据与人工智能知识分享

GoAI·2025-02-20 00:22

EBS 性能不足？从吞吐量到 IOPS，阿里云全方位优化

在云计算环境中，存储性能对于业务稳定运行至关重要，尤其是数据库、大数据分析、AI计算等高IO需求的应用。

Anna_Tong·2025-02-19 22:31

DeepSeek接入大数据能做什么

DeepSeek作为一家专注于AGI和AI大模型技术的公司，在大数据领域可以通过以下方式切入，结合其核心能力提供创新解决方案：一、DeepSeek接入大数据领域的技术路径多模态数据处理能力支持文本/图像

PersistDZ·2025-02-19 22:59

Hadoop01-入门&集群环境搭建--非原创（test）

Hadoop01-入门&集群环境搭建今日内容Hadoop的介绍集群环境搭建准备工作Linux命令和Shell脚本增强集群环境搭建来来来大数据概述大数据:就是对海量数据进行分析处理，得到一些有价值的信息，

xl.liu·2025-02-19 21:50

AI技术在音乐产品中有哪些应用场景？

随着深度学习算法的出现、大数据和5G技术的成熟，AI人工智能已逐渐融入我们的生产生活中，在教育、医疗、政务办公、城市管理等多个方面发挥作用。

·2025-02-19 20:42

iot架构 mqtt netty_一个关于小程序Iot的具体实现（MQTT版）

前言Iot，这个名词应该很多人都听过了吧，即大数据、Ai等兴起后也紧跟着研发大潮流的到来，即物联网。

Alfred Cheng·2025-02-19 18:00

Hadoop管理工具dfsadmin和fsck的使用

Hadoop提供了多个管理工具，其中dfsadmin和fsck是用于管理HDFS（Hadoop分布式文件系统）的重要工具。以下是它们的使用方法和常见命令。

脚本无敌·2025-02-19 16:46

智慧园区安全调度的重要性

智慧园区通过物联网、大数据、人工智能等先进技术，实现了资源的高效配置和管理的智能化。然而，随着园区规模的扩大和复杂性的增加，安全问题也日益凸显。因此，智慧园区的安全调度显得尤为重要。

Guheyunyi·2025-02-19 16:45

（一）大数据---Hadoop整体介绍（架构层）----（组件(3)

如何抽取，转换，加载，连接，关联以把握数据内蕴的有用信息已经变得越来越有挑战性二、大数据技术有哪些（重点）================================================

2401_84166965·2025-02-19 16:15

聚焦银行业数智化转型，火山引擎数据飞轮系列白皮书重磅发布

通过大数据、人工智能等技术的应用，银行可以更加精准地了解客户需求，提供个性化的金融产品和服务，还能降低运营成本，提升风险管理能力，创造更多业务价值。

·2025-02-19 15:35

携手鲲鹏昇腾 HashData展现云原生数仓创新力量

今年两会政府工作报告明确提出：“深化大数据、人工智能等研发应用，开展人工智能+行动，打造具有国际

·2025-02-19 15:03

遥感影像目标检测：从CNN（Faster-RCNN）到Transformer（DETR）

未来10年全球每天获取的观测数据将超过10PB，遥感大数据时代已然来临。

岁月如歌，青春不败·2025-02-19 15:05

hive全量迁移脚本

：数据在同一库下，并且hive是内部表（前缀的hdfs地址是相同的）#1.读取一个文件，获取表名#echo"时间$dt_jian_2-------------------------">>/home/hadoop

我要用代码向我喜欢的女孩表白·2025-02-19 15:29

创新市场调查方法，精准把握消费者脉搏（消费者调查）

成都中立调查公司凭借17年的深厚调研经验，（问卷调查）结合线上线下调查、运用大数据分析等创新举措，致力于为客户提供更具前瞻性的市场洞察，助力企业精准把握消费者脉搏，提升市场竞争力。

zhonglidc01·2025-02-19 13:17

笔记：DataSphere Studio安装部署流程

一、标准版部署标准版：有一定的安装难度，体现在Hadoop、Hive和Spark版本不同时，可能需要重新编译，可能会出现包冲突问题。适合于试用和生产使用，2~3小时即可部署起来。

右边com·2025-02-19 13:15

hive-site.xml 配置总结

3.hive提交作业是在hive中还是hadoop中？4.一个查询的最后一个map/reduce任务输出是否被压缩的标志，通过哪个配置项？5.当用户

hxsln11·2025-02-19 12:07

揭秘Linux：从服务器到智能家居，一个操作系统如何改变世界

从服务器到智能家居，一个操作系统如何改变世界文章目录揭秘Linux：从服务器到智能家居，一个操作系统如何改变世界引言：Linux，不仅仅是一个操作系统Linux在企业级应用中的霸主地位云计算与虚拟化：Linux的天下大数据与人工智能

寒水馨·2025-02-19 09:42

探索大数据处理：利用 Apache Spark 解锁数据价值

探索大数据处理：利用ApacheSpark解锁数据价值大家好，我是你们熟悉的大数据领域自媒体创作者Echo_Wish。今天，我们来聊聊如何利用ApacheSpark进行大规模数据处理。

Echo_Wish·2025-02-19 07:59

浅聊读写分离

当然这也是给自己找借口和理由，趁着周末整理下最近的感悟；另外公司用的ElasticSearch，最近我也在探索，微服务方面暂时搁浅，待到搬出宿舍的时候在开始一波666的操作；另外随着数据量增加自己还需要去接触波大数据东西

不全·2025-02-19 02:20

电力知识图谱与大模型的结合：从构建到行业应用的深度解析

随着大数据和人工智能技术的飞速发展，电力行业迎来了智能化转型的全新契机。电力知识图谱作为一种将数据转化为结构化知识的技术，正在赋能故障诊断、设备管理、运维优化等核心场景。

Cc不爱吃洋葱·2025-02-19 02:44

360智算中心：万卡GPU集群落地实践

360智算中心是一个融合了人工智能、异构计算、大数据、高性能网络、AI平台等多种技术的综合计算设施，旨在为各类复杂的AI计算任务提供高效、智能化的算力支持。

ZVAyIVqt0UFji·2025-02-18 23:47

常见Linux命令

了解磁盘分区类命令第一节文件目录类命令（1）pwd打印当前目录的绝对路径(printworkingdirectory)基本语法pwd（功能描述：显示当前工作目录的绝对路径）案例实操显示当前工作目录的绝对路径[root@hadoop1

程序员小柴·2025-02-18 22:02

字节跳动后端或大数据基础知识面试题及参考答案（2万字长文）

目录Redis的数据类型Redis数据类型的底层数据结构三次握手、四次挥手Redis持久化机制购物车为什么用Redis存，是永久存储吗MySQL的InnoDB索引数据结构哪些SQL的关键字会让索引失效队列、栈、数组、链表有什么不同讲讲爬虫的构成爬虫抓到的数据不清洗吗？不去重吗？对爬虫的更多了解Linux进程间通信机制进程和线程的区别线程私有的数据讲一下堆排序，每次调整的时间复杂度？堆排序是稳定的吗

大模型大数据攻城狮·2025-02-18 19:03

《2025：中国行业新方向与民营企业的使命》

2025年，数字经济将继续深化，涵盖云计算、大数据、人工智能、物联网

晚风る·2025-02-18 19:30

网络安全：挑战、技术与未来发展

随着云计算、大数据、人工智能（AI）、物联网（IoT）等技术的发展，企业和个人的敏感数据在互联网上的流通日益增加，黑客攻击、数据泄露、勒索软件等网络安全威胁也日趋严峻。

一ge科研小菜鸡·2025-02-18 19:59

DolphinScheduler环境搭建、服务启动等常见问题及解决方案

ApacheDolphinScheduler作为一款分布式易扩展的工作流调度系统，广泛应用于大数据任务编排。然而，在实际使用中，用户可能会遇到环境搭建、服务启动、工作流执行等问题。

·2025-02-18 18:51

文心快码智能体不断发展，真正与AI协同工作

结合百度积累多年的编程现场大数据、外部优秀开源数据，可为开发者生成更符合实际研发场景的优秀代码，提升编码效率，释放“十倍”软件生产力。

·2025-02-18 18:21

智能城市：科技驱动的未来城市

智能城市是利用现代信息技术、物联网、大数据、云计算、人工智能等手段，对城市的各个方面进行全面的智能化管理与优化，从而提高城市运行效率、改善居民生活质量，并实现可持续发展的城市目标。一、什么是智能城市？

给生活加糖！·2025-02-18 14:04

推动AI云产业向深向实，云·AI·算力创新发展大会即将启幕

伴随AI的快速发展，2024年《政府工作报告》明确提出，制定支持数字经济高质量发展政策，深化大数据、人工智能等研发应用，开展“人工智能+”行动。

科技云报道·2025-02-18 14:02

推荐频道

大数据（hadoop）