大数据架构师

Spark性能调优

1、前言在大数据计算领域，Spark已经成为了越来越流行、越来越受欢迎的计算平台之一。

大数据侠客·2025-01-31 16:58

Python学习-九大数据类型整合，详细讲解

目录1.int(整型)2.float(浮点型)3.Bool(布尔类型)4.Str(字符串类型)5.None(空值)6.List(列表)7.Tuple(元组)8.Dict(字典)9.Set(集合)（字典，列表，元组，字符串知识点可能不全，可以参考本人之前发的博客进行学习，加油。）1.int(整型)特点和用途：1.可以表示正整数、负整数和零，没有小数部分。2.取值范围取决于您所使用的Python版本和

小伙儿.·2025-01-31 16:26

[碎碎念] 重启学习与博客之旅-我的每日计划

比如说，我最近对人工智能和大数据分析特别感兴趣，所以打算每天看点相关的专业书，或

言午coding·2025-01-31 16:56

Java 性能优化与新特性

Java学习资料Java学习资料Java学习资料一、引言Java作为一门广泛应用于企业级开发、移动应用、大数据等多个领域的编程语言，其性能和特性一直是开发者关注的重点。

来恩1003·2025-01-31 16:52

pandas读取大数据量的Excel文件

使用pandas快速读取百万行Excel数据的一种方法是使用pandas中的read_excel函数。可以使用以下代码读取Excel文件：importpandasaspddf=pd.read_excel('file_name')这个适合少量数据，如果一旦数据几十万或者上百万，那么程序就很慢有几种优化方法只读取需要的列：使用read_excel函数的usecols参数来指定需要读取的列。这可以减少读

兮知·2025-01-31 15:13

林子雨《大数据技术原理与应用》第五讲——NoSQL数据库

林子雨《大数据技术原理与应用》第五讲——NoSQL数据库林子雨《大数据技术原理与应用》第五讲笔记NoSQL数据库特点灵活的可扩展性灵活的数据模型和云计算结合查询性能差未形成通用的行业标准维护更加复杂NoSQL

天才代号23·2025-01-31 10:06

「架构师」001计算机组成与体系结构

文章目录前言一、计算机结构1.1计算机组成结构1.2CPU组成1.3冯诺依曼结构与哈佛结构二、存储结构2.1层次化存储结构2.2Cache2.3主存编址计算（计算）2.4磁盘基本结构与存取过程（计算）2.5磁盘优化分布存储（计算）2.6磁盘移臂调度算法（计算）2.7单缓冲区和双缓冲区读取三、数据传输控制方式四、总线五、CISC与RISC六、流水线七、校验码八、嵌入式前言本文主要介绍计算机组成与体系

吴维炜·2025-01-31 10:03

OLAP引擎比较

doris是一个OLAP数据库，支持对大数据的复杂查询，延迟为秒级。doris比sparksql快，主要原因在于针对场景不同导致的架构不同。

小手追梦·2025-01-31 10:30

大数据组件ClickHouse介绍（场景、优劣势、性能）

大数据组件ClickHouse介绍简介使用场景优势与劣势优势劣势性能单个查询吞吐量处理短查询的延时时间处理大量短查询数据写入性能查询性能简介clickhouse是一个高性能的列式存储分析数据库管理系统，

坚持是一种态度·2025-01-31 09:46

DB2-Db2StreamingChangeEventSource

在大数据和实时数据处理场景中，CDC可以用来同步数据到其他系统，比如数据仓库、数据湖或者流处理平台如ApacheKafka。文章目录前言一、核心功能

DataLu·2025-01-31 09:15

MySQL实战教程：从小白到大神的进阶之路！

发展历程2.1MySQL的起源2.2MySQL的早期发展2.3MySQL的成熟与普及2.4MySQL的商业化与收购2.5MySQL的持续创新3、MySQL应用场景3.1Web应用程序3.2企业级应用3.3大数据分析

奔跑吧邓邓子·2025-01-31 08:08

【详细讲解】hive优化

1、开启本地模式大多数的HadoopJob是需要Hadoop提供的完整的可扩展性来处理大数据集的。不过，有时Hive的输入数据量是非常小的。

songqq27·2025-01-31 06:56

大规模分布式存储（1）-- 概念、挑战和分类

随着数据的激增，我们已经进入到了一个数据时代，无论是云计算，大数据还是互联网公司的各种应用，其后台存储平台的目标都是要构建低成本、高性能、可扩展、易用的分布式存储系统。

叹了口丶气·2025-01-31 06:23

大数据分析案例-基于逻辑回归算法构建抑郁非抑郁推文识别模型

如果文章对你有帮助的话，欢迎评论点赞收藏加关注+喜欢大数据分析项目的小伙伴，希望可以多多支持该系列的其他文章大数据分析案例合集

艾派森·2025-01-31 01:45

move移动语义详解

move移动语义移动语义是C++11引入的一种机制，用于提高程序的性能和资源管理效率，特别是在涉及大数据对象的场景下。移动语义通过转移资源所有权，而不是复制资源，减少了不必要的拷贝操作。

Say-hai·2025-01-30 21:45

大数据毕业设计hadoop+spark+hive豆瓣图书数据分析可视化大屏豆瓣图书爬虫图书推荐系统

系统总体目标基于Spark的个性化书籍推荐系统是一种基于大数据技术的智能推荐系统，它可以根据用户的历史行为和偏好，为用户提供个性化的书籍推荐。

qq_79856539·2025-01-30 20:03

【Elasticsearch 】自定义分词器

__c=1000，移动端可微信小程序搜索“历代文学”）总架构师，15年工作经验，精通Java编程，高并发设计，Springboot和微服务，熟悉Linux，ESXI虚拟化以及云原生Docker和K8s，

程风破～·2025-01-30 20:32

企业数字化规划蓝图、企业数字化运营分析管理大数据平台建设方案

**企业数字化规划蓝图及运营分析管理大数据平台建设方案****一、企业数字化规划蓝图**1.**数字化目标设定**企业在规划数字化进程时，首先需要明确数字化目标。

公众号：优享智库·2025-01-30 19:57

使用Flink进行流式图处理

使用Flink进行流式图处理1.背景介绍1.1大数据时代的到来随着互联网、物联网和移动互联网的快速发展,数据呈现出爆炸式增长。根据IDC的预测,到2025年,全球数据量将达到175ZB。

AI天才研究院·2025-01-30 19:26

python与excel整合全教程

Python与Excel的整合非常强大，尤其适合处理大数据、自动化表格操作以及进行高级数据分析。

刘同学Python学习日记·2025-01-30 19:53

架构师考试系列（２）论文专题：论统一过程开发方法RUP的应用

我在此项目中，作为主要管理人员，担任系统架构师，负责整个项目的架构设计工作。该项目包括素材管理、热点管理、场景管理、VR产品制作、VR产品管理、VR产品展示等相关功能模块。

CoderIsArt·2025-01-30 18:15

如何写一份合格的大数据简历（附简历模板）教程

【编辑/下载】：大数据开发简历范文二、简历结构基本信息：包含姓名、性别、联系方式（电话、邮箱）、求职意向。

itLeeyw573·2025-01-30 15:46

从CV工程师到CtrlCV架构师：PromptCoder如何让前端搬砖变成乐高拼装

《从CV工程师到CtrlCV架构师：PromptCoder如何让前端搬砖变成乐高拼装》各位在座的代码艺术家、CSS炼金术师、React吟游诗人，今天我们要聊一个能让原型图自动「现出原形」的黑魔法——是的

正宗咸豆花·2025-01-30 12:27

MongoDB 大俗大雅，上来问分片真三俗 -- 4 分什么分

开头还是介绍一下群，如果感兴趣PolarDB,MongoDB,MySQL,PostgreSQL,Redis,OceanBase,SqlServer等有问题，有需求都可以加群群内有各大数据库行业大咖，可以解决你的问题

Austindatabases·2025-01-30 11:48

大数据技术在数据安全治理中的应用

摘要面对新形势下的数据安全治理挑战，顺应数据安全领域的技术发展趋势，针对大型国企在数据安全治理实际应用中突出的关键权限人员识别问题，提出了一种基于图算法的关键权限人员识别技术。该技术可以发现系统中潜在的权限影响因素，并可从多个角度衡量不同含义的权重影响力，识别结果可解释性强。针对数据安全治理中的用户与实体行为异常检测问题，提出一种基于生成对抗网络的用户与实体行为异常检测方法，实验结果表明，所提方法

罗思付之技术屋·2025-01-30 11:17

阿里巴巴大数据系统体系架构

数据应用层：这是最顶层，面向不同的用户群体提供服务，包括对内（公司内部使用）、对平台（平台用户）、对商家（商家使用）、对公众（普通消费者）。数据服务与基础工具层：这一层提供了一些基础服务和工具，例如：OneService：可能是一种服务或工具，用于统一数据服务。TDDL+MySQL：TDDL是淘宝分布式数据层的缩写，与MySQL结合使用，提供数据库服务。HBase：一个分布式列存储系统，适合于存储

大连赵哥·2025-01-30 09:34

java cap理论_架构设计之「 CAP 定理」

CAP可是每一名技术架构师都必须掌握的基础原则啊。现在只要是稍微大一点的互联网项目都是采用分布式结构了，一个系统可能有多个节点组成，每个节点都可能需要维护一份数据。

Can Li·2025-01-30 07:45

【架构设计】CAP定理、BASE理论

CAP可是每一名技术架构师都必须掌握的基础原则啊。现在只要是稍微大一点的

Bolon0708·2025-01-30 06:11

老板点赞！技术人如何用架构优化打赢降本增效战？

大家好，我是小米，一个喜欢分享技术的小架构师。今天，想和大家聊聊如何通过架构优化，帮助公司降本增效。这是我亲身经历的一件事，希望能给你一些启发！

软件求生·2025-01-30 05:32

python 分布式集群_Python搭建Spark分布式集群环境

前言ApacheSpark是一个新兴的大数据处理通用引擎，提供了分布式的内存抽象。Spark最大的特点就是快，可比HadoopMapReduce的处理速度快100倍。

小国阁下·2025-01-30 05:32

为什么说软件架构师应该关心性能优化？

作者：禅与计算机程序设计艺术文章目录1.简介2.基本概念术语说明2.1服务器架构2.2云计算3.核心算法原理和具体操作步骤以及数学公式讲解3.1概述3.2CPU3.2.1CPU缓存和页面置换算法3.2.2NUMA架构3.3内存3.3.1内存分配策略（1）如何划分内存给进程（2）如何划分内存给堆和栈（3）是否允许堆和栈向操作系统申请更多的内存3.3.2内存碎片3.4网络3.4.1网络协议优化（1）协

AI天才研究院·2025-01-30 02:13

【硬刚大数据】2021年从零到大数据专家之Hbase八股文

本文是对《【硬刚大数据之学习路线篇】2021年从零到大数据专家的学习指南(全面升级版)》的面试部分补充。硬刚大数据系列文章链接：2021年从零到大数据专家的学习指南(全面升级版)

王知无(import_bigdata)·2025-01-30 01:35

DDD架构实战第六讲总结：领域驱动设计中的聚合

云架构师系列课程之DDD架构实战第六讲总结：领域驱动设计中的聚合聚合提升了对象系统的粒度，保证了业务逻辑的完整性，减少了错误产生的概率一、引言本讲将探讨领域驱动设计（DDD）中的重要概念——聚合。

每天三杯咖啡·2025-01-30 01:04

史上最强！Spring Boot 3.3 高效批量插入万级数据的多种方案

在大数据处理场景下，如何高效地将大量数据插入数据库是一个重要课题。

m0_74825074·2025-01-30 01:34

多租户架构未提供足够的租户安全培训和教育

多租户架构下租户安全培训与教育的需求分析与解决方案引言随着云计算和大数据技术的飞速发展，多租户架构已成为企业数字化转型的重要基石。

图幻未来·2025-01-29 23:22

一文了解大数据概论

一.大数据概论1.1大数据概念大数据（bigdata）：指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产

·2025-01-29 23:54

中国BI步入增长大周期，腾讯云ChatBI加速AI+BI融合

过去十年，大数据技术的快速发展，让数据消费前进一大步，数据价值得到一定程度的挖掘与释放，真正开启了“用数”的大时代。

大数据在线·2025-01-29 15:09

乐学智伴：基于人工智能与大数据的学生个性化学习辅助平台

随着人工智能、大数据和云计算等技术的快速发展，教育科技（EdTech）为个性化学习提供了全新的解决方案。

IT源码大师·2025-01-29 14:33

Hive存储系统全面测试报告

引言在大数据时代，数据存储和处理技术的重要性日益凸显。ApacheHive作为一个基于Hadoop的数据仓库工具，因其能够提供类SQL查询功能（HiveQL）而广受欢迎。

蚂蚁质量·2025-01-29 13:27

企业数字化转型AI能力中台（总体架构、系统功能）建设方案

**企业数字化转型AI能力中台建设方案**一、建设背景与目标随着大数据、云计算、人工智能等技术的快速发展，企业正面临着数字化转型的重要机遇。

公众号：优享智库·2025-01-29 13:25

2020 更新 - 腾讯 Android 面试 (已拿到月薪22K offer)

二、技能储备（一）架构师必备Java基础（二）设计思想解读开源框架（三）360°全方位性能优化（四）Android框架体系

2401_86372526·2025-01-29 12:07

flutter面试题及答案，Android架构师必备框架技能核心笔记

常规电话面试1JAVA基础思想:设计模式与面向对象2安卓View绘制流程3常规的组件问题4事件分发机制5多线程和安全问题6安卓性能优化和兼容问题:性能优化回答具体面试1线程池原理2线程安全有多少种实现方式3图片加载框架原理4Http协议原理5Okhttp原理6各种内存优化7垃圾回收机制原理8谈谈对同步请求和异步请求的理解9怎么保证同步和异步10Intentservise，底层原理实现11Handl

2401_84415652·2025-01-29 09:37

数据挖掘的常用算法

在大数据时代,数据挖掘是最关键的工作。大数据的挖掘是从海量、不完全的、有噪声的、模糊的、随机的大型数据库中发现隐含在其中有价值的、潜在有用的信息和知识的过程,也是一种决策支持过程。

北柠陌寒0207·2025-01-29 07:48

大数据生态的Apache RocketMQ5.0

本文作者：李伟-ApacheRocketMQCommitter，RocketMQPython客户端项目Owner，ApacheDorisContributor，腾讯云消息队列资深开发工程师，著有《RocketMQ分布式消息中间件(核心原理与最佳实践)》。一、RocketMqueue101RocketMQ拥有诸多出色的特性：比如多副本机制，RocketMQ支持存储层的多副本Dledger，它是基于R

Apache RocketMQ·2025-01-29 06:09

ZooKeeper数据模型和节点类型

ZooKeeper数据模型和节点类型ZooKeeper是一个开源的分布式协调服务，用于管理和协调分布式系统中的大数据。

代码指四方·2025-01-29 05:28

DeepSeek：突破传统的AI算法与下载排行分析

DeepSeek，作为一款基于深度学习技术和大数据算法的搜索引擎，以其独特的优势在国内外市场上引起了广泛关注。下面介绍一下针对De

smart_ljh·2025-01-29 04:53

2000-2021年上市公司数字化转型数据（MD&A报告词频、文本统计）

2000-2021年上市公司数字化转型数据（MD&A报告词频、文本统计）1、时间：2000-2021年2、来源：上市公司NB3、范围：上市公司4、指标：包括人工智能技术、大数据技术、云计算技术、区块链技术

m0_71334485·2025-01-29 01:29

【高级篇】第7章 Elasticsearch 索引生命周期管理(ILM)

引言在大数据时代，有效地管理数据的生命周期是确保系统性能、成本控制和合规性的关键。Elasticsearch的索引生命周期管理（ILM）为此提供了强大的解决方案。

JAVA和人工智能·2025-01-29 00:18

Elasticsearch 索引生命周期管理：优化大数据存储

Elasticsearch索引生命周期管理：优化大数据存储在处理大规模数据时，存储和检索效率是至关重要的。

静谧星光c·2025-01-29 00:15

【系统架构设计师】论文：论微服务架构及其应用（高分论文3篇）

数据知道·2025-01-28 23:38

推荐频道