TianYap_大数据第40页

记一次百万数据量查询sql 优化

记一次百万数据量查询sql优化问题描述问题分析过程总结简单了解用到的pgsql的索引结构pgsql的with扩展对于更大数据量的数据还有没有其他更好的方案问题描述数据库用的是pgsql。

没有伞努力跑的小孩纸·2024-01-30 00:50

系统架构设计师教程（十九）大数据架构设计理论与实践

大数据架构设计理论与实践19.1传统数据处理系统存在的问题19.2大数据处理系统架构分析19.2.1大数据处理系统面临挑战19.2.2大数据处理系统架构特征19.3Lambda架构19.3.1Lambda

赫凯·2024-01-30 00:34

大数据就业方向-（工作）ETL开发

上一篇文章：大数据-大数据入门第一篇|关于大数据你了解多少？-CSDN博客目录1.ETL概念2.ETL的用处3.ETL实现方式4.ETL体系结构5.什么是ETL技术？

王哪跑nn·2024-01-29 23:31

大数据 - Hadoop系列《三》- MapReduce（分布式计算引擎）概述

上一篇文章：大数据-Hadoop系列《三》-HDFS（分布式文件系统）概述-CSDN博客目录12.1针对MapReduce的设计构思1.如何对付大数据处理场景2.构建抽象编程模型3.统一架构、隐藏底层细节

王哪跑nn·2024-01-29 23:31

大数据 - Spark系列《一》- 分区 partition数目设置详解

目录3.2.1分区过程3.2.2SplitSize计算和分区个数计算3.2.3Partition的数目设置1.对于数据读入阶段，输入文件被划分为多少个InputSplit就会需要多少初始task.2.对于转换算子产生的RDD的分区数3.repartition和coalesce操作会聚合成指定分区数。3.2.4groupBy不一定会Shuffle3.2.1分区过程每一个过程的任务数，对应一个Inpu

王哪跑nn·2024-01-29 23:59

samtools常用命令

对于处理大数据时，如果内存够用，则设置大点的值，以节约时间。-n设定排序方式按s

花生学生信·2024-01-29 23:40

两仪门直播：知名主播逃税三千万

最近，浙江省杭州市部门通过税收大数据分析，发现朱宸慧和林珊珊两名网络主播涉嫌偷税逃税。说起这两个人的实名，大家可能比较陌生。

7ecf4923a44a·2024-01-29 23:13

【大数据处理】消费者行为与购物习惯数据分析及可视化

linghyu·2024-01-29 22:34

如何在Shopee波兰站点进行选品和销售策略

Com/JU5o知虾是Shopee大数据采集及分析平台，于2020年正式上线，涵盖9个站点分析、行业大盘数据、品牌分析、产品分析、店铺分析、

duoduocanmou·2024-01-29 21:46

如何在Shopee越南站点进行有效的选品

Com/JU5o知虾是Shopee大数据采集及分析平台，于2020年正式上线，涵盖9个站点分析、行

duoduocanmou·2024-01-29 21:16

站内选品策略：如何利用Shopee平台资源来辅助决策

Com/JU5o知虾是Shopee大数据采集及分析平台，于2020年正

duoduocanmou·2024-01-29 21:14

时不我待厉节约，以信自检思所得 ——福州大学外国语学院2019级英语一班团立项

为了让同学们重新感知举足轻重的时间、明白要节约时间，福州大学外国语学院2019级英语一班团支部同福州大学机械学院机械工程及机械设计制造05班团支部协助福州大学数学协助计算机科学学2019级数据科学与大数据技术

春日部在逃王子·2024-01-29 21:22

2023年全球软件开发大会（QCon广州站2023）：核心内容与学习收获（附大会核心PPT下载）

大会内容涵盖了人工智能、云计算、大数据、区块链、物联网等多个热门领域，为参会者提供了丰富的学习资源和深度思考的机会。一、峰会核心内容1、人工智能：在人工智

百家峰会·2024-01-29 21:07

我永远行走在前进的路上

作为一名当代教师，在现代大数据智能化的信息时代，我们要给学生一杯水，自己只有一桶水已经远远不够了，我们要有一挑水，甚至更多。教师不读书，不学习，不丰富自己的大脑，就不能更好的适应现代教育的要求。

双阳317李炎·2024-01-29 19:18

浅析大数据研究常用的软件工具

小编的一个朋友是从事大数据行业工作的，工作发展前景好，薪资待遇高，每次见到他都是非常的得意。

CDA·数据分析师·2024-01-29 19:12

浅析大数据的技术生态圈(Hadoop，hive，spark)

大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有各的用处，互相之间又有重合。

Rysinal·2024-01-29 19:11

浅析大数据技术架构

大数据采集数据采集的任务就是把数据从各种数据源中采集和存储到数据存储上，大数据培训期间有可能会做一些简单的清洗。

at小白在线中·2024-01-29 19:11

浅谈大数据

研究大数据有什么意义？现在的社会是一个高速发展的社会，科技发达，信息流通，人们之间的交流也越来越密切，生活也越来越便捷，大数据就是这个高科技时代的产物。

是一只萨摩耶·2024-01-29 19:40

浅析大数据汇总

传统，大数据主要关注数据的采集、存储和处理能力。随着互联网的快速发展，用户在互联网上产生了大量的数据，这些数据包括用户行为数据、社交媒体数据、传感器数据等。

shinelord明·2024-01-29 19:10

智慧农业气象站简介

一、智慧农业气象站简介TH-NQ8智慧农业气象站是一种集成了物联网、大数据、云计算等先进技术的智能监测设备，可对农田环境进行实时监测，包括温度、湿度、光照、风速、风向、雨量等多个气象指标。

YYtianhe17·2024-01-29 18:12

长大

大数据工程学院19计本四班杨再勇2019402175长大，你的童年是否也和我一样，向往大人，总是期望着快快长大。

野肆_2de1·2024-01-29 18:10

湖仓新范式的造浪者 | StarRocks 2023 年度总结（文末福利）

你最希望社区跟哪个大数据生态组件结合？你最希望社区提供怎样的内容？你希望社区提供什么活动？

StarRocks_labs·2024-01-29 18:54

StarRocks在千亿级日增数据场景下替换Greenplum的实践

原Greenplum集群在进行10亿*1亿的关联查询时达到极限，无法支撑更大数据量级的关联查询。

StarRocks_labs·2024-01-29 18:53

有关机器学习的两种算法特点

随着大数据的迅速发展，机器学习变得越来越重要，它有力地处理大量数据，做出准确的预测。人工智能旨在使计算机更智能化，而机器学习已经证明了如何做到这一点。简而言之，机器学习是人工智能的应用。

轻雨科技·2024-01-29 17:49

美团外卖搜索基于Elasticsearch的优化实践

然而在高并发、高可用、大数据量的C端场景，目前可参考的资料并不多。因此，我们希望通过分享在外卖搜索场景下的优化实践，能为大家提供Elasticsearch优化思路上的一些借鉴。

架构未来·2024-01-29 17:07

Mysql大数据量分页优化

前言之前有看过到mysql大数据量分页情况下性能会很差，但是没有探究过它的原因，今天讲一讲mysql大数据量下偏移量很大，性能很差的问题，并附上解决方式。

我想问问天·2024-01-29 17:04

JavaScript笔记整理

title:JavaScripttags:JavaScriptnotebook:JavaScript笔记整理1.JavaScript基础2022年3月18日大数据类型使用bigIntnull有数据位置但是没有数据

无所不能的蓝巨人·2024-01-29 16:55

大数据与区块链技术

目录1.区块链简介2.区块链特征及分类3.区块链详细介绍4.区块链技术改变生活5.区块链释放数据价值6.前景展望和总结

瓯雅爱分享·2024-01-29 15:47

大数据与人工智能赋能精益生产：掀起工业革命的浪潮！

随着科技的飞速发展，大数据和人工智能已经成为当今社会的热门话题。在这场科技革命中，大数据和人工智能如何赋能精益生产，引领工业革命的浪潮呢？

天行健李国武老师·2024-01-29 15:40

时间价值很高的人生是什么样子的

7.25—7.26Day2—Day3共读第一章《时间价值很高的人生是什么样子的》一、读书摘要1.大数据背景下的算法推荐会让我们的视野变得越来越窄，变现思维下的圈子、圈层会让我们的社交和人脉变得越来越窄。

永超851105·2024-01-29 15:12

流水线三维可视化运维，装配自动化提质增效

智慧仓储产线智慧仓储产线通过对仓储现场的数字化建模，利用先进的物联网、大数据、人工智能等技术，对仓储现场设备、环境、人员进行全流程数字化管理。

图扑数字孪生·2024-01-29 15:17

Fink CDC 1.0 至3.0的从古至今

本文主要分享FlinkCDC1.0至3.0的发展历程，了解其背后的关键特性和发展趋势，探讨其在大数据领域的影响和价值。

小枫@码·2024-01-29 14:07

大数据从入门到实战——MongoDB 实验——java 和 MongoDB

MongoDB实验——java和MongoDBJava操作MongoDB数据库（一）Java操作MongoDB数据库（二）Java操作MongoDB数据库（一）packagestep1;importjava.util.function.Consumer;importjava.util.logging.Level;importjava.util.logging.Logger;importjava.u

Littlerainlv·2024-01-29 14:54

亿某通电子文档安全管理系统 hiddenWatermark/uploadFile 文件上传漏洞

Ⅰ、漏洞描述亿某通新一代电子文档安全管理系统（简称：CDG）是一款融合文档加密、数据分类分级、访问控制、关联分析、大数据分析、智能识别等核心技术的综合性数据智能安全产品。产

Love Seed·2024-01-29 14:14

JVM工作原理与实战(三十)：堆内存状况的对比分析

专栏导航JVM工作原理与实战RabbitMQ入门指南从零开始了解大数据目录专栏导航前言一、堆内存状况的对比分析1.正常情况2.异常情况（内存泄漏）二、产生内存溢出的原因总结前言JVM作为Java程序的运行环境

橘子-青衫·2024-01-29 14:39

mingjuna2010·2024-01-29 13:23

精通Python第12篇—深入Pandas从基础到高级的数据处理艺术

：计算平均值示例：筛选数据写入Excel文件实例：读取并写入新表格数据清洗与转换缺失值处理数据类型转换分组与聚合数据可视化进一步学习高级功能与进阶应用多表关联与合并时间序列分析自定义函数应用性能优化与大数据处理持续学习与实践结语引言在日常的数据处理工作中

申公豹本豹·2024-01-29 13:48

利用NBI大数据可视化工具做RFM模型分析，洞察数据价值，驱动业务增长

我们先来了解一下什么是RFM模型：RFM模型是衡量客户价值和客户创利能力的重要工具和手段。在众多的客户关系管理的分析模式中，RFM模型是被广泛提到的。该数据模型通过一个客户的近期购买行为、购买的总体频率以及花了多少钱3项指标来描述该客户的价值状况。最近一次消费频率（Recency）消费频率（Frequency）消费金额（Monetary）接下来根据上面三项指标做会员分类：我们把这3个指标按价值从低

NBI大数据可视化分析·2024-01-29 12:23

自媒体作者如何修真？仙俗佛魔，随便搞搞！

从大数据的标准来说，阅读量少的内容就是不成功不圆满的内容。做新媒体一定要和大数据挂钩才是成功的。作者关心的那么，为什么会阅读量少呢？内容阅读量少的原因分析：一、潜在用户量少

趙散闲·2024-01-29 12:14

语义解析：连接自然语言与机器智能的桥梁

特别是在大数据时代，语义解析能够帮助企业更快速地从大量的数据中获取有用的信息，从而提高决策效率。01语义解析的应用场景场景

想你依然心痛·2024-01-29 12:19

【若泽大数据第一天】--在vmware workstation上安装CentOS6.5系统

一、下载并安装vmwareworkstationpro12二、下载CentOS6.5镜像文件三、创建虚拟机并命名为hadoop0011、在VM12中选择创建新虚拟机2、自定义高级3、默认下一步4、选择稍后安装操作系统5、选择Linux，CentOS64位操作系统6、设置虚拟机名称，这里设置为“hadoop001”，设置虚拟机文件存放位置，这里设置为“F:\VM\hadoop001”7、设置虚拟机C

naroutofan·2024-01-29 11:25

架构评审与API设计：实践与规范

1.背景介绍在当今的大数据时代，架构评审和API设计成为了软件系统的核心组成部分。架构评审是一种系统性的方法，用于评估软件系统的设计和实现，以确保其满足业务需求和质量要求。

OpenChat·2024-01-29 11:00

如何安装 elasticsearch-head 插件？

前言本文隶属于专栏《1000个问题搞定大数据技术体系》，该专栏为笔者原创，引用请注明来源，不足和错误之处请在评论区帮忙指出，谢谢！

Shockang·2024-01-29 11:53

基于大数据平台的kylin安装部署手册

目录一.单例Kylin部署1.环境准备1.1软件要求1.2硬件要求1.3Hadoop环境1.4安装前环境检查1.4.1开启时钟同步1.4.2安装net-tools1.4.3检查hbase是否可用1.4.4检查hive是否可用（etl用户,控制台输入）1.4.5检查Hive配置文件2.Kylin安装2.1配置环境变量2.2修改tomcat的配置文件2.3检查tomcat依赖包4.4检查Kylin权限

猿来孺词·2024-01-29 10:26

大数据系列之ELK集群环境部署

solihawk·2024-01-29 10:41

5大主流方案对比：MySQL千亿级数据线上平滑扩容实战

1.五个方案1.1停机方案1.2停写方案1.3日志方案1.4双写方案（中小型数据）1.5平滑2N方案（大数据量）2.平滑2N扩容方案实践2.1实现应用服务级别的动态扩容2.2实现数据库的秒级平滑2N扩容

seaskyccl·2024-01-29 10:10

程序员裁员潮：技术变革下的职业危机

大数据技术的应用使得企业和政府能够更好地分析和利用海量数据，为决策提供更加准确的依据。云计算技术的普及使得企业能够更加灵活地部署和管理IT资源，降低了成本，并提高了效率。

m0_70572045·2024-01-29 10:36

FlinkCdc--Debezium实现Kafka实时监控mysql binlog日志

不管是什么大数据组件大部分都分单机和集群模式，这次我配置的是kafka集群监控mysqlbinlog日志一.Zookeeper和Kafka集群部署我的服务器是三台节点aliyun-bigdata-01aliyun-bigdata

chenzhihao·2024-01-29 09:08

产业需求大数据平台

产业需求大数据平台，依托大数据、NLP等技术，全面采集区域产业人才需求数据，从宏观、中观、微观三个层面对产业需求进行分析，并匹配学校自身的办学定位、专业布局、人才培养目标、培养规格和课程设置，进行专业设置匹配度

单眼皮的老虎·2024-01-29 09:24

Vue2+echarts 实现图表的简单绘制

Echarts具有高度可定制性和交互性，支持动态数据更新和大数据量展示。Echarts提供了丰富的API和文档，可以方便地与其他前端框架整合。E

ZLY_2004·2024-01-29 09:54

推荐频道

TianYap_大数据