开源数据库大数据

大数据之路——数据同步（第三章）

文章目录3.1数据同步基础3.1.1直连同步3.1.2数据文件同步3.1.3数据库日志解析同步  如第一章所述，我们将数据采集分为日志采集和数据库数据同步两部分。数据同步技术更通用的含义是不同系统间的数据流转，有多种不同的应用场景。主数据库与备份数据库之间的数据备份，以及主系统与子系统之间的数据更新，属于同类型不同集群数据库之间的数据同步。另外，还有不同地域、不同数据库类型之间的数据传输交换，比如
小白15138·2024-01-25 12:39

技术分享 | 使用 pt-query-digest 分析慢日志

喜爱技术和开源数据库，喜爱运动、读书、电影，花草树木。本文来源：原创投稿*爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源。
爱可生开源社区·2024-01-25 12:52

自然语言处理（NLP）的发展

自然语言处理的发展随着深度学习和大数据技术的进步，自然语言处理取得了显著的进步。人们正在研究如何使计算机更好地理解和生成人类语言，以及如何应用NLP技术改善搜索引擎、语音助手、机器翻译等领域。
志尊宝·2024-01-25 12:17

自然语言处理的发展

自然语言处理的发展随着深度学习和大数据技术的进步，自然语言处理取得了显著的进步。人们正在研究如何使计算机更好地理解和生成人类语言，以及如何应用NLP技术改善搜索引擎、语音助手、机器翻译等领域。
胡图不迷糊·2024-01-25 12:17

【30秒看懂大数据】数据安全

PS:本文属专栏第25篇简单说数据安全是保护数据不受未经授权的访问、泄露或损坏的措施和实践，以确保数据的机密性和完整性。举例理解在一家大型电子产品仓库，数据安全管理做得非常好，他们做的工作包括了以下内容：1.仓库入口限制：为了确保数据安全，仓库建立了强大的进入控制系统。只有授权人员可以进入仓库，而且他们必须使用身份验证卡或生物识别技术来进入=数据安全中的身份验证和访问权限控制。2.监控和摄像头：仓
风姑娘数据说·2024-01-25 11:05

【30秒看懂大数据】数据湖

简单说数据湖是一个存储平台，存储了企业所有所需要的数据。举例理解我们仍然以下周备餐为例。我在网上买了牛排，又去超市购买了一堆蔬菜和肉，然后又去菜市场采购了很多大料比如干辣椒、辣椒面、桂皮、八角、薄荷、火锅底料，然后回来的路上又遇见了邻居，邻居说家里之前屯的螺狮粉还有好几包，于是回家时候又送了我2包。此时我有网上买的牛排、超市买的蔬菜、肉，菜市场采购的大料配料、邻居送的螺狮粉。所以这些食物的来源很多
风姑娘数据说·2024-01-25 11:05

【30秒看懂大数据】商业分析

PS:本文属专栏第26篇简单说商业分析是通过数据分析和评估来理解和改善企业的经营状况，特别是企业外部的市场环境和行业情况分析，以便企业做出更明智的经营决策。举例理解街头有家馒头店，店主叫老李。多年来，他一直保持着传统的经营方式，然而随着市场竞争的日益激烈，老李开始思考如何更好地经营自己的馒头店。1、老李首先对馒头行业进行了深入的研究。他了解到，馒头作为一种传统的主食，在中国有着悠久的历史和文化渊源
风姑娘数据说·2024-01-25 11:01

Java第一阶段学习（初级）笔记

Java能做什么桌面应用开发、企业级用用开发、移动应用开发、科学计算、大数据开发、游戏开发一、Java入门1、下载安装IDEA：快捷键Ctrl+alt+l调整格式Ctrl+alt+M自动抽取代码shift
m0_xiaoxiaoqian·2024-01-25 11:57

1. MySQL 数据库

管理数据库和表用户和权限管理函数，存储过程，触发器和事件MySQL架构存储引擎服务器选项，系统和状态变量优化查询和索引管理锁和事务管理日志管理备份还原MySQL集群压力测试1）数据库原理1.1）数据的时代涉及的数据量大数据不随程序的结束而消失数据被多个应用程序共享大数据数据的分类
开源极客行·2024-01-25 11:25

mysql upgrade 失败_记录一次失败的 Upgrade MySQL to MariaDB 经历

有条件还是要尽早将MySQL替换为MariaDB最好，至于说数据的导入、导出完全不用担心“转换”的，它们之间的兼容性那真的是“刚刚的”，毕竟是出自同一个创始人之手的开源数据库嘛！
秃阿张·2024-01-25 10:15

详解Linux运维工程师高级篇（大数据安全方向）.

2113873knoxoozierangerapachesentry简介：从运维青铜到运维白银再到运维黄金，这里就要牵扯到方向问题也就是装备，根据自己的爱好，每个人都应该选择一个适合自己和喜欢自己的一个职业技术方向，如：大数据安全
weixin_30588729·2024-01-25 10:14

高标准农田建设的实施要点

高标准农田应用大数据、物联网、移动互联等现代信息技术，对基地种植区域的气象环境、土壤墒情、病虫害、农事活动等进行实时监测，实现农田种植智能化、经营网络化、管理高效化、服务便捷化，全面提高农田种植现代化水平
厦门辰迈智慧科技有限公司·2024-01-25 10:51

大数据技术-Hudi学习笔记

目录hudi学习相关文档hudi源码编译Hudi基本使用操作步骤集成Flink-SQL-Client方式环境准备数据写入集成Flink-代码编写方式代码地址环境准备编写代码提交运行集成Hive环境准备同步Hive使用HiveCatalog查询Hive外部表实时视图查询增量视图查询MOR表查询Hudi实战CDC数据同步离线批量导入全量接增量离线Compaction常见问题汇总mor模式存储一直看不到
笑一笑、·2024-01-25 09:51

大数据Hadoop/Hive学习笔记一（基础概念）

大数据Hadoop/Hive学习笔记一（基础概念）一，概念介绍：大数据：大数据一般用来描述一种数量庞大，复杂的数据集，传统数据处理应用程序难以应对。
lucky_myj·2024-01-25 09:46

Hudi学习笔记(一)

大数据发展背景Hudi用于管理分布式文件系统上大型分析数据集存储，支持Spark和Flink整合。它能够是DFS数据集在分钟级时延内支持变更，也支持下游系统对这个数据集的增量处理。
一一|一一一亅·2024-01-25 09:37

Hadoop-MapReduce使用说明

MapReduce是一个开源的分布式软件框架，可以让你很容易的编写程序（继承Mapper和Reducer，重写map和reduce方法）去处理大数据。
隔着天花板看星星·2024-01-25 09:52

从零实现RPC框架之 5.序列化

序列化：序列化以及编解码属于七层网络中的表示层序列化和反序列化的选型却是系统设计或重构一个重要的环节，在分布式、大数据量系统设计里面更为显著。
Seajunnn·2024-01-25 09:48

ElasticSearch基本api操作

ElaticsearchElasticSearch概述Elaticsearch,简称为es,es是一个开源的高扩展的分布式全文检索引擎,它可以近乎实时的存储、检索数据;本身扩展性很好，可以扩展到上百台服务器,处理PB级别(大数据时代
陈平安＂·2024-01-25 08:38

学习大数据所以需要的java基础（2）

这里写自定义目录标题String介绍String概述String的实现原理String的创建String拓展构造面试题判断方法String的Get方法String的转换方法分割功能StringBulider介绍StringBuilder的使用String和StringBuilder以及StringBuffer区别Stream流stream介绍及示例Stream流的获取几个重要的类Math类BigI
龙俊俊·2024-01-25 08:38

AWS实战(二)之Java连接AWS的 Kinesis Data Firehose，实现数据上传S3中

上文已经提到了KinesisDataFirehose在我的设计中处在我的client和S3之间实现了大数据信息收集存储的功能；KinesisDataFirehoseAPI提供两种向传输流发送数据的操作：
从北码到南·2024-01-25 07:45

利用 Amazon Lambda 将 Kinesis Data Stream 数据批量自动写入 Amazon MSK

这些应用程序统一从ApacheKafka中拉取实时数据做分析和处理，例如监控系统、大数据分析平台等。由于业务发展需要，用户将这些工作负载部分迁移到了Amazon上，或者在Amazon上构建新的应用。
亚马逊云开发者·2024-01-25 07:15

大数据平台组件日常运维操作说明（Hadoop/Zookeeper/Kafa/ES/Mysql/Spark/Flume/Logstash/Tomcat）

Hadoop日常运维操作说明hdfs生产环境hadoop为30台服务器组成的集群，统一安装配置，版本号为2.7.7部署路径：/opt/hadoop启动用户：hadoop配置文件：/opt/hadoop/config/hdfs-site.xml/opt/hadoop/config/core-site.xmlhadoopy运行环境变量配置文件：hadoop-env.shjournalnode.envd
love6a6·2024-01-25 07:12

ElasticSearch

一、搜索引擎介绍在互联网项目中，涉及到检索的业务需求很多，我们可以通过对数据库的模糊查询实现检索功能，但是针对大数据量的操作，基于数据库的检索就显得力不从心了。
__追梦人·2024-01-25 07:29

ElasticSearch分词器介绍

在大数据时代，搜索技术变得尤为重要。ElasticSearch作为一款强大的开源搜索引擎，提供了丰富的功能来满足各种搜索需求。
Dxy1239310216·2024-01-25 07:20

吴军《信息论》中大数据思维应用之语音识别

生活中，我们总要解决各式各样的问题，我们如何拆解问题，把问题变成关于大数据思维在当下最常见，也是最成功的四类应用。第一类是解决人工智能问题，把那些过去
高高_02c9·2024-01-25 07:44

天津大数据培训班推荐，数据分析过程的常见错误

大数据”是近年来IT行业的热词，目前已经广泛应用在各个行业。大数据，又称海量信息，特点是数据量大、种类多、实时性强、数据蕴藏的价值大。
qq_38453958·2024-01-25 06:57

掌握技术脉搏：程序员如何在技术变革中保持领先，避免被裁员

一、当今的技术变革有哪些当今的技术变革包括移动互联网、大数据、人工智能、区块链、虚拟现实和增强现实等技术的快速发展和应用。
wd90119·2024-01-25 06:15

使用Python和PyTorch库构建一个简单的文本分类大模型：

在当今的大数据时代，文本分类任务在许多领域都有着广泛的应用，如情感分析、垃圾邮件过滤、主题分类等。为了有效地处理这些任务，我们通常需要构建一个强大的文本分类模型。
GT开发算法工程师·2024-01-25 05:57

10年软件测试工程师感悟——写给还在迷茫中的朋友

当然，我说的是最基础的功能测试的岗位需求已经很少了，而自动化、性能、安全乃至于以后可能出现的大数据测试、AI测试仍存在着非常多的机会。“长江后浪推前浪，前浪死在沙滩上”，曾经一句让人会心一笑
程序员阿沐·2024-01-25 05:40

Redis学习——入门篇①

Redis学习——入门篇①1、2：Redis入门概述3：Redis安装配置10安装Redis-cli命令4：Redis——十大数据类型11redis数据类型12命令查阅13key常用命令介绍14类型大小写和帮助命令
_Matthew·2024-01-25 05:15

大数据运维到底是什么 又需要做些什么

疫情期间，大数据的广泛应用发挥了巨大的作用，作为新兴的IT领域技术，大数据行业受到越来越多的人关注，于是想要入行的、转行的纷纷选择大数据学习，那么大数据运维到底是什么？又需要做些什么?
科技资讯快报·2024-01-25 05:38

chatgpt赋能python：Python转C++编译器：将高级语言转换为本地代码的新趋势

Python转C++编译器：将高级语言转换为本地代码的新趋势Python是一门很流行的高级编程语言，随着人工智能、大数据、机器学习等领域的发展，其在实际应用中得到越来越广泛的应用。
李自提·2024-01-25 05:32

2019-01-16（霄）

《大数据环境下群体性事件的智能预警》读后感研究意义：互联网的出现改变了群体性事件的发生发展格局，群体性事件向互联网的转移也使其呈现出不同于以往的新特征、新动态，而传统模式难以应对新时期的群体性事件。
18郎师门·2024-01-25 04:49

深度机器学习满足网络安全

来源：deepmachinelearningmeetscybersecurity一、问题1、恶意软件成指数级增长每个小时有超过100k的恶意代码变种产生2、安全防御是一个大数据问题3、坏的行动者具有自动性能够产生大量的恶意代码
Threathunter·2024-01-25 04:28

城院大讲堂：大数据AI时代的机遇挑战及我们的应对策略

2023年12月18日晚上19点，陈天伟老师在四川城市职业学院眉山校区4A101开展城院大讲堂——《大数据AI时代的机遇挑战及我们的应对策略》专项讲座，各个专业报名150多人参加了讲座。
陈天伟老师·2024-01-25 04:51

一带一路暨金砖国家技能发展国际联盟大数据和人工智能专业委员会名单

四川城市职业学院和陈老师在序号：158，300一带一路暨金砖国家技能发展国际联盟大数据和人工智能专业委员会名单各相关单位：一带一路暨金砖国家技能发展国际联盟大数据和人工智能专业委员会于2023年11月12
陈天伟老师·2024-01-25 04:20

类似66手游的折扣平台有哪些 类似66手游的折扣平台排行榜

现在的手游平台很多，每家几乎都是不一样的福利水准，所以说选择一个靠谱的平台是玩家最基本的原则，本期小编就根据现在的大数据统计来盘点几个值得推荐的内部福利手游平台，一起来瞧瞧有哪些吧！
会飞的鱼儿·2024-01-25 04:27

大数据处理，Pandas与SQL高效读写大型数据集

大家好，使用Pandas和SQL高效地从数据库中读取、处理和写入大型数据集，以实现最佳性能和内存管理，这是十分重要的。处理大型数据集往往是一项挑战，特别是在涉及到从数据库读取和写入数据时。将整个数据集加载到内存中的传统方法可能会导致系统崩溃和处理时间缓慢。本文将探讨一种更好的解决方案：简化分块读写数据的过程。这种技术能够高效地处理大量数据，对于任何与数据库和数据帧一起工作的人来说都是一种宝贵的工具
python慕遥·2024-01-25 03:12

Spark难点 | Join的实现原理

其实，HashJoin算法来自于传统数据库，而Shuffle和Broadcast是大数据在分布式情况下的概念，两者结合的产物。因此可
王知无·2024-01-25 03:35

国内首个！亚信安全获得CCRC数据分类分级产品认证证书

亚信安全信数数据分类分级系统AISDCV1.0，荣获中国网络安全审查认证和市场监管大数据中心颁发的首个数据分类分级产品IT产品信息安全认证证书！
亚信安全官方账号·2024-01-25 03:52

大数据时代的税收

信息时代，大数据时代，什么最重要？人才？钱？都不是是数据！！！国家通过个税扣除获取更加详尽的个人信息。尤其是房租这一块。房屋在中国是一大块，出租房子房东是要交税的，但是很少交，过去不好管理。
追梦者wang·2024-01-25 02:48

【大数据】Flink 系统架构

Flink系统架构1.Flink组件1.1JobManager1.2ResourceManager1.3TaskManager1.4Dispatcher2.应用部署2.1框架模式2.2库模式3.任务执行4.高可用设置4.1TaskManager故障4.2JobManager故障Flink是一个用于状态化并行流处理的分布式系统。它的搭建涉及多个进程，这些进程通常会分布在多台机器上。分布式系统需要应对
G皮T·2024-01-25 02:56

【大数据】流处理基础概念（一）：Dataflow 编程基础、并行流处理

流处理基础概念（一）：Dataflow编程基础、并行流处理流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）如果您觉得这篇文章有用✔️的话，请给博主一个一键三连吧（点赞、关注、收藏）！！！您的支持将激励博主输出更多优质内容！！！流处理基础概念（一）：Dataflow编程基础、并行流处理1.Dataflow编程基础1.1Dataf
G皮T·2024-01-25 02:25

【大数据】流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）

流处理基础概念（一）：Dataflow编程基础、并行流处理流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）如果您觉得这篇文章有用✔️的话，请给博主一个一键三连吧（点赞、关注、收藏）！！！您的支持将激励博主输出更多优质内容！！！流处理基础概念（二）：时间语义1.流处理场景下一分钟的含义2.处理时间3.事件时间4.水位线5.处理时
G皮T·2024-01-25 02:25

【大数据】流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）

流处理基础概念（一）：Dataflow编程基础、并行流处理流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）如果您觉得这篇文章有用✔️的话，请给博主一个一键三连吧（点赞、关注、收藏）！！！您的支持将激励博主输出更多优质内容！！！流处理基础概念（三）：状态和一致性模型1.任务故障1.1什么是任务故障2.结果保障2.1AT-MOST
G皮T·2024-01-25 02:55

【大数据】流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）

流处理基础概念（一）：Dataflow编程基础、并行流处理流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）如果您觉得这篇文章有用✔️的话，请给博主一个一键三连吧（点赞、关注、收藏）！！！您的支持将激励博主输出更多优质内容！！！流处理基础概念（三）：状态和一致性模型1.任务故障1.1什么是任务故障2.结果保障2.1AT-MOST
G皮T·2024-01-25 02:54

【大数据】流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）

流处理基础概念（一）：Dataflow编程基础、并行流处理流处理基础概念（二）：时间语义（处理时间、事件时间、水位线）流处理基础概念（三）：状态和一致性模型（任务故障、结果保障）如果您觉得这篇文章有用✔️的话，请给博主一个一键三连吧（点赞、关注、收藏）！！！您的支持将激励博主输出更多优质内容！！！流处理基础概念（二）：时间语义1.流处理场景下一分钟的含义2.处理时间3.事件时间4.水位线5.处理时
G皮T·2024-01-25 02:24

01-经济

受制裁的包括：两家视频监控公司海康威视及大华股份；人工智能公司科大讯飞、旷视科技、商汤科技和依图科技；还包括自称为中国电子数据取证行业龙头企业、网络空间安全及大数据信息化专家的美亚柏科，以及总部位于上海的微米和纳米制造设备供应商溢鑫科创科技
别醒nice·2024-01-25 01:37

智慧仓储物流远程监控方案分析

智慧仓储物流远程监控方案分析随着物联网、大数据、云计算等技术的快速发展，智慧仓储物流逐渐成为现代物流发展的重要方向。远程监控作为智慧仓储物流的重要组成部分，可以有效提高仓储物流的效率、准确性和安全性。
蓝蜂物联网·2024-01-25 01:48

大数据开发之Spark（累加器、广播变量、Top10热门品类实战）

第3章：累加器累加器：分布式共享只写变量。（executor和executor之间不能读数据）累加器用来把executor端变量信息聚合到driver端。在driver中定义的一个变量，在executor端的每个task都会得到这个变量的一份新的副本，每个task更新这些副本的值后，传回driver端进行合并计算。1、累加器使用1）累加器定义（sparkcontext.accumulator(in
Key-Key·2024-01-25 00:25
上一页 45 46 47 48 49 50 51 52 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他