玩转大数据第8页

用爬虫玩转石墨文档细解

您好，我是程序员小羊！前言石墨文档是一款受欢迎的在线协作工具，它允许多人实时编辑和共享文档。通过爬虫技术，我们可以自动化地获取石墨文档中的内容，进行数据分析或备份。不过，在使用爬虫技术时，务必遵循相关法律法规及服务条款，确保不违反用户隐私或服务协议。一、爬虫概述与基础知识爬虫，也称为网络蜘蛛，是一种自动化程序，用于访问网页并提取信息。常见的爬虫工具包括Python的requests、Beautif

程序员小羊！·2024-08-29 23:42

虚拟机安装hadoop，hbase（单机伪集群模式）

虚拟机安装Hadoop，Hbase工作中遇到了大数据方面的一些技术栈，没有退路可言，只能去学习掌握它，就像当初做爬虫一样（虽然很简单），在数据爆发的现在，传统的数据库mysql，oracle显然在处理大数据量级的数据时显得力不从心

流~星~雨·2024-08-29 21:31

hive中的数据同步到hbase

关于hadoop，hive，hbase这三个技术栈我写了两篇博客简单的分享了我对这三个技术栈的一些看法，在我目前的认知里，hadoop提供hdfs这个组件来存储大数据量的数据（相比于mysql，oracle

流~星~雨·2024-08-29 21:31

Apache Kafka 快速学习大纲

Kafka概述定义Kafka传统定义：Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。

aaaak_·2024-08-29 19:46

大数据实训笔记7：kafka

概述Kafka是一个开源的分布式事件流平台(EventStreamingPlatform)，被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。Producer：消息生产者，就是向kafkabroker发消息的客户端。Consumer：消息消费者，向kafkabroker取消息的客户端。ConsumerGroup（CG）：消费者组，由多个consumer组成。消费者组内每个消费者负责消

Roslin_v·2024-08-29 19:14

这几个高级爬虫软件和插件真的强！

亮数据（BrightData）亮数据是一款强大的数据采集工具，以其全球代理IP网络和强大数据采集技术而闻名。它能够轻松采集各种网页数据，包括产品信息、价格、评论和社交媒体数据等。

@Python大数据分析·2024-08-29 17:05

开始学习大数据

我是一个java开发人员，做java服务器开发已经有一年的时间了，而实际的开发经验有两年的时间，最开始的一年的时间，我从事与Android开发。而为什么从Android开发转到Java服务器开发，有如下原因：1.我自己对于做界面不太喜欢，而且也没有足够的耐心去调试界面，而且对于深度，我有足够的畏惧，因为越学到后面，就必须要对面Android的内核，这个是当时自己没有足够的多的信息继续走Androi

昨天的殇·2024-08-29 16:51

大数据分析与大数据开发两者的区别是怎样的?

大数据主要分为两个就业方向：①大数据开发②大数据分析大数据分析：主要负责现有数据价值提炼与挖掘，包括业务增长点挖掘，产品改进点挖掘，业务分析指标体系构建，业务分析报告出具等大数据开发：主要负责大数据平台与应用开发

泰迪智能科技01·2024-08-29 10:18

飞凌方案丨基于LS1028A系列核心板打造一款边缘计算网关

随着物联网、大数据、人工智能等技术的快速发展与应用,给传统的云计算模式带来了巨大的挑战,这也催生出了计算模式的变革,边缘计算由此诞生。

spear800·2024-08-29 10:48

Kylin的工作原理及使用分享操作指南

ApacheKylin是一个分布式的分析引擎，专为大数据环境中的快速分析和查询而设计。它通过构建OLAP（联机分析处理）立方体，使得对海量数据的实时分析成为可能，极大地提升了数据查询的效率。

vvvae1234·2024-08-29 05:14

Elasticsearch 压测方案之 esrally 简介

由于Elasticsearch（后文简称es）的简单易用及其在大数据处理方面的良好性能，越来越多的公司选用es作为自己的业务解决方案。

叫小七的剑客·2024-08-29 05:48

关于这道填空题，你会如何回答？（附带学习链接）

小白的答案是：Java是铜牌，Linux是银牌，Hadoop是金牌，大数据是王牌。因为Java是学大数据的基础，有基础然后就可以学后续的；最后只有学好大数据这一王牌才能出去找一份比较好的工作。

csdn业界要闻·2024-08-29 05:09

《未来二十年，AI、区块链、云与大数据技术引领全球变革》

摘要在未来二十年，全球社会与经济将深刻受到人工智能（AI）、区块链（Blockchain）、云计算（Cloud）和大数据（Data）四大核心技术的驱动。

久绊A·2024-08-29 03:25

向量数据库 Faiss 的搭建与使用

向量数据库Faiss的搭建与使用一、引言在人工智能和大数据技术飞速发展的今天，向量数据库作为处理高维数据检索的关键技术，越来越受到重视。

eqa11·2024-08-29 01:14

【大数据】深入解析向量数据库Faiss：搭建与使用指南

摘要：本文将介绍向量数据库的概念，重点讲解Faiss这一高性能相似性搜索库。通过分析官网内容，详细阐述Faiss的安装过程及使用方法，帮助读者快速上手并应用于实际项目中。什么是向量数据向量数据是一种数据类型，通常用于数学、物理学、计算机科学和数据分析等领域。在技术术语中，向量数据通常指的是以下几种概念：数学向量：在数学中，向量是一个具有大小和方向的量，可以在平面上或空间中表示为箭头。数学向量可以是

程序者王大川·2024-08-29 01:43

【区块链 + 司法存证】数据存证区块链服务开放平台 | FISCO BCOS应用案例

大数据时代，数据参与社会生产过程，实现价值增值，是一种新型生产要素。数据产品具有易复制、易修改等特点，因而数据产品在使用、流通过程中面临被非法复制、非法传播、非法篡改和知识产权窃取等安全风险。

FISCO_BCOS·2024-08-29 00:34

远程收款风控怎么解决,怎样收款不被大数据监控

现如今无论是用户还是各大企业以及商户，在进行交易时，大多都非常重视扫码支付平台的选择，但无论是传统电商平台的支付工具还是当下各大商业卖场所选择的支付渠道，重点还是在于要有利于自身业务的开展，接下来就为大家简单解析、选择扫码支付平台所需要注意到的问题。费率不是重点需要注意的是，不少商家在选择扫码支付平台的过程中过多地重视所谓的费率，一旦偏高就选择不再使用。当然太高很有可能导致整体的交易成本上升，但是

神州网络公司·2024-08-29 00:31

550MHz超高主频：揭秘ST公司M7单核性能王MCU（附全系列MCU报告一览表）

550MHz超高主频：揭秘ST公司M7单核性能王MCU（附全系列MCU报告一览表）这周末，除非外面下钞票，否则谁也拦不住我玩《黑神话悟空》（附：两款可以玩转悟空的显卡推荐）原创IPBrain平台君集成电路大数据平台

Victor-Tian·2024-08-28 20:10

【软考】【多媒体应用设计师】元数据与数字对象标识码

DOI能唯一地标识网络环境下的任何数字对象，它一经产生和分配就永久不变，不随其所标识的对象属性的改变而改变，这是云计算背景下的大数据样本存储和应用技术的体现

软考鸭·2024-08-28 17:19

Python 自动化脚本系列：介绍

在大数据和数字化转型的时代，自动化已成为成功的关键组成部分。Python自动化提供了许多好处，可以彻底改变我们工作和解决问题的方式。

codeory·2024-08-28 17:42

Python大数据学习day01——大数据开发概论

目录大数据概念大数据特点大数据应用场景大数据分析业务步骤大数据职业规划大数据学习路线1.大数据解决问题海量数据存储——海量数据运算——海量数据迁移2.大数据特点（大、多、值、快、信）数据体量大种类和来源多源化实现低价值密度速度快数据的质量准确可信

笨小孩124·2024-08-28 12:46

Python大数据之Python爬虫学习总结——day16 数据可视化

数据可视化Map_地图基础地图知识点:基础示例:实战练习:知识点:自定义模块:制作中国地图data1.txt文件内容python代码示例制作区域地图data2.txt文件内容python代码示例Line_折线图基础折线图实战练习:Bar_柱状图基础柱状图反转以及主题设置Json数据python数据转为json数据知识点:示例:json数据转为python数据知识点:json文件:示例:Map_地图

笨小孩124·2024-08-28 12:46

知识分享系列三：大数据技术（上）

jinruimeng·2024-08-28 07:43

MongoDB适用场景

MongoDB适用场景：大数据量存储：MongoDB非常适合存储PB级的数据。高性能：MongoDB能够实现高

Rverdoser·2024-08-28 06:05

大模型企业应用落地系列三》基于大模型的对话式推荐系统》技术架构实现》大数据平台层

注：此文章内容均节选自充电了么创始人，CEO兼CTO陈敬雷老师的新书《自然语言处理原理与实战》（人工智能科学与技术丛书）【陈敬雷编著】【清华大学出版社】文章目录大模型企业应用落地系列三技术架构实现》大数据平台层大模型底座层具体实现大模型推荐技术发展趋势探讨总结大模型企业应用落地系列三技术架构实现

陈敬雷-充电了么-CEO兼CTO·2024-08-28 03:49

淘宝网购省钱技巧分享淘宝怎么买东西更省钱？

很早之前就已经开始实行网购返利，但还是有那么一部分人不愿意相信，戒备心的驱使下网购一直都是原价，但用大数据告诉你淘宝一年返利好几亿，就我本人一个月返利都好几百，特别是在双十一那种电商节的时候返利提现上千很容易

测评君高省·2024-08-28 03:17

玩转Ambari之二----基于ubuntu的源码编译和安装

网上关于ambari安装的有很多，有直接从现成的源直接下载安装的，也有自己构建本地源安装的，还有不少自己从apache网站下载源码编译安装的。前两者相对简单，依赖小，期间遇到问题也少，顺利的话，可能什么问题都碰不到就完成了。后者会遇到各种不同的问题。apache网上公布的最新版本是２.５.２,鉴于网上能搜到的基于源码安装帖子的版本都较老，并且很多都是基于centos的，基于Ubuntu的很少。我们

Heavbird·2024-08-28 02:13

大数据学习路线基础指南‌

随着信息技术的迅猛发展，‌大数据已成为当今社会的热门话题。‌无论是企业决策、‌市场分析还是科学研究，‌大数据都扮演着举足轻重的角色。‌

一马什么梅一·2024-08-27 23:24

kafka(一)Kafka概述

定义Kafka是一个的基于的（MessageQueue），主要应用于大数据实时处理领域。

万事万物·2024-08-27 23:57

图数据库Neo4j从入门到精通视频教程（含Neo4j+D3.js完整实战项目）

Neo4j+D3.js完整实战项目）课程观看地址：http://www.xuetuwuyou.com/course/302课程出自学途无忧网：http://www.xuetuwuyou.com图数据库是目前大数据领域最火热的方向

菜花小噗噗·2024-08-27 23:23

快速收集信息，Python爬虫教你一招爬取豆瓣Top250信息！

随着科技不断发展，互联网已经进入了大数据时代。我们过去只能通过报刊杂志、电视广播获取到有限的信息，而现在，互联网上的海量数据，让我们享受到了信息自由。

不想秃头的里里·2024-08-27 22:45

分享一个基于Spark的招聘数据可视化与分析系统Hadoop大数据源码（源码、调试、LW、开题、PPT）

作者：计算机源码社个人简介：本人八年开发经验，擅长Java、Python、PHP、.NET、Node.js、Android、微信小程序、爬虫、大数据、机器学习等，大家有这一块的问题可以一起交流！

计算机源码社·2024-08-27 20:05

Distrii办伴：空间+科技+服务解决企业办公全生命周期需求

随着人工智能、大数据技术的应用场景逐步扩大，更丰富、更落地的企业服务场景将在不远的未来不断涌现。

娱扒小公主·2024-08-27 19:11

我用Ehcache本地缓存把查询性能提升100倍，真香

目录业务背景如何通过缓存优化查询接口基于大数据离线平台进行缓存预热本地缓存框架Ehcache今天给大家来分享一个知识，那就是平时我们开发系统的时候，如何运用Ehcache这款本地缓存框架，把我们的查询性能大幅度提升优化

石杉的架构笔记·2024-08-27 19:26

一分钟了解Galaxybase银河图数据库先锋版升级功能！

Galaxybase银河图数据库是一款创邻科技自主研发的商用图数据库，具有高性能、高可用、企业级安全等特性，支持大规模数据查询实时返回，快速挖掘关联关系，发现深层商业洞见，可广泛应用于金融、能源、电信、政企等行业中的大数据分析场景等场景

创邻科技·2024-08-27 18:51

国内首个图计算平台团体标准发布，创邻科技参与编撰

2024年，由中国通信标准协会批准的团体标准《大数据图计算平台技术要求与测试方法》（编号：T/CCSA470—2023）（下称：标准）正式实施。

创邻科技·2024-08-27 18:21

Flink SQL w/ Blink Planner执行流程解析（上篇）

Foreword大数据领域SQL化的风潮方兴未艾(所谓"EverybodyknowsSQL")，Flink自然也不能“免俗”。

码农老K·2024-08-27 17:44

大数据计算-SQL优化手段(CBO)-以Flink为例

文章目录背景理论知识示例结果展示结果解释背景大数据计算中，SQL生成的执行计划第一轮会经过固定规则的优化，第二轮会根据原计划，生成多条结合成本的的执行计划，根据cost进行排序，选出最优的执行计划。

wending-Y·2024-08-27 17:12

（二十）Flink Paimon

数据湖、湖仓一体是当前大数据领域技术发展的重要趋势。

springk·2024-08-27 16:38

挑战应对：携手共赢的未来——《无限的可能：世界高等教育数字化发展报告（2023）》

面向未来，数字技术在高等教育中的应用呈现新一代互联网强化教育要素新联结、物联网助力打造数字教育新空间、大数据有力支撑精准化教育服务新范式、区块链加速释能学习新评价、生成式人工智能重构教育教学新形态、元宇宙推动形成虚实一体教育新场域等发展趋势

罗思付之技术屋·2024-08-27 14:55

基层医疗云HIS系统源码：云计算、大数据等现代信息技术研发

云HIS源码，基层云HIS系统源码，基层医疗云HIS系统利用云计算、大数据等现代信息技术研发的基层医疗云HIS系统实现了医院信息化从局域网向互联网转型，重新定义医疗卫生信息化建设的理念、构架、功能和运维体系

项目源码库·2024-08-27 14:24

探索未来数据流处理的基石 - Pravega开源项目深度解析

项目地址:https://gitcode.com/gh_mirrors/pr/pravega在大数据和实时处理领域，一个强大的数据流管理工具

施业任Luna·2024-08-27 13:46

Navicat for MySQL：卓越的跨平台数据库管理开发工具

NavicatforMySQL是一款专为数据库管理员和开发人员设计的强大数据库管理开发工具，支持Mac和Windows操作系统，为用户提供了高效、便捷的数据库操作体验。

平安喜乐616·2024-08-27 13:45

Spark-第六周

1.sparksql运行流程【Spark精讲】一文讲透SparkSQL执行过程_sparksql执行过程-CSDN博客摸鱼大数据——SparkSQL——SparkSQL的运行机制-CSDN博客2.熟练使用

fightingD&W·2024-08-27 12:13

游卡，三七互娱，得物，顺丰，快手，oppo，莉莉丝，康冠科技，途游游戏，埃科光电25秋招内推

游卡，三七互娱，得物，顺丰，快手，oppo，莉莉丝，康冠科技，途游游戏，埃科光电25秋招内推①顺丰【招聘岗位】研发、算法、大数据、产品、项管、设计、人资等【官方内推码】4FOLXH【一键内推】https

2401_86288678·2024-08-27 12:39

拆解十点课堂10万+爆文2019离婚大数据曝光：打败婚姻的，不是出轨，不是婆婆，而是……

拆解:2019离婚大数据曝光：打败婚姻的，不是出轨，不是婆婆，而是……一、大标题和小标题的关系全文分4个小节，第一节为引言第一句很关键:必须用3秒的时间吸引打开率，诉诸感性与理性对比，构成反差:一句经典爱情歌曲开篇

财气横溢·2024-08-27 08:28

以数据安全筑牢新时代旅游安全之基,硬盘文件数据销毁，硬盘销毁

在数字化高速发展的时代，旅游行业也迎来了大数据的浪潮。全国旅游标准化技术委员会近日发布标准《旅游大数据安全与隐私保护要求（征求意见稿）》，并公开征求意见，截止时间为2024年10月8日。

硬盘文件数据销毁海龙·2024-08-27 08:47

大数据挖掘的步骤是怎样的呢？

大数据挖掘是一个复杂而系统的过程，它利用计算机科学的方法和技术，对大量、多样化、高速增长的数据进行深入挖掘，以发现有价值的信息和知识。

weixin_54503231·2024-08-27 08:46

【大数据】数据仓库的定义、数据模型及其建设与设计

1.数据仓库1.1定义数据仓库不是数据的简单堆积，而是从大量的事务型数据库中抽取数据，并将其清理、转换为新的存储格式,即为决策目标把数据聚合在一种特殊的格式中。公认的数据仓库之父W.H.Inmon将其定义为：“数据仓库是支持管理决策过程的、面向主题的、集成的、随时间而变的、持久的数据集合”。1.2体系结构数据仓库的体系结构如下图：数据源：是数据仓库系统的基础，是整个系统的数据源泉。通常包括企业内部

牧心.·2024-08-27 07:10

大数据技术之Flume 企业开发案例——负载均衡和故障转移（6）

目录负载均衡和故障转移1）案例需求2）需求分析3）实现步骤负载均衡和故障转移1）案例需求使用Flume1监控一个端口，其sink组中的sink分别对接Flume2和Flume3，采用FailoverSinkProcessor，实现故障转移的功能。2）需求分析故障转移案例3）实现步骤准备工作在/opt/module/flume/job目录下创建group2文件夹[lzl@hadoop12job]$c

大数据深度洞察·2024-08-27 05:58

推荐频道

玩转大数据