大数据云原生hadoop

【20210804】今日十点感悟

可以给自己缓冲的时间，但最好不要太长；2、最好一件事，比同时做几件事，得到的利益更大；3、遇事不要想当然，都排除几个原因；4、这个世界上的美食有很多，没事多研究研究；5、喜欢吃的东西不一定要点外卖，也可以自己学；6、大数据也不一定准确
邱小美是Kelly·2024-02-08 12:24

大数据技术闲侃之-鹰隼试翼风尘翕张

前言似乎是需要把一系列串起来，继走出校门、岗位选择之后，现在又开始卷职业规划了，有同学提出想了解了解职业规划的事情。写这篇文章也是因为之前做了个开头，后续持续很久放在记事本上面吃灰了。这段时间呢，组里有3位刚从校园的同学进来，组里年龄瞬间拉低了一个很大的水平，不管愿不愿意，反正生理年龄上来了一场风暴式的洗牌，主要找工作这个事情上如果相同水平的话，肯定越小的未来潜力越大嘛。我自己也是参与到了这些新鲜
敏叔V587·2024-02-08 11:41

mac docker 宿主机和容器间网络打通

从我过去多次学习大数据组
敏叔V587·2024-02-08 11:10

＜网络安全＞《19 安全态势感知与管理平台》

1概念安全态势感知与管理平台融合大数据和机器学习技术，提供可落地的安全保障能力，集安全可视化、监测、预警和响应处置于一体。
Ealser·2024-02-08 11:30

No.2大数据入门 | 环境搭建：jdk1.8安装及环境配置

上一篇文章我们安装了虚拟机以及linux操作系统，接下来就要安装在操作系统上运作的大数据核心hadoop分布式系统基础架构！
滚滚红尘_8133·2024-02-08 11:43

影响世界的女性

前段时候人工智能AI的问世让我们惊叹到科技的进步，我们的大数据时代又开启了新的征途。
清源李·2024-02-08 11:21

小白解说之Prometheus监控入门

今天给大家讲解一下云原生界的监控扛把子普罗米修斯Prometheus。
小白说互联网·2024-02-08 11:43

【深度学习】“智能皮肤：深度学习驱动的‘智慧之眼‘应用如何革新皮肤病诊疗未来“

这个革新性的故事始于一场科研马拉松，一群跨学科的研究者们汇集了全球范围内的皮肤病学数据，构建了一个前所未有的庞大数据库。
德天老师·2024-02-08 11:25

Hadoop多次格式化后如何解决

产生原因我们在配置hadoop中的hdfs时，会设置元数据的存储位置，如图所示要想解决此问题，先停止所有启动的服务stop-all.sh然后删除上图画出来的配置文件，这里三台机器都要删，最后进入hadoop
(((φ(◎ロ◎;)φ)))牵丝戏安·2024-02-08 11:50

Python在无人机器狗

大数据处理能力：无人机器狗可能会产生大量的传感器数据和图像数据
python无人驾驶 医学芯片·2024-02-08 11:43

k8s-存储抽象-PV挂载

本文章属个人学习整理的对应笔记，学习内容来尚硅谷的培训课，有兴趣的同学可以跳转下方链接【云原生Java架构师的第一课K8s+Docker+KubeSphere+DevOps】https://www.bilibili.com
是小天才哦·2024-02-08 10:22

智领云独家技术支持，第十届全国高校新一代信息技术暑假师资研修班隆重开营

当前，以人工智能、大数据、云计算等为代表的新技术，驱动人类社会快速进入以数字化应用为基础的智能时代。在此背景下，数字化成为催生教育结构变革的重要力量。
智领云科技·2024-02-08 10:31

我的理想

大数据工程学院19计本2班沙仕康每个人都会有理想，有的人理想很远大，很有抱负。而有的很渺小，各不相同。我的理想却是飘摇不定的，一直在变。
19计本二班·2024-02-08 10:40

扔了又如何

大数据太可怕了，前几天写了篇关于不想评职称的文章，结果这些天，各个平台推送给我的文章几乎都与此有关。还有一些劝人放下的文章，我也点进去看了一些，聊以自慰。说实在，对评职称这件事，我是真的放下了的。
苠苠的日常·2024-02-08 09:00

CentOS 7搭建Hadoop伪分布模式

配置文件：链接：https://pan.baidu.com/s/1rYvnxbyqXOG1DjI63dxbAw提取码：6e1l复制这段内容后打开百度网盘手机App，操作更方便哦1.1修改IP地址在虚拟机的命令行中输入下面的命令，修改网卡的配置文件vi/etc/sysconfig/network-scripts/ifcfg-ens33配置以下信息TYPE=Ethernet#类型为以太网BOOTPRO
clevercondy·2024-02-08 09:52

400集！分享珍藏很久的Python学习路线！（附资料）

Python一直有胶水语言之称，应用场景相当广泛，不止有爬虫、数据分析，更可以加入到WEB、大数据、AI的应用池之中，而且开发效率相当恐怖。
smley·2024-02-08 09:46

大数据毕业设计PySpark+PyFlink航班预测系统 飞机票航班数据分析可视化大屏 机票预测 机票爬虫 飞机票推荐系统 大数据毕业设计 计算机毕业设计

博主介绍：✌全网粉丝100W+,前互联网大厂软件研发、集结硕博英豪成立工作室。专注于计算机相关专业毕业设计项目实战6年之久，选择我们就是选择放心、选择安心毕业✌由于篇幅限制，想要获取完整文章或者源码，或者代做，可以给我留言或者找我聊天。感兴趣的可以先收藏起来，还有大家在毕设选题，项目以及论文编写等相关问题都可以给我留言咨询，希望帮助更多的人。1.DrissionPage自动化Python爬虫工具采
B站计算机毕业设计超人·2024-02-08 09:17

聚鲸融从数字经济角度解读互联网产业发展

从云计算、大数据到人工智能、区块链,数字技术的快速发展为互联网产业带来了前所未有的机遇。聚鲸融紧跟数字技术发展趋势,为
2301_79004341·2024-02-08 09:11

Springboot整合Redis使用RedisTemplate操作redis五大类型用法详解

1、案例说明springboot整合redis之后，提供了操作redis的简便方式通过通用对象redisTemplate方式操作String,Hash,List,SetSortSet五大数据类型本案例中使用
雾林小妖·2024-02-08 09:48

编码技巧——基于RedisTemplate的RedisClient实现、操作Lua脚本

RedisTemplateClient，于是自己来实现下；springboot整合redis之后，提供了操作redis的简便方式，可以通过通用对象RedisTemplate方式操作String,Hash,List,SetSortSet五大数据类型
七海健人·2024-02-08 09:42

涤生大数据实战：基于Flink+ODPS历史累计计算项目分析与优化（上）

涤生大数据实战：基于Flink+ODPS历史累计计算项目分析与优化（一）1.前置知识ODPS（OpenDataPlatformandService）是阿里云自研的一体化大数据计算平台和数据仓库产品，在集团内部离线作为离线数据处理和存储的产品
涤生大数据·2024-02-08 08:55

明天开课 | 脑影像组学培训班（直播：2023.8.15~8.18）

★课程简介★随着大数据、人工智能的深入融合发展，一项新的研究方法开始用于临床研究，它就是影像组学。它可以对普通影像图像进行更深层
茗创科技·2024-02-08 08:10

2018-07-14

复制/etc/skel目录为/home/tuser1改权限2、编辑/etc/group文件，添加组hadoop。
啊鑫007·2024-02-08 08:56

Hadoop生态漏洞修复记录

Hadoop常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。·2024-02-08 08:30

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

记录一次大数据问题，征询解决方案。
不会吐丝的蜘蛛侠。·2024-02-08 08:28

hadoop调优-hdfs配置优化

dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化：dfs.hosts/export/hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

报错：org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。·2024-02-08 08:58

grafana+prometheus+hiveserver2(jmx_exporter+metrics)

文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.hadoop.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。·2024-02-08 08:24

hadoop学习笔记

下载安装伪分布式：1.国内源下载地址：https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/Indexof/apache/hadoop/commonhttps
草琳情·2024-02-08 08:54

家、家人——重拾初心的港湾

大数据工程学学院杨华2020402157出生于普普通通的农村家庭的我，有陪伴着父母早出晚归的时光、有每天上学只吃两餐饭的时光、有羡慕别人的时光、也有被他人看不起的时光，看着父母亲劳累的样子和早出晚归的样子让人心疼再加上来自生活的穷苦
今圆是今元·2024-02-08 08:34

使用 Kubernetes，基础设施层面如何优化？分享一些解决方案

随着云原生技术逐渐成熟，越来越多的用户
志凌海纳SmartX·2024-02-08 07:51

【大数据】Flink 如何处理背压

Flink如何处理背压1.什么是背压2.Flink中的背压3.结论⭐推荐阅读：《Flink架构（二）：数据传输》人们经常会问Flink是如何处理背压（backpressure）效应的。答案很简单：Flink不使用任何复杂的机制，因为它不需要任何处理机制。它只凭借数据流引擎，就可以从容地应对背压。在这篇博文中，我们介绍一下背压。然后，我们深入了解Flink运行时如何在任务之间传送缓冲区中的数据。最终
G皮T·2024-02-08 07:16

flink on yarn

Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完hadoop3.3.4
枪枪枪·2024-02-08 07:46

【大数据】Flink on YARN，如何确定 TaskManager 数

FlinkonYARN，如何确定TaskManager数1.问题2.并行度（Parallelism）3.任务槽（TaskSlot）4.确定TaskManager数1.问题在Flink1.5ReleaseNotes中，有这样一段话，直接上截图。这说明从1.5版本开始，FlinkonYARN时的容器数量，即TaskManager数量，将由程序的并行度自动推算，也就是说flinkrun脚本的-yn/--
G皮T·2024-02-08 07:43

Mac 安装多版本 protoc / protobuf

)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(forhadoop
大数据王小皮·2024-02-08 07:26

【大数据面试题】005 谈一谈 Flink Watermark 水印

一步一个脚印，一天一道面试题。感觉我现在很难把水印描述的很好，但，完成比完美更重要。后续我再补充。各位如果有什么建议或补充也欢迎留言。在实时处理任务时，由于网络延迟，人工异常，各种问题，数据往往会出现乱序，不按照我们的预期到达处理框架。WaterMark水印，就是为了一定程度的解决数据，延迟乱序问题的。使用WaterMark一般有以下几个步骤：定义时间特性（Flink1.12已废弃，默认使用事件时
Jiweilai1·2024-02-08 07:54

Oracle表结构转成MySQL表结构

在将Oracle数据库表结构转换为MySQL数据库表结构时，需要考虑两大数据库系统之间的差异。
程序员爱技术·2024-02-08 07:24

HTML的body标签（列表标签）

image.pngHTML列表标签学习列表标签学习中国知名城市北京上海杭州人生几大爱好打游戏看电影踢足球IT课程：java课程python课程大数据课程热门旅游城市：嘉兴杭州上海
书只读了几本·2024-02-08 07:47

MongoDB部署策略

利用MongoDB在存储海量数据上的优势，部署存储空间大数据。·欢迎批评指正补充由于编者水平有限，所搜集资料也很有限，制定的规范肯定有考虑不周全、甚至完全错误的地方，欢迎大家批评指正。
guwei666666·2024-02-08 06:17

sqoop导入数据到hdfs

Sqoop是apache旗下的一款”Hadoop和关系数据库之间传输数据”的工具导入数据：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop
鲲鹏猿·2024-02-08 06:40

Hadoop之环境配置

1.安装环境ubuntu2.安装jdk3.安装Hadoop1.在安装ubuntu时需要注意安装ubuntu创建用户，等待时间比较长，大家需要有点耐心。
鲲鹏猿·2024-02-08 06:39

论文阅读-GROUP：一种聚焦于工作负载组行为的端到端多步预测方法

对于云原生应用程序来说，多个容器协同处理用户请求，导致每个容器的工作负载变化受到工作负载组行为的影响。然而，现有方法主要分析每个容器的个体变化，没有明确建模容器工作负载组的演化，导致结果次优。
向来痴_·2024-02-08 06:45

数据采集工具Sqoop、Datax、Flume、Canal

libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量exportHADOOP_COMMON_HOME
yue-verdure·2024-02-08 06:08

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

MynameisJinsuo.Shi.一个不正经的大数据开发工程师，目前从事在公司主要进行CDP平台的数据接入、数据的ETL、数据的融合与事件的展开工作。
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

[hadoop@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789·2024-02-08 06:37

数据同步工具对比——SeaTunnel 、DataX、Sqoop、Flume、Flink CDC

在大数据时代，数据的采集、处理和分析变得尤为重要。业界出现了多种工具来帮助开发者和企业高效地处理数据流和数据集。
大数据_苡~·2024-02-08 06:33
上一页 26 27 28 29 30 31 32 33 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他