深入浅出Python机器学习14——从数据获取到话题提取

简单页面的爬取

准备 Request 库和 User Agent

在日常工作中我们有时候需要一个简单的程序代替人工进行大规模的阅读去爬取有用的信息，也就是我们常说的“爬虫”程序。
首先我们需要安装一个简单的Requests库（当然你也可以安装其它的库进行爬虫）

	pip install requests

Request 库是一个常用的 http 请求库，它本身是用 Python 编写的。Request 基于 urllib，但是比 urllib 的易用性要好很多。而且语法简单一点，功能一点也不弱。
在 Request 库安装完成之后，要对目标网站进行请求之前还需要搞清楚自己的 user agent。
User agent 一般翻译为 “ 用户代理 ”，它的作用是向服务器 “ 自报家门 ”，告诉服务器我们的电脑操作系统、CPU、浏览器、以及浏览器的版本信息。这样便可以让爬虫假装是一个正常用户在使用浏览器对目标的服务器发出请求，不然很容易被识破身份。对于有些网站用户的 user agent 进行校验，如果没有的话，就会被服务器据之门外。
想要知道自己的 user agent 直接浏览器中搜索 “ UA 查询 ”：

然后随便点开一个，这里点击的是第一个链接，得到下图：

可以看到使用的浏览器是 Firefox，版本是 68.0。渲染引擎是 Gecko 68.0，操作系统是 ubuntu

	Mozilla/5.0(X11; Ubuntu; Linux x86_64; rv:68.0)Gecko/20100101 Firefox/68.0

确定一个目标网站并分析其结构

确定一个网站，例如 www.toutiao.com，如图所示：

接着选择科技专栏，这一栏地址是 http://www.toutiao.com/ch/news_tech/ ：

点击一条信息如锦鲤女孩一夜暴富，并记录地址 https://www.toutiao.com/a6706027965865541896/。

进行爬取并保存为本地文件

接下来使用锦鲤女孩做个实验：

程序显示导入了 requests 库，并使用了之前查询到的 User Agent 来制定爬虫的 headers。接下来用 requests 向服务器发送请求：

程序中使用了刚才锦鲤女孩新闻的那个链接，headers 参数就传入 user agent。可以看到传入的 html 文件。下面查看一下 requests 的编码方式：

可以看到默认编码方式为 utf-8。有些时候可能是其它方式的编码，在之前的图中找到运行结果中的 charset 的部分：

从图中可以看到这个新闻的正文页面采用的是 “ utf-8 ” 的编码方式。
理论上，requests 库可以根据页面头猜测页面的编码方式，但它的猜测的正确率并不高,虽然这里猜测正确了。若是猜测错误，可以通过如下方式进行调整：

	# 修改 encoding 为 utf-8
	r.encoding = 'utf-8'
	# 重新打印结果
	print(r.text)

得到正确的编码方式之后，为了让页面更加清晰易读，可以采用以下两种方式：一是将这个页面保存为 html 文件，这样就可以用浏览器打开，从而进行清晰地阅读其中的内容；另一种方法是使用 html 解析器，将页面中重要的内容抽取出来，保存为所需要的任意格式的文件（如 CSV）。
下面用第一个方法实现文件的保存：

运行代码后，可得到如下结果：

这里只是简单的展示了 requests 的基本用法，如果这样将整个页面复制下来并没有什么意义，然而降低了阅读效率。

稍微复杂一点的爬取

如果单纯爬取一个页面并保存，并不会提高我们的效率。实际中我们所期望的结果应该如下图中所示，查看各个专栏有没有我们所需的标题和链接。

确定目标页面并进行分析

在网页页面上单击鼠标右键，再弹出的菜单中选择 “ 检查 ” 这一项可得下图：

图中蓝色底纹选中的就是锦鲤女孩对应的元素，而它存储于下面图中蓝色底纹的元素中，此处已经点击

元素，继续展开第一个

元素后可以得到下图：

接下来，就是要使用 HTML 解析器来获取这些内容，但是现在出现了一个新的问题，我们需要让 HTML 解析器只拽去标题的文本和对应的链接，而不希望有多余的内容被提取出来。所以 “ 正则表达式 ” 就闪亮登场了。

Python 中的正则表达式

正则表达式是一个特殊的字符序列，它能帮助我们方便地检查一个字符串是否与某种模式匹配。
Python 中，有一个称为 re 的模块能够提供全部的正则表达式功能，下面实例介绍一下。
例 1：

上面程序中，我们先导入了 re 模块，指定 re 的匹配模式为：\d+，意思是匹配一个或多个数字，这里 “ \d+ ” 被称为元字符，如果我们不添加 “ + ” 的话，那就只会匹配 1 个数字。
“ \d+ ” 前面的 “ r ” 意思是不要对 “ \ ” 进行转义——我们知道，在 Python 中，“ \ ” 表示转义符，如我们常用的 “ \n ” 就表示换行。如果不希望 Python 对 “ \ ” 进行转义，有两种方法；一是在转义符前面再增加一个斜杠 “ \ ” ,如 “ \n ” ，那么 Python 就不会对字符进行转义；另一种方法就是再前面添加 “ r ”,如本例中的 “ r ’ \d+ ’ ”。
从结果可以看出，指定的匹配模式是从开头匹配数字，第一句不是数字开头，程序打印了 “ 匹配失败 ”。而第二句是数字开头，所以匹配成功，而后使用 .group() 可以获得匹配的内容，因此将数字打印了出来。
例 2：
这个例子中，数字移动到中间的位置，然后使用.search() 来进行搜索。从结果看出来，数字依然可以被搜索出来。
此外，re 模块还提供了多种语法可以实现不同的功能，如例 3：

这里我们使用了 .split() 方法将数字之间的文本拆分出来，结果显示把整句话的文字都拆分出来了。
此外，还可以用 .findall() 语法把数字全部提取出来，如下例 4：

可以看到，把整句话的数字提取出来了。使用正则表达式不仅仅可以匹配数字，还可以使用其他的元字符来匹配各种各样的内容。下表是正则化中比较常用的元字符列表：

实例	描述
-	匹配除 “ \n ” 之外的任何单个字符，要匹配包括 “ \n ” 在内的任何字符，请使用象 ’ [.\n] ’ 的模式。
\d	匹配一个数字字符，等价于 [0-9]
\D	匹配一个非数字字符，等价于[^0-9]
\s	匹配任何空白字符，包括空格、字符表、换页符等等，等价于 [\f\n\r\t\v]
\S	匹配任何非空白字符。等价于 [^\f\n\r\t\v]
\w	匹配包括下划线的任何单词字符。等价于 ‘[A-Za-z0-9]’
\W	匹配任何非单词字符。等价于 ‘[^A-Za-z0-9]’

使用 BeautifulSoup 进行 HTML 解析

在 Python 中，有两个常用的用于 HTML 解析的库，分别是 “ lxml ” 和 “ BeautifulSoup ”，它们都可以从 HTML 文件或者 XML 文件中提取给类型的数据。二者的功能没有太大的区别，下面用 BeautifulSoup 进行介绍。首先安装相应的软件包：

	# 安装 BeautifulSoup4 包
	pip intsall beautifulsoup4
	# 安装 lxml 包
	pip install lxml

接下来用 requests 库爬取的页面进行来介绍 BeautifulSoup 的使用方法。

可以看到，先导入了 BeautifulSoup，然后创建一个名为 soup 的对象，这里指定了 BeautifulSoup 使用 lxml 作为 HTML 解析器（也可以不使用 lxml，也可以用 Python 标准库中的 HTML 解析器。不过实际应用中，lxml 解析的速度会比 Python 标准库快一些）。

结果中可以看出，文件包含了若干个标签（Tag），每个标签都注明了其作用。例如，标签注明出这部分是 HTML 文件的头部，而标签表明这部分是文件的标题，每个标签以反斜杠 “ / ” 结束，如表示标题部分结束。
下面例子中，使用 BeautifulSoup 将 title 进行提取：

可以看到 BeautifulSoup 将页面标题进行了提取，但是提取的内容还带着标签和 ,如果只要结果中只有中间的文字，而不是显示标签的内容，可以使用以下两种方法来提取。
一、使用 .string 来提取文字部分：

二、使用 .get_text() 来提取文字部分：

可以发现结果是完全一样的，所以使用的时候两种方式可以互换。
从上面可以看出，使用 BeautifulSoup 进行 HTML 文件的数据提取是非常容易的，下面尝试着提取正文的部分，首先得查看一下对象 soup，看一下正文保存在那个标签中。

代码读取显示有问题，可以试试查找其它的标签
程序中使用了 soup.div.string 来提取

标签的正文内容，可以发现这个标签正文中没有字符串形式的内容。而且默认情况下只对第一个

标签的内容进行提取，下面使用 BeautifulSoup 中的 find_all 来找到所有

标签的内容并进行提取。

可以看到依旧没有内容。原因是这里所爬取的网页中，没有选择合适的标签，大家可以试试其它网页，然后查找有文字的标签进行提取。
对文字的提取的基本技能如上，如果要对其中的链接提取，可以回到 soup 对象中然后找到包含链接的部分进行试验，这里以

标签的正文内容为示范来提取链接（结果是没有链接的，因为前面已经看到正文没有内容）：

上面使用了 BeautifulSoup 中的 find_all() 来寻找所有的

标签，然后用 [-1] 来把最后一个标签赋值给变量 link，接下来使用了 .get(’ herf ') 语句将标签中的链接进行提取。

对目标页面进行爬取并保存到本地

在上向 https://www.toutiao.com/ch/news_tech/ 发出请求时，我们可以发现在 soup 中爬取的链接中有 media 这个单词，这个给了我们带来了很大的便利，只要使用正则表达式匹配 media 就可以获得相应的标题和链接。

下面继续查看一下 csv 文件的内容，如下：

可以看出，相应的标题和链接已经存取下来。在实际中可以根据自己感兴趣的关键词进行搜索。

对文本数据进行话题提取

前面介绍了如何使用 Python 的 Requests 库和 BeautifulSoup 库实现一个简单的爬虫程序，把网页上的内容爬取下来并保存为本地文件。而如果程序爬取的文本特别多的时候，即使保存在本地，也要花费长时间去读取。如果希望快速了解一大段文字的核心内容，可以使用 “ 潜在狄利克雷分布 ” （Latent Dirichlet Allocation）来对文本进行话题提取。

寻找目标网站并分析结构

下面在 “ 百思不得姐 ” 网页中练习潜在狄利克雷分布进行话题提取。可以看到地址栏显示为 http://www.budejie.com/text/ ，说明文字的段子页面是以 text 为后缀的，继续分析这个页面会发现每个页面包含 20 个文字段子，单击下一页会发现地址栏的内容变为 http://www.budejie.com/text/2。

可以看到，该网站是在网址最后加上数字来区分页面，这样我们就可以使用 for 循环来爬取所有页面的信息，需要注意的是，这个网站只显示 50 页最新的段子，翻到第 51 页的时候，会提示找不到页面：

这样的话，我们把目标页面锁定在 1 ~ 50，接下来检查一下页面的结构，子网页上单击鼠标右键，选择 “ 检查 ” 选项：

可以看到段子的正文保存在

标签中。知道了网站的结构，也找到了内容所在位置，下面就可以进行对内容的爬取了。

编写爬虫进行内容爬取

直接给出程序：

接着将爬取到的内容存入 txt 文档中。

这样文件夹中就多了一个 jokes.txt 的文件。

- 使用潜在狄利克雷分布进行话题提取

潜在狄利克雷分布（Latent Dirichlet Allocation，LDA）是基于不同的词语共同出现的频率来进行分组的模型，比如在某个文档中，“ 妹子 ” 和 “ 吃货 ” 这两个词经常同时出现，那么 LDA 便会将这个两个词归入同一个话题（Topic）中。对于 LDA 模型来说，文本必须是一些由话题组合成的集合，但需要注意的是，对于机器来说，“ 话题 ” 这个词的含义和日常所理解的是完全不同的概念，机器所理解的 “ 话题 ”，并非语义学上所指的话题，而只是通过对文本进行特征提取后所进行的聚类（clustering）。下面开始使用潜在狄利克雷分布对爬取的段子进行话题分类，在不同的话题中，哪些词共同出现的频率最高。
首先，需要载入之前保存的 txt 文件，并且把文本数据提取出来：

在用结巴分词工具，对段子的文本进行分词处理：

之后会发现，文件夹中多了一个 cutjokes.txt 的文件。
接下来，需要用这个进行过分词处理的文件来进行话题提取的工作，首先需要将文本数据转化为向量，运用 CountVestorizer 或者是 TfidfVectorizer，下面用 TfidfVectorizer，然后使用 LDA 模型进行话题提取：

从结果中可以看出，我们将每个话题中共同出现频率最高的 20 个词语给统计了出来。

网页爬取补充

之前主要是使用别人整理好的数据集来进行机器学习算法模型训练，但是在实际情况中，很难找到非常合适的数据集。针对这个问题题，在这部分使用了 Python 进行数据爬取的方法，以及使用潜在狄利克雷分布对文本数据进行话题提取的方法。这里使用的是简单的爬虫，如果希望进行更加复杂的爬虫，可以使用 Python 的另外一个库，称为 Scrapy，这也是目前最常用的用于开发爬虫的工具之一。
话题提取也是自然语言处理中的一小部分，目前非常流行的研究方向是——使用循环神经网络（RNNs）来进行文本的处理。

小编机器学习学的一般，只是日常做做比记加深一下印象，望读者不吝赐教，谢谢！

你可能感兴趣的:(机器学习,深入浅出python机器学习)

ES-LTR粗排模块 poins jenkins 运维
ES-LTR粗排模块官方资源：https://github.com/HeiBoWang/elasticsearch-learning-to-rankElasticsearch学习排名插件使用机器学习提高搜索相关性排名。它为维基媒体基金会和Snagajob等地方的搜索提供了动力！这个插件有什么功能此插件：允许您在Elasticsearch中存储特征（Elasticsearch查询模板）记录特征得分（
python清华大学出版社答案_Python机器学习及实践 weixin_39805119 python清华大学出版社答案
第1章机器学习的基础知识1.1何谓机器学习1.1.1传感器和海量数据1.1.2机器学习的重要性1.1.3机器学习的表现1.1.4机器学习的主要任务1.1.5选择合适的算法1.1.6机器学习程序的步骤1.2综合分类1.3推荐系统和深度学习1.3.1推荐系统1.3.2深度学习1.4何为Python1.4.1使用Python软件的由来1.4.2为什么使用Python1.4.3Python设计定位1.4.
UNDERSTANDING HTML WITH LARGE LANGUAGE MODELS liferecords LLM 语言模型人工智能自然语言处理
UNDERSTANDINGHTMLWITHLARGELANGUAGEMODELS相关链接：arXiv关键字：大型语言模型、HTML理解、Web自动化、自然语言处理、机器学习摘要大型语言模型（LLMs）在各种自然语言任务上表现出色。然而，它们在HTML理解方面的能力——即解析网页的原始HTML，对于自动化基于Web的任务、爬取和浏览器辅助检索等应用——尚未被充分探索。我们为HTML理解模型（经过微调
OpenCV（一个C++人工智能领域重要开源基础库）简介愚梦者 OpenCV 人工智能人工智能 opencv c++图像处理计算机视觉开源
返回：OpenCV系列文章目录（持续更新中......）上一篇：OpenCV4.9.0配置选项参考下一篇：OpenCV4.9.0开源计算机视觉库安装概述引言：OpenCV（全称OpenSourceComputerVisionLibrary）是一个基于开放源代码发行的跨平台计算机视觉库，可以用来进行图像处理、计算机视觉和机器学习等领域的开发。该库由英特尔公司于1999年开始开发，最初是为了加速处理器
零基础机器学习(5)之线性回归模型的性能评估一只特立独行猪机器学习机器学习线性回归人工智能
文章目录线性回归模型的性能评估1.举例1-单一特征2.举例2-多特征线性回归模型的性能评估评估线性回归模型时，首先要建立评估的测试数据集（测试集不能与训练集相同），然后选择合适的评估方法，实现对线性回归模型的评估。回归任务中最常用的评估方法有均方误差、均方根误差和预测准确率（确定系数）。1.举例1-单一特征分别对两个模型进行评估，输入的测试集如表所示。面积/（m2）售价/（万元）面积/（m2）售价
2022-05-14 败者食尘_40a0
本文结构速览：一、SQL题二、机器学习&概率论三、开放性问题01SQL题面试真题：现有一张用户签到表（user_sign_d）,标记用户每日是否签到，表结构如下sign_date:日期user_id:用户IDif_sign:当日是否签到,1表示签到，0表示未签到问题①：请计算截止到当前每个用户已经连续签到的天数（输出表仅包含当天签到的所有用户，计算其连续签到的天数）输出表结构如下：user_id:
Android 实现照片抠出人像。 No Promises﹉ android
谢谢阅览、关注！！一、各平台的实现方式：1.Android实现方式：使用图像处理库（如OpenCV）：集成OpenCV库，利用其图像处理功能进行边缘检测和图像分割；使用机器学习模型（如TensorFlowLite）：集成TensorFlowLite和预训练的人像分割模型；使用第三方API服务：利用如百度AI、腾讯AI等提供的在线API进行图像处理。步骤：集成必要的库或API、加载和处理图像、应用抠
Python机器学习笔记：CART算法实战战争热诚
完整代码及其数据，请移步小编的GitHub传送门：请点击我如果点击有误：https://github.com/LeBron-Jian/MachineLearningNote前言在python机器学习笔记：深入学习决策树算法原理一文中我们提到了决策树里的ID3算法，C4.5算法，并且大概的了
机器学习是什么三花学编程机器学习
机器学习是什么？机器学习，这一词汇在当今的科技领域中可谓炙手可热，其影响深远，不仅改变了科学研究的方式，也推动了社会的快速发展。那么，机器学习到底是什么呢？机器学习，顾名思义，是机器（通常指计算机）进行学习的过程。这个过程模仿了人类的学习方式，通过经验积累，不断优化自身性能，最终能够在没有人类直接干预的情况下，进行决策或预测。简单来说，机器学习就是让计算机具备从数据中学习并自动改进的能力。机器学习
最新ChatGPT支持下的PyTorch机器学习与深度学习 zkzhzy ChatGPT 机器学习 python 机器学习深度学习 pytorch chatgpt 数据分析人工智能
近年来，随着AlphaGo、无人驾驶汽车、医学影像智慧辅助诊疗、ImageNet竞赛等热点事件的发生，人工智能迎来了新一轮的发展浪潮。尤其是深度学习技术，在许多行业都取得了颠覆性的成果。另外，近年来，Pytorch深度学习框架受到越来越多科研人员的关注和喜爱。郁磊（副教授）主要从事AI人工智能、大语言模型及软件开发、生理系统建模与仿真、生物医学信号处理，具有丰富的科研经验，主编《MATLAB智能算
神奇的微积分科学的N次方人工智能人工智能 ai
微积分在人工智能（AI）领域扮演着至关重要的角色，以下是其主要作用：优化算法：•梯度下降法：微积分中的导数被用来计算损失函数相对于模型参数的梯度，这是许多机器学习和深度学习优化算法的核心。梯度指出了函数值增加最快的方向，通过沿着负梯度方向更新权重，可以最小化损失函数并优化模型。•反向传播：在神经网络训练中，微积分的链式法则用于计算整个网络中每个参数对于最终损失函数的影响（偏导数），这一过程就是反向
机器学习简介 Dayueban
@我的博客：有味写在前面在年前将要进行靶向代谢组学测定的样品送去公司，随之想想，还有一个半月的时间数据才会回来，那么这段时间是不是可以先学习下分类数据如何分析呢（PS:因为数据是属于分类性质的），所以不久前买的一本书——《机器学习与R语言》稍微系统学一遍，该书为美国的BrettLantz所著，翻译工作由我国学者李洪成、许金炜、李舰完成。学习本书的主要目的是了解机器学习的思想，以及所应用的领域，当然
regression机器学习回归预测模型参考学习后自我总结饮啦冰美式机器学习回归学习
简单来说，就是将样本的特征矩阵映射到样本标签空间。回归分析帮助我们理解在改变一个或多个自变量时，因变量的数值会如何变化。线性模型线性回归用于建立因变量和一个或多个自变量之间的线性关系模型。在线性回归中，假设因变量（被预测变量）与自变量（预测变量）之间存在着线性关系，也就是说，因变量的数值可以通过自变量的线性组合来预测。普通最小二乘线性回归。通过最小化实际观测值与模型预测值之间的误差平方和，可以找到
线性回归和逻辑回归对比学习-含代码和数据 M.D 线性回归逻辑回归学习
线性回归和逻辑回归是两种常见的机器学习算法，它们在一些方面相似，但在其他方面则有明显的不同。以下是它们的对比以及您提供的代码示例：线性回归(LinearRegression)线性回归用于预测连续的数值。这种模型假设自变量和因变量之间存在线性关系。fromsklearn.linear_modelimportLinearRegressionimportmatplotlib.pyplotaspltimp
【Conda】详细讲解程序员不想敲代码啊 conda
Conda1.前言2.关键特点3.Conda命令1.前言Conda是一个流行的包管理器和环境管理器，主要用于Python编程语言，但也可以用来安装、运行和更新包和环境中的任何语言，如R、Ruby、Lua、Scala、Java等。Conda主要是为了方便数据科学、机器学习和类似应用的需要而设计的，但它对任何类型的软件都是适用的。下面，我将概述Conda的几个关键特点和常用命令：2.关键特点环境管理：
机器学习常用框架碧落&凡尘机器学习人工智能
机器学习是人工智能的一个重要分支，它通过让计算机系统利用数据自我学习来改进任务执行的能力。在机器学习领域，有许多成熟的框架被广泛使用，这些框架提供了构建和训练机器学习模型的工具。以下是一些常用的机器学习框架：TensorFlow：由Google开发，是一个开源的软件库，用于数据流编程，广泛应用于各类机器学习任务。它支持分布式计算，能够在大规模数据集上训练复杂的模型。PyTorch：由Faceboo
TensorFlow的介绍和简单案例科学的N次方人工智能 tensorflow 人工智能 python
TensorFlow是一个开源的机器学习框架，由Google开发和维护。它旨在使构建和训练机器学习模型变得更加容易，同时提供高度灵活性和可扩展性。TensorFlow基于数据流图的概念。数据流图是一个由节点和边组成的有向图，其中节点表示操作，边表示数据的流动。TensorFlow通过在数据流图中定义操作和变量来表示机器学习模型，并使用图的计算能力进行训练和推理。TensorFlow支持多种机器学习
基于Python和OpenCV的产品码识别与验证案例 GT开发算法工程师 python opencv 开发语言人工智能计算机视觉
引言：本案例展示了如何使用Python结合OpenCV库来实现产品码的识别与验证。首先，通过图像预处理技术（如灰度化、二值化、降噪等）优化产品码图像，然后利用OpenCV中的模板匹配或机器学习算法（如SVM、神经网络等）来定位并识别产品码。目录原理：代码部分：注意：原理：产品码识别与验证的核心在于图像处理与模式识别技术。首先，通过图像处理技术提取出产品码区域，去除背景干扰，增强产品码的可识别性。然
机器学习中的 K-均值聚类算法及其优缺点刘小董学习心得机器学习
K-均值聚类算法是一种常用的无监督学习算法，用于将样本数据划分为K个不同的簇。其基本思想是通过迭代去优化簇的中心位置，使得每个样本点到所属簇的中心点的距离最小。算法步骤如下：初始化K个簇的中心点，可以随机选择K个样本点作为初始中心点。对于每个样本点，计算其与各个簇中心点的距离，并将其划分到距离最近的簇中。更新每个簇的中心点，将其设为该簇中所有样本点的均值。重复步骤2和步骤3，直到达到停止条件（例如
挑战杯机器学习股票大数据量化分析与预测系统 - python 挑战杯 laafeer python
文章目录0前言1课题背景2实现效果UI界面设计web预测界面RSRS选股界面3软件架构4工具介绍Flask框架MySQL数据库LSTM5最后0前言优质竞赛项目系列，今天要分享的是机器学习股票大数据量化分析与预测系统该项目较为新颖，适合作为竞赛课题方向，学长非常推荐！学长这里给一个题目综合评分(每项满分5分)难度系数：3分工作量：3分创新点：3分更多资料,项目分享：https://gitee.com
阿里云分布式深度学习训练架构Whale qwfys200 Reading 阿里云分布式深度学习
阿里云分布式深度学习训练架构Whale阿里云分布式深度学习训练架构Whale参考文献Whale基于Tensorflow深度学习分布式训练框架|学习笔记Whale:EfficientGiantModelTrainingoverHeterogeneousGPUs阿里云机器学习平台PAI论文高效大模型训练框架Whale入选USENIXATC’22
Python入门指南：从基础到应用袁公白 python 开发语言
引言：在这个数据驱动的时代，Python已经成为最受欢迎的编程语言之一。它以其简洁的语法、强大的库支持和广泛的应用领域而闻名。无论你是编程新手还是希望扩展你的技能集，学习Python都是一个明智的选择。在这篇博客中，我们将深入探讨Python的基础知诀，并通过实际代码示例来展示其在数据分析、网络爬虫和机器学习等领域的应用。I.Python基础知识A.数据类型Python提供了多种内置的数据类型，包
探索机器学习：智能时代的魔法 ChenDuBr 机器学习人工智能机器学习
在智能科技的浪潮中，机器学习如同一股神秘的力量，悄然改变着我们的世界。它不仅仅是编程代码的延伸，更是一种让机器通过“学习”来解决问题的魔法。本文将带你深入了解机器学习的奥秘，探索它的世界，并展望未来的无限可能。机器学习的奇幻定义想象一下，如果你的电脑或手机能够像孩子一样学习新事物，而且速度更快、记忆力更好，那就是机器学习的魅力所在。机器学习让机器通过海量数据的“熏陶”，自我进化，无需人类一步步指导
【机器学习】支持向量机 | 支持向量机理论全梳理对偶问题转换，核方法，软间隔与过拟合 Qodicat 支持向量机机器学习算法
支持向量机走的路和之前介绍的模型不同之前介绍的模型更趋向于进行函数的拟合，而支持向量机属于直接分割得到我们最后要求的内容1支持向量机SVM基本原理当我们要用一条线（或平面、超平面）将不同类别的点分开时，我们希望这条线尽可能地远离最靠近它的点。这些最靠近线的点被称为支持向量。而这条线到最靠近它的点的距离被称为间隔。支持向量机就是要找到一个最大间隔的线（或平面、超平面），这样可以更好地区分不同类别的点
ChatGPT GPT4科研应用、数据分析与机器学习、论文高效写作、AI绘图技术夏日恋雨人工智能 chatgpt 数据分析 AI大数据机器学习 python 数据挖掘
原文链接：ChatGPTGPT4科研应用、数据分析与机器学习、论文高效写作、AI绘图技术https://mp.weixin.qq.com/s?__biz=MzUzNTczMDMxMg==&mid=2247596849&idx=3&sn=111d68286f9752008bca95a5ec575bb3&chksm=fa823ad6cdf5b3c0c446eceb5cf29cccc3161d746bd
深度学习如何入门？ nanshaws yolov5 深度学习
深度学习是机器学习的一个子领域，它基于人工神经网络的研究。入门深度学习可以分为以下几个步骤：基础知识准备：（1）掌握基础数学知识，特别是线性代数、概率论和统计学、微积分。（2）学习编程语言，Python是目前最流行的深度学习语言，因其简洁易学且有大量的库支持。（3）了解机器学习基础，包括监督学习和非监督学习的概念、模型评估与选择等。学习深度学习理论：（1）理解神经网络的基本组成，如神经元、激活函数
机器学习、深度学习、神经网络之间的关系你好，工程师 AI 机器学习
机器学习（MachineLearning）、深度学习（DeepLearning）和神经网络（NeuralNetworks）之间存在密切的关系，它们可以被看作是一种逐层递进的关系。下面简要介绍它们之间的关系：机器学习（MachineLearning）：机器学习是一种人工智能的分支，关注如何通过数据让计算机系统从经验中学习，提高性能。机器学习算法可以分为监督学习、无监督学习、半监督学习和强化学习等不同
随机森林原理&sklearn实现一稻道人机器学习算法&预测模型 Python 随机森林 sklearn 算法
原理定义随机森林就是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树，而它的本质属于机器学习的一大分支——集成学习（EnsembleLearning）方法。随机森林的名称中有两个关键词，一个是“随机”，一个就是“森林”。随机森林应该是机器学习算法时最先接触到的集成算法，集成学习的家族：Bagging：个体评估器之间不存在强依赖关系，一系列个体学习器可以并行生成。代表算法：随机森林（R
你说什么是机器学习呢 guguguyuan 人工智能
机器学习这个词是让人疑惑的，首先它是英文名称MachineLearning(简称ML)的直译，在计算界Machine一般指计算机。这个名字使用了拟人的手法，说明了这门技术是让机器“学习”的技术。但是计算机是死的，怎么可能像人类一样“学习”呢？传统上如果我们想让计算机工作，我们给它一串指令，然后它遵照这个指令一步步执行下去。有因有果，非常明确。但这样的方式在机器学习中行不通。机器学习根本不接受你输入
【个人学习笔记】概率论与数理统计知识梳理【五】已经是全速前进了概率论
文章目录第五章、大数定律及中心极限定理一、大数定律1.1基本概念1.2弱大数定理二、中心极限定理独立同分布的中心极限定理定理总结第五章、大数定律及中心极限定理写博客比想象中费劲得多，公式得敲好久，所以只得随缘更更了，想写一些机器学习相关的东西，但是强迫症又不允许我把这个扔掉不管，我太难了Orz这一节的内容比较深，即使我是一个喜欢数学的工科生，也没有精力再去深究了，各式各样的大数定律及中心极限定理我
集合框架天子之骄 java 数据结构集合框架
集合框架集合框架可以理解为一个容器，该容器主要指映射(map)、集合(set)、数组(array)和列表(list)等抽象数据结构。从本质上来说，Java集合框架的主要组成是用来操作对象的接口。不同接口描述不同的数据类型。简单介绍： Collection接口是最基本的接口，它定义了List和Set，List又定义了LinkLi
Table Driven（表驱动）方法实例 bijian1013 java enum Table Driven 表驱动
实例一： /** * 驾驶人年龄段 * 保险行业，会对驾驶人的年龄做年龄段的区分判断 * 驾驶人年龄段：01-[18,25);02-[25,30);03-[30-35);04-[35,40);05-[40,45);06-[45,50);07-[50-55);08-[55,+∞) */ public class AgePeriodTest { //if...el
Jquery 总结 cuishikuan java jquery Ajax Web jquery方法
1.$.trim方法用于移除字符串头部和尾部多余的空格。如：$.trim(' Hello ') // Hello2.$.contains方法返回一个布尔值，表示某个DOM元素（第二个参数）是否为另一个DOM元素（第一个参数）的下级元素。如：$.contains(document.documentElement, document.body); 3.$
面向对象概念的提出麦田的设计者 java 面向对象面向过程
面向对象中，一切都是由对象展开的，组织代码，封装数据。在台湾面向对象被翻译为了面向物件编程，这充分说明了，这种编程强调实体。下面就结合编程语言的发展史，聊一聊面向过程和面向对象。 c语言由贝尔实
linux网口绑定被触发 linux
刚在一台IBM Xserver服务器上装了RedHat Linux Enterprise AS 4，为了提高网络的可靠性配置双网卡绑定。一、环境描述我的RedHat Linux Enterprise AS 4安装双口的Intel千兆网卡，通过ifconfig -a命令看到eth0和eth1两张网卡。二、双网卡绑定步骤： 2.1 修改/etc/sysconfig/network
XML基础语法肆无忌惮_ xml
一、什么是XML？ XML全称是Extensible Markup Language，可扩展标记语言。很类似HTML。XML的目的是传输数据而非显示数据。XML的标签没有被预定义，你需要自行定义标签。XML被设计为具有自我描述性。是W3C的推荐标准。二、为什么学习XML？用来解决程序间数据传输的格式问题做配置文件充当小型数据库三、XML与HTM
为网页添加自己喜欢的字体知了ing 字体秒表 css
@font-face { font-family: miaobiao;//定义字体名字 font-style: normal; font-weight: 400; src: url('font/DS-DIGI-e.eot');//字体文件 } 使用： <label style="font-size:18px;font-famil
redis范围查询应用-查找IP所在城市矮蛋蛋 redis
原文地址： http://www.tuicool.com/articles/BrURbqV 需求根据IP找到对应的城市原来的解决方案 oracle表（ip_country）：查询IP对应的城市： 1.把a.b.c.d这样格式的IP转为一个数字，例如为把210.21.224.34转为3524648994 2. select city from ip_
输入两个整数，计算百分比 alleni123 java
public static String getPercent(int x, int total){ double result=(x*1.0)/(total*1.0); System.out.println(result); DecimalFormat df1=new DecimalFormat("0.0000%");
百合——————>怎么学习计算机语言百合不是茶 java 移动开发
对于一个从没有接触过计算机语言的人来说，一上来就学面向对象，就算是心里上面接受的了，灵魂我觉得也应该是跟不上的，学不好是很正常的现象，计算机语言老师讲的再多，你在课堂上面跟着老师听的再多，我觉得你应该还是学不会的，最主要的原因是你根本没有想过该怎么来学习计算机编程语言，记得大一的时候金山网络公司在湖大招聘我们学校一个才来大学几天的被金山网络录取，一个刚到大学的就能够去和
linux下tomcat开机自启动 bijian1013 tomcat
方法一：修改Tomcat/bin/startup.sh 为: export JAVA_HOME=/home/java1.6.0_27 export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib/tools.jar:$JAVA_HOME/lib/dt.jar:. export PATH=$JAVA_HOME/bin:$PATH export CATALINA_H
spring aop实例 bijian1013 java spring AOP
1.AdviceMethods.java package com.bijian.study.spring.aop.schema; public class AdviceMethods { public void preGreeting() { System.out.println("--how are you!--"); } } 2.beans.x
[Gson八]GsonBuilder序列化和反序列化选项enableComplexMapKeySerialization bit1129 serialization
enableComplexMapKeySerialization配置项的含义 Gson在序列化Map时，默认情况下，是调用Key的toString方法得到它的JSON字符串的Key，对于简单类型和字符串类型，这没有问题，但是对于复杂数据对象，如果对象没有覆写toString方法，那么默认的toString方法将得到这个对象的Hash地址。 GsonBuilder用于
【Spark九十一】Spark Streaming整合Kafka一些值得关注的问题 bit1129 Stream
包括Spark Streaming在内的实时计算数据可靠性指的是三种级别： 1. At most once，数据最多只能接受一次，有可能接收不到 2. At least once, 数据至少接受一次，有可能重复接收 3. Exactly once 数据保证被处理并且只被处理一次，具体的多读几遍http://spark.apache.org/docs/lates
shell脚本批量检测端口是否被占用脚本 ronin47
#!/bin/bash cat ports |while read line do#nc -z -w 10 $line nc -z -w 2 $line 58422>/dev/null2>&1if[ $?-eq 0]then echo $line:ok else echo $line:fail fi done 这里的ports 既可以是文件
java-2.设计包含min函数的栈 bylijinnan java
具体思路参见：http://zhedahht.blog.163.com/blog/static/25411174200712895228171/ import java.util.ArrayList; import java.util.List; public class MinStack { //maybe we can use origin array rathe
Netty源码学习-ChannelHandler bylijinnan java netty
一般来说，“有状态”的ChannelHandler不应该是“共享”的，“无状态”的ChannelHandler则可“共享” 例如ObjectEncoder是“共享”的, 但 ObjectDecoder 不是因为每一次调用decode方法时，可能数据未接收完全（incomplete），它与上一次decode时接收到的数据“累计”起来才有可能是完整的数据，是“有状态”的 p
java生成随机数 cngolon java
方法一： /** * 生成随机数 * @author [email protected] * @return */ public synchronized static String getChargeSequenceNum(String pre){ StringBuffer sequenceNum = new StringBuffer(); Date dateTime = new D
POI读写海量数据 ctrain 海量数据
import java.io.FileOutputStream; import java.io.OutputStream; import org.apache.poi.xssf.streaming.SXSSFRow; import org.apache.poi.xssf.streaming.SXSSFSheet; import org.apache.poi.xssf.streaming
mysql 日期格式化date_format详细使用 daizj mysql date_format 日期格式转换日期格式化
日期转换函数的详细使用说明 DATE_FORMAT(date,format) Formats the date value according to the format string. The following specifiers may be used in the format string. The&n
一个程序员分享8年的开发经验 dcj3sjt126com 程序员
在中国有很多人都认为IT行为是吃青春饭的，如果过了30岁就很难有机会再发展下去!其实现实并不是这样子的，在下从事.NET及JAVA方面的开发的也有8年的时间了，在这里在下想凭借自己的亲身经历，与大家一起探讨一下。明确入行的目的很多人干IT这一行都冲着“收入高”这一点的，因为只要学会一点HTML, DIV+CSS，要做一个页面开发人员并不是一件难事，而且做一个页面开发人员更容
android欢迎界面淡入淡出效果 dcj3sjt126com android
很多Android应用一开始都会有一个欢迎界面，淡入淡出效果也是用得非常多的，下面来实现一下。主要代码如下： package com.myaibang.activity; import android.app.Activity;import android.content.Intent;import android.os.Bundle;import android.os.CountDown
linux 复习笔记之常见压缩命令 eksliang tar解压 linux系统常见压缩命令 linux压缩命令 tar压缩
转载请出自出处:http://eksliang.iteye.com/blog/2109693 linux中常见压缩文件的拓展名 *.gz gzip程序压缩的文件 *.bz2 bzip程序压缩的文件 *.tar tar程序打包的数据，没有经过压缩 *.tar.gz tar程序打包后，并经过gzip程序压缩 *.tar.bz2 tar程序打包后，并经过bzip程序压缩 *.zi
Android 应用程序发送shell命令 gqdy365 android
项目中需要直接在APP中通过发送shell指令来控制lcd灯，其实按理说应该是方案公司在调好lcd灯驱动之后直接通过service送接口上来给APP，APP调用就可以控制了，这是正规流程，但我们项目的方案商用的mtk方案，方案公司又没人会改，只调好了驱动，让应用程序自己实现灯的控制，这不蛋疼嘛！！！！发就发吧！一、关于shell指令：我们知道，shell指令是Linux里面带的
java 无损读取文本文件 hw1287789687 读取文件无损读取读取文本文件 charset
java 如何无损读取文本文件呢？以下是有损的 @Deprecated public static String getFullContent(File file, String charset) { BufferedReader reader = null; if (!file.exists()) { System.out.println("getFull
Firebase 相关文章索引 justjavac firebase
Awesome Firebase 最近谷歌收购Firebase的新闻又将Firebase拉入了人们的视野，于是我做了这个 github 项目。 Firebase 是一个数据同步的云服务，不同于 Dropbox 的「文件」，Firebase 同步的是「数据」，服务对象是网站开发者，帮助他们开发具有「实时」（Real-Time）特性的应用。开发者只需引用一个 API 库文件就可以使用标准 RE
C++学习重点 lx.asymmetric C++笔记
1.c++面向对象的三个特性：封装性，继承性以及多态性。 2.标识符的命名规则：由字母和下划线开头，同时由字母、数字或下划线组成；不能与系统关键字重名。 3.c++语言常量包括整型常量、浮点型常量、布尔常量、字符型常量和字符串性常量。 4.运算符按其功能开以分为六类：算术运算符、位运算符、关系运算符、逻辑运算符、赋值运算符和条件运算符。 &n
java bean和xml相互转换 q821424508 java bean xml xml和bean转换 java bean和xml转换
这几天在做微信公众号做的过程中想找个java bean转xml的工具，找了几个用着不知道是配置不好还是怎么回事，都会有一些问题，然后脑子一热谢了一个javabean和xml的转换的工具里，自己用着还行，虽然有一些约束吧，还是贴出来记录一下顺便你提一下下，这个转换工具支持属性为集合、数组和非基本属性的对象。 packag
C 语言初级位运算 1140566087 位运算 c
第十章位运算 1、位运算对象只能是整形或字符型数据，在VC6.0中int型数据占4个字节 2、位运算符：运算符作用 ~ 按位求反 << 左移 >> 右移 & 按位与 ^ 按位异或 | 按位或他们的优先级从高到低； 3、位运算符的运算功能： a、按位取反： ~01001101 = 101
14点睛Spring4.1-脚本编程 wiselyman spring4
14.1 Scripting脚本编程脚本语言和java这类静态的语言的主要区别是:脚本语言无需编译,源码直接可运行; 如果我们经常需要修改的某些代码,每一次我们至少要进行编译,打包,重新部署的操作,步骤相当麻烦; 如果我们的应用不允许重启,这在现实的情况中也是很常见的; 在spring中使用脚本编程给上述的应用场景提供了解决方案,即动态加载bean; spring支持脚本

按字母分类： A B C D E F G H I J K L M N O P Q R S T U V W X Y Z 其他