GBDT也是各种数据挖掘竞赛的致命武器，据统计Kaggle上的比赛有一半以上的冠军方案都是基于GBDT。LightG

今年我参加了IJCAI-17数据挖掘竞赛和KDDCUP2017，分别获得了第三名和第九名。两个比赛都是时间序列数据。

本篇文章针对刚刚接触Kaggle的同学，介绍参加Kaggle数据分析竞赛的完整流程，最快速度完成一个比赛。前言Kaggle是一个数据分析的竞赛平台。企业可以将数据、问题描述和期望指标发布到Kaggle平台，以竞赛的形式向广大的数据科学家征集解决方案。参赛者将数据下载下来，分析数据、建立模型、解决问题，最后提交解决问题的结果。进入Kaggle网站：Kaggle网站首页Kaggle中的比赛主要分为三类

同时欢迎加入社交媒体数据交流群：99918768背景参加泰迪杯数据挖掘竞赛，这次真的学习到了不少东西，最后差不多可以完成要求的内容，准确率也还行。

在之前的文章中介绍了RandomForest和AdaBoost，这篇文章将介绍介绍在数据挖掘竞赛中，最常用的算法之一——GBDT（GradientBoostingDecisionTree）。

KDDCUP作为全球顶级数据挖掘竞赛，幸得师弟鼓励拉上本拖油瓶一起参赛~~5.31日比赛就结束了，这次的kddcup作为我们的练习赛吧，本来早就要做这个可视化分析的，但是工作太忙，一直抽不出时间，抱歉了

国际知识发现和数据挖掘竞赛[1]（KDD-CUP）竞赛是由ACM的数据挖掘及知识发现专委会（SIGKDD）主办的数据挖掘研究领域的国际顶级赛事。

本届大会同期召开了“中国人工智能弱势分析座谈会”、“中国人工智能发展白皮书研讨会”和“人工智能数据挖掘竞赛”等系列活动。

GBDT也是各种数据挖掘竞赛的致命武器，据统计Kaggle上的比赛有一半以上的冠军方案都是基于GBDT。LightGBM（LightGra

适合人群：有机器学习基础，但是还在数据挖掘竞赛门外面的同学以下是课程录屏和课件链接：（如果是公开课的话，应该没有什么版权问题，我就分享一下下）链接:https://pan.baidu.com/s/1nCvRPQ

特征工程建立篇（一）------特征选择在许多大数据挖掘竞赛中（国内的阿里天池和国外的kaggle平台），最复杂的过程莫过于特征工程建立阶段，大概占据了整个竞赛过程的70%的时间和精力，最终建立的模型的好坏大多也取决于特征工程建立的好坏

Kesci.com首页-DataCastle大数据竞赛平台AIChallenger-全球AI挑战赛DF,CCF指定专业大数据竞赛平台JDATA竞赛详情页天池大赛列表页腾讯广告算法大赛BdRace数睿思_数据挖掘竞赛平台改编世界

Kaggle是一个用来学习、分享和竞赛的线上数据实验平台，有点类似KDD—CUP（国际知识发现和数据挖掘竞赛），企业或者研究者可以将背景、数据、期望指标等发布在kaggle上，用竞赛的方式向全世界的数据科学家和爱好者寻求解决方

1集成学习概述1.1概述在一些数据挖掘竞赛中，后期我们需要对多个模型进行融合以提高效果时，常常会用Bagging，Boosting，Stacking等这几个框架算法，他们不是一种算法，而是一种集成模型的框架

一.Stacking思想简介1.Stacking的思想是一种有层次的融合模型，比如我们将用不同特征训练出来的三个GBDT模型进行融合时，我们会将三个GBDT作为基层模型，在其上在训练一个次学习器（通常为线性模型LR）,用于组织利用基学习器的答案，也就是将基层模型的答案作为输入，让次学习器学习组织给基层模型的答案分配权重。2.下图是个简单的例子，A、B是学习器，C、D、E是进行答案再组织的次学习器，

基本步骤：*数据分析和可视化（10%时间）*异常值和波动值处理，数据采样（也需要尝试方法的效果）*feature工程是不断尝试的过程，最后自己能不能到榜单主要靠的是特征，尝试各种特征，有些特征是起反效果的，要出去掉，之外就是加特征，各种加和各种尝试，在预处理数据之后，对数据特征的不断不断尝试（尝试特征效果）（%40时间，最后能不能占据排行榜，往往都是看加了多少有用的feature【不断思考加入新f

1.摘要Kaggle是一个数据分析建模的应用竞赛平台，有点类似KDD-CUP（国际知识发现和数据挖掘竞赛），企业或者研究者可以将问题背景、数据、期望指标等发布到Kaggle上，以竞赛的形式向广大的数据科学家征集解决方案

作者：xiaoyu微信公众号：Python数据科学知乎：python数据分析师Kaggle作为公认的数据挖掘竞赛平台，有很多公开的优秀项目，而其中作为初学者入门的一个好的项目就是：泰坦尼克号生还者预测。

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

开源代码：https://github.com/YouChouNoBB/ijcai-18-top2-single-mole-solution一、 团队介绍队长：BRYAN数据挖掘从业者，国内数据挖掘竞赛名将

同时欢迎加入社交媒体数据交流群：99918768背景参加泰迪杯数据挖掘竞赛，这次真的学习到了不少东西，最后差不多可以完成要求的内容，准确率也还行。

背景参加泰迪杯数据挖掘竞赛，这次真的学习到了不少东西，最后差不多可以完成要求的内容，准确率也还行。

下面分tfidf的理论部分sql操作来介绍本文：tfidf给我直观的感觉就是我们数据挖掘竞赛中说的规则。简单有效tfidf理论tfidf分两部分，分别为tf

本文授权转自光明社教育家（微信ID：jyjzzwx）作者|翟小宁武迪朱星宇是人大附中2011级早培班的一名学生，现在在高三出国班上课。他在学校的身份不只是学生，同时也是计算机视觉与深度学习研学和人工智能与数据挖掘校本选修课的助教，负责两门课的几乎全部编程技术以及部分理论知识的教学。但不了解他的人都不会知道，现在距离他开始系统性学习Python编程才刚刚一年左右。在2016年九月，因为参加数学建模比

stakcing常常在各大数据挖掘竞赛中被广泛使用，号称“大杀器”。

Kaggle是一个数据分析建模的应用竞赛平台，有点类似KDD-CUP（国际知识发现和数据挖掘竞赛），企业或者研究者可以将问题背景、数据、期望指标等发布到Kaggle上，以竞赛的形式向广大的数据科学家征集解决方案

先说一下个人经历吧，学校比较水，实验室没有项目，实习经历：BAT某家实习+TMD某家实习比赛经历：几个数据挖掘竞赛Top5的名次。个人感觉，算法岗确实看学校，但如果简历还

datacastle上的一道推荐算法竞赛（这里是地址和数据），由于最近想整理和汇总最常用的推荐算法。因此干脆就把这个竞赛拿出来实战一下。1.赛题&数据解析本次比赛是一个名副其实的推荐算法大赛，在本次比赛中，我们提供了一个商品网站中大约16万名用户在四年内对商品的评分数据，每条评分记录都有时间戳（隐匿了具体时间，只保证顺序不变）。评分分为5级，1分最低，5分最高。这是训练集，其中四列分别代表用户编号

今年我参加了IJCAI-17数据挖掘竞赛和KDDCUP2017，分别获得了第三名和第九名。两个比赛都是时间序列数据。

在一些数据挖掘竞赛中，后期我们需要对多个模型进行融合以提高效果时，常常会用到Bagging，Boosting，Stacking等这几个框架算法。下面就来分别详细讲述这三个框架算法。

转自：http://www.cnblogs.com/weibao/p/6252280.html上周参加了学校的数据挖掘竞赛，总的来说，在还需要人工干预的机器学习相关的任务中，主要解决两个问题：（1）如何将原始的数据处理成合格的数据输入

数据竞赛类网站Kaggle阿里巴巴天池大数据比赛DataCastleCCF大数据与计算智能大赛Di-Tech算法大赛KDD-CupKDnuggetsCompetition全国高校云计算应用创新大赛ByteCup国际机器学习竞赛WID数据竞赛数据火车竞赛网站DrivenDataCompetition上海SODA大赛赛氪网TopCoder大赛网数据科学&机器学习的在线学习资源慕课网数据科学家快报数据分

LightGBM是微软旗下DMTK推出的GradientBoosting框架，因为其快速高效，以后或许会成为数据挖掘竞赛中的又一个大杀器。

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名：Allen），机器学习算法攻城狮，喜爱钻研MeachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注Kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台

风雪夜归子（英文名:Allen），机器学习算法攻城狮，喜爱钻研MachineLearning的黑科技，对DeepLearning和ArtificialIntelligence充满兴趣，经常关注kaggle数据挖掘竞赛平台