机器学习和数据科学中常用的公开数据集(含计算机视觉最全数据集汇总)

数据集查找器

Google Dataset Search:与Google Scholar的工作方式类似,Dataset Search 可以让你在任何托管的地方找到数据集,无论是出版商的网站,还是数字图书馆,又或者是一个作者的网页。它是一个非凡的数据集查找器,包含了超过2500万个数据集。

  • https://toolbox.google.com/datasetsearch

Kaggle:Kaggle提供了一个庞大的数据集容器,对于热衷于Kaggle的专家来说,数据集是足够了的。

  • https://www.kaggle.com/

UCI机器学习库:UCI的机器学习库为开源数据集提供了最新的资源。

  • http://mlr.cs.umass.edu/ml/

VisualData:按类别搜索计算机视觉数据集;它允许搜索查询。

  • https://www.visualdata.io/

CMU库:通过CMU收集的Wang Huajin Wang可以用来发现高质量的数据集。

  • https://guides.library.cmu.edu/machine-learning/datasets

一般数据集

住房数据集

波士顿住房数据集:包含了美国人口普查局收集的有关波士顿地区住房的信息。它是从StatLib档案中获取的,在许多文献中被广泛用于对算法进行基准测试。

  • https://www.cs.toronto.edu/~delve/data/boston/bostonDetail.html

地理数据集

Google-Landmarks-v2:用于地标识别和检索的数据集。该个数据集包含了来自世界各地的5百万张,包含20万多个地标的图片,这些图片由Wiki Commons社区提供和注释。

  • https://www.kaggle.com/xiuchengwang/python-dataset-download

机器学习数据集:

购物中心客户数据集: 购物中心客户数据集包含了特定城市中访问购物中心的客户信息。数据集由不同的列组成,包括性别、客户id、年龄、年收入和支出分数。它通常用于根据年龄、收入和兴趣对客户进行细分。

  • https://www.kaggle.com/shwetabh123/mall-customers

IRIS数据集:IRIS数据集是一个简单的和适合初学者的数据集,包含了有关花瓣和萼片宽度的信息。数据分为三个类,每个类有50行,它通常用于分类和回归建模。

  • https://archive.ics.uci.edu/ml/datasets/Iris

MNIST数据集:这是一个手写数字的数据集,它包含60000个训练图像和10000个测试图像,是一个适合新手用于实现图像分类的数据集,你可以从0到9对数字进行分类。

  • http://yann.lecun.com/exdb/mnist/

波士顿住房数据集:包含了美国人口普查局收集的有关波士顿地区住房的信息。它是从StatLib档案中获取的,在许多文献中被广泛用于对算法进行基准测试。

  • https://www.cs.toronto.edu/~delve/data/boston/bostonDetail.html

假新闻检测数据集:它是一个CSV文件,有7796行和4列。4列分别是:新闻、标题、新闻文本、结果。

  • https://www.kaggle.com/c/fake-news/data

葡萄酒质量数据集:该数据集包含有关葡萄酒的不同化学信息。数据集适用于分类和回归任务。

  • https://archive.ics.uci.edu/ml/datasets/wine+quality

SOCR 数据 - 身高和重量数据集:这是初学者的基本数据集。它包含25000个18岁的不同人类的身高和体重。该数据集可以用来建立一个模型去预测一个人的身高或体重。

  • http://wiki.stat.ucla.edu/socr/index.php/SOCR_Data_Dinov_020108_HeightsWeights

Titanic数据集:该数据集包含诸如姓名、年龄、性别、船上兄弟姐妹人数等信息,训练集有891名乘客信息,测试集有418名乘客信息。

  • https://web.stanford.edu/class/archive/cs/cs109/cs109.1166/problem12.html

信用卡欺诈检测数据集:该数据集包含由信用卡进行的交易信息,且交易信息被标记为欺诈性或真实性,这对于拥有交易系统的公司来说,建立一个检测欺诈活动的模型是非常有用。

  • https://www.kaggle.com/mlg-ulb/creditcardfraud

计算机视觉数据集

xView:xView是最庞大的空中影像公开数据集之一,它包含来自世界各地复杂场景的图像,并使用边界框进行注释。

  • http://xviewdataset.org/#dataset

ImageNet:最大的计算机视觉图像数据集。根据WordNet的说法,它提供了一个可访问的图像数据库,而且它是按层次进行组织的。

  • http://image-net.org/

Kinetics-700:Youtube视频url的大规模数据集,包含以人为中心的行动信息。它包含超过70万个视频。

  • https://deepmind.com/research/open-source/open-source-datasets/kinetics/

谷歌的开放图像:来自谷歌人工智能的一个巨大的数据集,包含超过1000万张图片。

  • https://research.googleblog.com/2016/09/introducing-open-images-dataset.html

城市景观数据集:这是一个用于计算机视觉项目的开源数据集,它包含在50个不同城市街道拍摄的视频序列的高质量像素级注释。该数据集可用于语义分割和训练深层神经网络来了解城市场景。

  • https://www.cityscapes-dataset.com/

imdbwiki数据集:imdbwiki数据集是带有性别和年龄标签的人脸图像数据,是最广泛的开源数据集之一。图片数据来自IMDB和Wikipedia,有五百万多个标签图像。

  • https://data.vision.ee.ethz.ch/cvl/rrothe/imdb-wiki/

颜色检测数据集:该数据集包含一个CSV文件,其中有865个颜色名称及其相应的RGB(红色、绿色和蓝色)值。

  • https://github.com/codebrainz/color-names/blob/master/output/colors.csv

斯坦福狗数据集:它包含20580张图片,120个不同品种的狗。

  • http://vision.stanford.edu/aditya86/ImageNetDogs/

情绪分析数据集

词典编纂者情绪词典:这个数据集是专门用于情绪分析的。数据集包含3000多个负面词汇和2000多个积极情绪词。

  • http://www.lexicoder.com/

IMDB评论:一个有趣的数据集,包含来自Kaggle的50000多个电影评论。

  • https://www.kaggle.com/lakshmi25npathi/imdb-dataset-of-50k-movie-reviews

斯坦福情绪树库:带情绪注释的标准情绪数据集。

  • http://nlp.stanford.edu/sentiment/code.html

Twitter美国航空公司情绪:2015年2月美国航空公司的Twitter数据,数据分为正面、负面和中性推文

  • https://www.kaggle.com/crowdflower/twitter-airline-sentiment

自然语言处理(NLP)数据集

HotspotQA数据集:问答数据集,包含了大量的自然且多转折陈述的问题,而且对事实进行严格监督,以实现更易于解释的问答系统。

  • https://hotpotqa.github.io/

亚马逊评论:来自亚马逊的庞大数据集,包含超过4500万条亚马逊评论。

  • https://snap.stanford.edu/data/web-Amazon.html

烂番茄评论:超过48万的评论档案(新鲜或腐烂)。

  • https://drive.google.com/file/d/1w1TsJB-gmIkZ28d1j7sf1sqcPmHXw352/view

英语短信垃圾收集:一个由5574条英语短信垃圾信息组成的数据集。

  • http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/

安然电子邮件数据集:它包含超过150个用户的大约50万封电子邮件。

  • https://www.cs.cmu.edu/~enron/

推荐系统数据集:它包含来自流行网站的各种数据集,如Goodreads书评、亚马逊产品评论、调酒数据、社交媒体数据以及其他用于构建推荐系统的数据集。

  • https://cseweb.ucsd.edu/~jmcauley/datasets.html

UCI Spambase数据集:将电子邮件分类为垃圾邮件或非垃圾邮件是一项普遍而有用的任务。该数据集包含4601封电子邮件和57封有关电子邮件的元信息,你通过该数据集建立模型来过滤垃圾邮件。

  • https://archive.ics.uci.edu/ml/datasets/Spambase

IMDB评论:大型电影评论数据集,包括了来自IMDB网站的电影评论,其中超过25000条评论为训练集,25000条评论为测试集。

  • http://ai.stanford.edu/~amaas/data/sentiment/

自动驾驶(自动驾驶)数据集

Waymo开放数据集:这是来自Waymo员工的一个很棒的数据集资源,包括大量的自动驾驶数据集,足以从零开始训练深度网络。

  • https://waymo.com/open/

Berkeley DeepDrive BDD100k:最大的自动驾驶汽车数据集之一,包含纽约和加利福尼亚州超过2000小时的驾驶体验。

  • http://bdd-data.berkeley.edu/

博世小交通灯数据集:小交通灯数据集。

  • https://hci.iwr.uni-heidelberg.de/node/6132

LaRa红绿灯识别:红绿灯数据集。这个数据集是从巴黎收集的。

  • http://www.lara.prd.fr/benchmarks/trafficlightsrecognition

WPI数据集:用于交通灯、行人和车道检测的数据集。

  • http://computing.wpi.edu/dataset.html

Comma.ai:它包含诸如车速、加速度、转向角和GPS坐标等详细信息。

  • https://archive.org/details/comma-dataset

MIT AGE Lab:MIT AGE实验室收集的1000多小时的多传感器驾驶数据集的样本。

  • http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/

LISA:加州大学圣地亚哥的智能与安全汽车实验室的数据集:该数据集包括交通标志、车辆检测、交通灯和轨迹模式的数据。

  • http://cvrr.ucsd.edu/LISA/datasets.html

城市景观数据集:这是一个广泛的数据集,包含50个不同城市的街道场景。

  • https://www.cityscapes-dataset.com/

临床数据集

COVID-19数据集:艾伦人工智能研究所(Allen Institute of AI research)发布的一个庞大的研究数据集,包含了45000多篇关于COVID-19的学术文章。

  • https://www.semanticscholar.org/cord19

MIC-III:由麻省理工学院计算生理学实验室开发的公开可用数据集,包括与约40000名危重病人相关的未识别健康数据。它包括人口统计、生命体征、实验室检查、药物治疗等。

  • https://mimic.physionet.org/

推荐系统的数据集

MovieLens:它包含来自MovieLens网站的分级数据集。

  • https://grouplens.org/datasets/movielens/

Jester:它包含了来自73421个用户中100个笑话的410万个连续评级(-10.00到+10.00)。它主要用于协同过滤。

  • http://www.ieor.berkeley.edu/~goldberg/jester-data/

百万歌曲数据集:它可以用于协作和基于内容的过滤。

  • https://www.kaggle.com/c/msdchallenge#description

参考和来源

[1] The 50 Best Free Datasets for Machine Learning, Lionbridge AI, https://lionbridge.ai/datasets/the-50-best-free-datasets-for-machine-learning/

[2] Google Cloud Public Datasets, Google, https://cloud.google.com/public-datasets/

[3] Machine Learning and AI Datasets, Carnegie Mellon University, https://guides.library.cmu.edu/c.php?g=844845&p=6191907

[4] Big Data and AI: 30 Amazing and Free Public Data Sources, Forbes, https://www.forbes.com/sites/bernardmarr/2018/02/26/big-data-and-ai-30-amazing-and-free-public-data-sources-for-2018/#f3bdeb5f8aec

[5] Awesome Autonomous Vehicles Datasets, Github, https://github.com/takeitallsource/awesome-autonomous-vehicles#datasets

[6] Fueling the Gold Rush, The Greatest Public Datasets for AI, StartupGrind, https://medium.com/startup-grind/fueling-the-ai-gold-rush-7ae438505bc2

[7] Places to Find Free Datasets for Data Science Projects, Dataquest, https://www.dataquest.io/blog/free-datasets-for-projects/

[8] The Best Datasets for Natural Language Processing, Gengo AI, https://gengo.ai/datasets/the-best-25-datasets-for-natural-language-processing/

[9] Awesome Public Datasets, Github, https://github.com/awesomedata/awesome-public-datasets#machinelearning

[10] StatLib Datasets Archive, Carnegie Mellon, http://lib.stat.cmu.edu/datasets/

[11] Institutional Research and Analysis | Common Datasets | https://www.cmu.edu/ira/CDS/index.html

[12] Datasets and Project Suggestions | Andrew W. Moore | http://www.cs.cmu.edu/~awm/15781/project/data.html

[13] Datasets | Machine Learning Repository | MIT | https://ocw.mit.edu/courses/sloan-school-of-management/15-097-prediction-machine-learning-and-statistics-spring-2012/datasets/

[14] Datasets | MIT Lincoln Laboratory | https://www.ll.mit.edu/r-d/datasets

[15] Stanford Large Network Dataset Collection | Stanford University | https://snap.stanford.edu/data/

[16] Stanford Common Dataset | Stanford University | https://snap.stanford.edu/data/

[17] Datalab | UC Berkeley | http://www.lib.berkeley.edu/libraries/data-lab

[18] Exploring Datasets | Data Science at Berkeley | https://datascience.berkeley.edu/open-data-sets/

[19] DeepDrive | UC Berkeley | https://bdd-data.berkeley.edu/

[20] Machine Learning Datasets and Project Ideas — Work on real-time Data Science Projects | Data Flair | https://data-flair.training/blogs/machine-learning-datasets/

参考链接:https://medium.com/towards-artificial-intelligence/best-datasets-for-machine-learning-data-science-computer-vision-nlp-ai-c9541058cf4f

☆ END ☆

如果看到这里,说明你喜欢这篇文章,请转发、点赞。微信搜索「uncle_pn」,欢迎添加小编微信「 mthler」,每日朋友圈更新一篇高质量博文。

扫描二维码添加小编↓

你可能感兴趣的:(机器学习,人工智能,计算机视觉,深度学习,python)