人工智能,数据挖掘,数据分析,都离不开数据对于从业者来说,数据获取自然不是问题可是,对于初学者来说,数据的获取成了大难题下面就总结一些有用的数据网站:一.通用数据1.data.gov( Data.gov。
) 这是美国政府公开数据的所在地,该站点包含了超过19万的数据点这些数据集不同于气候、教育、能源、金融和更多领域的数据 2.data.gov.in( https://data.gov.in/ ) 这是印度政府公开数据的所在地,通过各种行业、气候、医疗保健等来寻找数据,你可以在这里找到一些灵感。
根据你居住的国家的不同,你也可以从其他一些网站上浏览类似的网站3.WorldBank( World Bank Open Data ) 世界银行的开放数据该平台提供 Open Data Catalog,世界发展指数,教育指数等几个工具。
4.RBI( https://rbi.org.in/Scripts/Statistics.aspx ) 印度储备银行提供的数据这包括了货币市场操作、收支平衡、银行使用和一些产品的几个指标5.Five ThirtyEight Datasets ( 。
GitHub - fivethirtyeight/data: Data and code behind the articles and graphics at FiveThirtyEight ) Five Thirty Eight,亦称作 538,专注与民意调查分析,政治,经济与体育的博客。
该数据集为 Five ThirtyEight Datasets 使用的数据集每个数据集包括数据,解释数据的字典和Five ThirtyEight 文章的链接如果你想学习如何创建数据故事,没有比这个更好6.国家数据。
国家数据7.CEIC.CEIC|统计数据库|全球经济数据|世界经济排名|宏观经济数据分析8.datahub Home9.搜数网 新版搜数网10.中国统计信息网 中国统计信息网 - 中国统计年鉴2020
11. figshare credit for all your research 研究成果共享平台,在这里你会发现来自世界的大牛们的研究成果分享,同时get其中的研究数据,内容很有启发性,网站颇具设计感。
12.github GitHub - awesomedata/awesome-public-datasets: A topic-centric list of HQ open datasets. github上的大神已经为大家整理好了一个非常全面的数据获取渠道,包含各个细分领域的数据库资源,自然科学和社会科学的覆盖都很全面,简直是做研究和数据分析的利器。
13.香港政府数据中心 https://data.gov.hk/en/14.纽约市开放数据中心 NYC Open Data15.纽约政府数据中心 https://data.ny.gov/16 澳大利亚国家开放数据中心
Search17 英国国家数据中心 Find open data - data.gov.uk18 日本统计局 統計局ホームページ19 美国劳工统计局 https://www.bls.gov/data/
20.经合组织(OECD) OECD data21 欧盟数据门户 data.europa.eu22 伯克利亚数据实验室 http://www.lib.berkeley.edu/libraries/data-lab
数据实验室是由当前加州大学伯克利分校的学生和教员提供有关数字数据的研究,他们会查找并推荐好的数据源到网站,并会对像文件格式转换、网页抓取和基本统计软件等技术数据问题提供咨询实验室还提供工作站分析软件如ArcGIS、SAS、SPSS、STATA,Stata,R和Python等。
23.数据美国 Data USA 美国大数据(Data Usa)主要研究宏观的社会联系,在海量数据中找出人们的某个被忽略的特征网站根据地区、行业、职业、教育背景做了初步的分类,用户可以进入任何你想了解的部分,探索美国社会局部的详细情况。
它们也提供了地图式的阅读视图24 Open Data 500 http://www.opendata500.com/us/ Open Data 500是首个以开放政府数据来产生新的业务和开发新的产品和服务的综合研究性美国公司。
研究机构可以发布网站上收集的数据,企业、组织和公民也可以分析网站上的数据,并使用这些信息25 Open Data Inception Open Data Inception - A Comprehensive List of 2600+ Open Data Portals in the World
网站记录了2600+个开放式数据信息门户网站,可直接通过地图精准找到你需要的不同地区的数据门户网站二.大型数据集1.Amazon WebServices(AWS)datasets ( Registry of Open Data on AWS。
) Amazon提供了一些大数据集,可以在他们的平台上使用,也可以在本地计算机上使用您还可以通过EMR使用EC2和Hadoop来分析云中的数据在亚马逊上流行的数据集包括完整的安然电子邮件数据集,Google Booksn-gram,NASA NEX 数据集,百万歌曲数据集等。
2.Googledatasets ( BigQuery public datasets | Google Cloud ) Google 提供了一些数据集作为其 Big Query 工具的一部分包括 GitHub 公共资料库的数据,Hacker News 的所有故事和评论。
3.Youtubelabeled Video Dataset ( A Large and Diverse Labeled Video Dataset for Video Understanding Research
) 几个月前,谷歌研究小组发布了YouTube上的“数据集”,它由800万个YouTube视频id和4800个视觉实体的相关标签组成它来自数十亿帧的预先计算的,最先进的视觉特征 4.亚马逊公共数据集(
404 Not Found网站来自亚马逊的跨科学云数据平台,其中包含化学、生物、经济等多个领域的数据集,当数据在 AWS 上公开提供后,任何人都可以分析任意数量的数据,而无需自行下载或存储这些数据三.预测建模与机器学习数据集
1.UCI MachineLearning Repository ( https://archive.ics.uci.edu/ml/datasets.html )UCI机器学习库显然是最著名的数据存储库。
如果您正在寻找与机器学习存储库相关的数据集,通常是首选的地方这些数据集包括了各种各样的数据集,从像Iris和泰坦尼克这样的流行数据集到最近的贡献,比如空气质量和GPS轨迹存储库包含超过350个与域名类似的数据集(分类/回归)。
您可以使用这些过滤器来确定您需要的数据集2.Kaggle( Find Open Datasets and Machine Learning Projects | Kaggle )Kaggle提出了一个平台,人们可以贡献数据集,其他社区成员可以投票并运行内核/脚本。
他们总共有超过350个数据集——有超过200个特征数据集虽然一些最初的数据集通常出现在其他地方,但我在平台上看到了一些有趣的数据集,而不是在其他地方出现与新的数据集一起,界面的另一个好处是,您可以在相同的界面上看到来自社区成员的脚本和问题。
3.AnalyticsVidhya (https://datahack.analyticsvidhya.com/contest/all/ ) 您可以从我们的实践问题和黑客马拉松问题中参与和下载数据集问题数据集基于真实的行业问题,并且相对较小,因为它们意味着2 - 7天的黑客马拉松。
4.Quandl( Quandl ) Quandl 通过起网站、API 或一些工具的直接集成提供了不同来源的财务、经济和替代数据他们的数据集分为开放和付费所有开放数据集为免费,但高级数据集需要付费通过搜索仍然可以在平台上找到优质数据集。
例如,来自印度的证券交易所数据是免费的5.Past KDDCups ( SIGKDD - KDD Cup ) KDD Cup 是 ACM Special Interest Group 组织的年度数据挖掘和知识发现竞赛。
6.DrivenData ( https://www.drivendata.org/ ) Driven Data 发现运用数据科学带来积极社会影响的现实问题然后,他们为数据科学家组织在线模拟竞赛,从而开发出最好的模型来解决这些问题。
四.图像分类数据集1.The MNISTDatabase( MNIST handwritten digit database, Yann LeCun, Corinna Cortes and Chris Burges
) 最流行的图像识别数据集,使用手写数字它包括6万个示例和1万个示例的测试集这通常是第一个进行图像识别的数据集2.Chars74K(Character Recognition in Natural Images。
) 这里是下一阶段的进化,如果你已经通过了手写的数字该数据集包括自然图像中的字符识别数据集包含74,000个图像,因此数据集的名称3.Frontal FaceImages(http://vasc.ri.cmu.edu//idb/ht。
ml/face/frontal_images/index.html ) 如果你已经完成了前两个项目,并且能够识别数字和字符,这是图像识别中的下一个挑战级别——正面人脸图像这些图像是由CMU & MIT收集的,排列在四个文件夹中。
4.ImageNet( ImageNet ) 现在是时候构建一些通用的东西了根据WordNet层次结构组织的图像数据库(目前仅为名词)层次结构的每个节点都由数百个图像描述目前,该集合平均每个节点有超过500个图像(而且还在增加)。
五.文本分类数据集1.Spam – NonSpam(http://www.esp.uem.es/jmgomez/smsspamcorpus/) 区分短信是否为垃圾邮件是一个有趣的问题你需要构建一个分类器将短信进行分类。
2.TwitterSentiment Analysis (Twitter Sentiment Analysis Training Corpus (Dataset)) 该数据集包含 1578627 个分类推文,每行被标记为1的积极情绪,0位负面情绪。
数据依次基于 Kaggle 比赛和 Nick Sanders 的分析3.Movie ReviewData (Data) 这个网站提供了一系列的电影评论文件,这些文件标注了他们的总体情绪极性(正面或负面)或主观评价(例如,“两个半明星”)和对其主观性地位(主观或客观)或极性的标签。
六.推荐引擎数据集1.MovieLens ( GroupLens ) MovieLens 是一个帮助人们查找电影的网站它有成千上万的注册用户他们进行自动内容推荐,推荐界面,基于标签的推荐页面等在线实验这些数据集可供下载,可用于创建自己的推荐系统。
2.Jester (http://www.ieor.berkeley.edu/~goldberg/jester-data/) 在线笑话推荐系统七.各种来源的数据集网站1.KDNuggets(Datasets for Data Mining, Data Science, and Machine Learning - KDnuggets。
) KDNuggets 的数据集页面一直是人们搜索数据集的参考列表全面,但是某些来源不再提供数据集因此,需要谨慎选择数据集和来源2.Awesome PublicDatasets(https://github.com/caesar0301/a
wesome-public-datasets) 一个GitHub存储库,它包含一个由域分类的完整的数据集列表数据集被整齐地分类在不同的领域,这是非常有用的但是,对于存储库本身的数据集没有描述,这可能使它非常有用。
3.RedditDatasets Subreddit (https://www.reddit.com/r/datasets/) 由于这是一个社区驱动的论坛,它可能会遇到一些麻烦(与之前的两个来源相比)但是,您可以通过流行/投票来对数据集进行排序,以查看最流行的数据集。
另外,它还有一些有趣的数据集和讨论八.数据交易平台1.优易数据 优易数据_流通数据 跨界增值2. 数据堂 数据堂_专业的人工智能数据服务提供商_AI数据采集标注
手机: 电话: EMAIL:68048562@qq.com
公司地址:广东省佛山市 网址:www.aadkj.com
Copyright © 铝浩建材厂 All Rights Reserved. 湘ICP备2024042242号-4 xml地图