为什么脏数据要提前进行数据预处理?

随着大数据技术掀起的计算机领域的新浪潮,无论是数据分析、数据挖掘还是机器学习、人工智能,都离不开数据这一主题。

在实际应用中,初始数据一般是多数据源且格式多样化的数据,这些数据的质量通常是良莠不齐的,或多或少存在问题,不能直接被使用到数据分析或数据挖掘工作中,直接使用会造成低质量的分析或挖掘结果。

为什么脏数据要提前进行数据预处理?

初始数据在进行分析或挖掘之前需要经过一定的处理,调整成符合分析或挖掘需求的数据。而从初始数据到得出分析或挖掘结果的整个过程中对数据经过的一系列操作称为数据预处理。

数据预处理是数据分析或数据挖掘前的准备工作,也是数据分析或数据挖掘中必不可少的一环,它主要通过一系列的方法来处理“脏”数据、精准地抽取数据、调整数据的格式,从而得到一组符合准确、完整、简洁等标准的高质量数据,保证该数据能更好地服务于数据分析或数据挖掘工作。

据统计发现,数据预处理的工作量占据整个数据挖掘工作的60%,由此可见,数据预处理在数据挖掘中扮演着举足轻重的角色。

举一个简单的例子,摩拜单车在经过数据预处理前。户编号、单车编号、单车类型是一些冗余的属性,对分析目标而言没有任何意义;骑行时长是对分析目标起关键作用的属性,但该列中有若干个空缺。

为什么脏数据要提前进行数据预处理?

经过预处理后,城市和骑行时长列的数据比较完整,也根据城市名称进行了归类,方便用户快速地得出各城市用户的平均骑行时长。

为什么脏数据要提前进行数据预处理?

显而易见若使用预处理前的摩拜单车数据对各城市用户的平均骑行时长进行分析,会导致分析结果存在一些偏差,相反地,使用预处理后的摩拜单车数据进行分析,会得到一个较为准确的分析结果。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:为什么脏数据要提前进行数据预处理? https://www.dachanpin.com/a/cyfx/11661.html

(0)
求助帖:转行1年,薪资多少才算高?
上一篇 2023-05-12 03:32:00
Python爬虫有哪些应用场景?
下一篇 2023-05-12 03:33:05

相关推荐

  • 十大创业陷阱,埋葬了多少亿万富翁?

      创业不易,不仅面临风险,还有很多“陷阱”。对创业者来说,宏大目标固然重要,路上的陷阱也不忘避开。   创业者如何规避路上的大坑?有哪些过来人的教训可以借鉴?多了解他人遭遇过的创业陷阱,培养防患于未然的警觉,当你遇到这些坑时,绕开它,你就赢了。   1   自己定义的需求,可能是伪需求   找准目标用户的真实需求是创业的第一步,创业者起步阶段的市场调研缺少…

    创业分享 2023-05-13
    169
  • 第三届中国郴州创新创业大赛初赛50进30完美落幕!

    主页 > 资讯 > 生活消费 > 综合新闻 > 第三届中国郴州创新创业大赛初赛50进30完美落幕! 发布时间:2018-07-13 13:42  来源:消费日报网   浏览量: 7月12日,以”创新创业·圆梦郴州”为主题,由郴州市人民政府、湖南省科技厅主办,郴州市科学技术…

    2023-05-16
    137
  • 金一南:中国共产党才是世界上最牛的创业团队

      原标题:金一南:不服不行,中国共产党才是世界上最牛的创业团队! 来源:瞭望智库   97年前的今天,中国诞生了这样一支团队,白手起家,披荆斩棘,短短数十年时间,成为了毫无疑问的史上最牛创业团队。   中国共产党历经97年,从苦难中走来,未来仍将坚定地走下去。   不忘初心,方得始终!   本文选自金一南演讲《中共——中国最牛创业团队!》,不代表瞭望智库观…

    2023-05-17
    217
  • 个人自主创业最高可申请15万元担保贷款

    原标题:个人自主创业最高可申请15万元担保贷款 日前,沈阳市对外发布《关于做好当前和今后一个时期促进就业工作实施方案》,全市将分类确定标准化公共就业创业服务清单,扶持就业困难人员等各类重点群体就业。加大创业担保贷款实施力度,符合条件的自主创业人员,最高可贷款15万元。 方案1 困难企业不裁员返还上年度一半失业保险费 切实减轻企业负担,加大援企稳岗支持力度。今…

    创业分享 2023-05-13
    108
  • [0915创精选]听说趣头条上市首日涨幅创纪录?律师想和他聊一聊

    经过一段时间的观察,拼多多似乎还蛮被资本市场看好的。 不管趣头条到底怎样以后怎样,他的上市无疑是成功的,不仅创造了中国互联网企业最快上市记录、在短短2年3个月创造300亿市值的传奇、创下今年美股IPO最高首日涨幅,就那五度熔断也是罕见之事。 昨日(9月14日)晚间,趣头条正式在纳斯达克挂牌上市,成为移动内容聚合第一股。开盘即涨30%,报9.01美元,较发行价…

    2023-05-16
    139

发表回复

登录后才能评论

联系我们

在线咨询: QQ交谈

邮件:362039258@qq.com

工作时间:周一至周五,9:30-16:30,节假日休息