为什么脏数据要提前进行数据预处理?

随着大数据技术掀起的计算机领域的新浪潮,无论是数据分析、数据挖掘还是机器学习、人工智能,都离不开数据这一主题。

在实际应用中,初始数据一般是多数据源且格式多样化的数据,这些数据的质量通常是良莠不齐的,或多或少存在问题,不能直接被使用到数据分析或数据挖掘工作中,直接使用会造成低质量的分析或挖掘结果。

为什么脏数据要提前进行数据预处理?

初始数据在进行分析或挖掘之前需要经过一定的处理,调整成符合分析或挖掘需求的数据。而从初始数据到得出分析或挖掘结果的整个过程中对数据经过的一系列操作称为数据预处理。

数据预处理是数据分析或数据挖掘前的准备工作,也是数据分析或数据挖掘中必不可少的一环,它主要通过一系列的方法来处理“脏”数据、精准地抽取数据、调整数据的格式,从而得到一组符合准确、完整、简洁等标准的高质量数据,保证该数据能更好地服务于数据分析或数据挖掘工作。

据统计发现,数据预处理的工作量占据整个数据挖掘工作的60%,由此可见,数据预处理在数据挖掘中扮演着举足轻重的角色。

举一个简单的例子,摩拜单车在经过数据预处理前。户编号、单车编号、单车类型是一些冗余的属性,对分析目标而言没有任何意义;骑行时长是对分析目标起关键作用的属性,但该列中有若干个空缺。

为什么脏数据要提前进行数据预处理?

经过预处理后,城市和骑行时长列的数据比较完整,也根据城市名称进行了归类,方便用户快速地得出各城市用户的平均骑行时长。

为什么脏数据要提前进行数据预处理?

显而易见若使用预处理前的摩拜单车数据对各城市用户的平均骑行时长进行分析,会导致分析结果存在一些偏差,相反地,使用预处理后的摩拜单车数据进行分析,会得到一个较为准确的分析结果。

免责声明:文章内容来自互联网,本站仅作为分享,不对其真实性负责,如有侵权等情况,请与本站联系删除。
转载请注明出处:为什么脏数据要提前进行数据预处理? https://www.dachanpin.com/a/cyfx/11661.html

(0)
上一篇 2023-05-12 03:32:00
下一篇 2023-05-12 03:33:05

相关推荐

  • 创业公司推出新技术:戴上VR头盔还能认路看环境

      将这项技术装入硬件并不困难,按照Occipital的说法,只要有立体摄像头和IMU(运动硬件器)就能运行,至于运动传感器已经存在于头盔之中。Occipital希望更多VR头盔制造商将该技术植入硬件和系统软件。   这项技术称为 “Occipital Tracking”,来自于美国一家创业公司,专门研发3D扫描硬件和深度感知摄像头。“Occip…

    创业分享 2023-05-20
    98
  • 宜春职业技术学院教师参加江西省高校创业导师培训

    宜春职业技术学院地处赣西历史文化名城、月亮之都宜春市。城市环境优美、山清水秀、交通便利,是国家优秀旅游城市、国家卫生城市、国家园林城市、全国绿化模范城市。 学校是2003年6月经江西省人民政府批准、国家教育部备案的公办全日制专科层次普通高校,江西省示范性高职院校,江西省优质专科高等职业院校立项建设单位。 学校环境优雅,设施齐全,设立北校区、南校区和经开校区&…

    创业分享 2023-05-13
    109
  • 今年河北省工会将投入2000万元扶持创业就业

    推进普惠化服务,截至2017年底,河北省累计发放工会会员卡751.1万张,洽谈签约优质商家4000多家,全省通惠项目达到305个,新建各级职工书屋示范点152家,发放电子职工书屋阅读卡5万张,新建“爱心妈妈小屋”560个,建成“环卫职工工间休息室”221个。今年,河北省将坚持发放工会会员卡和提高使用率并重,加大对项目补助,带动各地加大投入,重点开发职工乐享乐…

    创业分享 2023-05-19
    66
  • 杠杆股票配资在线开户米牛股票配资免息炒股配资平台:股票配资创

      出资者和融资者为了能够得到威望的网上配资渠道排名,所以在一些值得信任的网站上面,找到了这样的一个名次。米牛股票配资平台认为,得到了这样的一种排名,可认为本身的出资项目以及融资项目选择更适宜的协作目标。首先便是看一看哪个渠道可认为自己取得更多的赢利,这便是一个选择渠道的规范,也是人们比较注重的工作。   网上配资渠道排名可认为人们供给更多的参阅和学习,简略…

    创业分享 2023-05-12
    83
  • 布局创业板底部价值 华夏创业板ETF基金成有力投资工具

      8月以来,A股市场持续调整,创业板指数围绕1500点上下波动,再度创出新低,且已回到2015年牛市起点。目前,对于创业板进入底部区域的判断,在市场上形成了默契认同,资金也在持续涌入创业板。WIND数据显示,2017年底全市场创业板ETF场内流通总份额仅为38.23亿份,而截至8月22日,ETF基金场内流通份额快速增长至246.05亿份。投资者若…

    创业分享 2023-05-16
    63

发表回复

登录后才能评论

联系我们

在线咨询: QQ交谈

邮件:362039258@qq.com

工作时间:周一至周五,9:30-16:30,节假日休息