excel处理80万条数据左右的,平时使用SQL和Python这些软件,有什么性价比高的笔记本3000左右性价比电脑推荐

博客访问: 541518
博文数量: 133
注册时间:
认证徽章:
这个人很勤快 什么都没有留下
ITPUB论坛APP
ITPUB论坛APP
APP发帖 享双倍积分
IT168企业级官微
微信号:IT168qiye
系统架构师大会
微信号:SACC2013
分类: IT综合技术
今天需要把一个excel文档的某两列read出来,并write到一个单独的txt文档中。
好久没写python,忘了差不多了,仅供参考。
excel如下。
导出文件如下
# -*- coding: utf-8 -*-
import urllib
import xdrlib ,sys
import xlrd
reload(sys)
sys.setdefaultencoding('utf-8')
def open_excel(file= 'C:\Users\Administrator\Desktop\sql.xls'):
&&&&&&&&data = xlrd.open_workbook(file)
&&&&&&&&return data
&&&&except Exception,e:
&&&&&&&&print str(e)
def excel_table_byname(file= 'C:\Users\Administrator\Desktop\sql.xls',colnameindex=0,by_name=u'Sheet2'):
&&&&data = open_excel(file)
&&&&table = data.sheet_by_name(by_name)
&&&&nrows = table.nrows #行数
&&&&colnames = table.row_values(colnameindex) #某一行数据
&&&&list =[]
&&&&for rownum in range(1,nrows):
&&&&&&&&&row = table.row_values(rownum)
&&&&&&&&&if row:
&&&&&&&&&&&&&app = []
&&&&&&&&&&&&&#for i in range(len(colnames)):
&&&&&&&&&&&&&
&&&&&&&&&&&&&app = (row[1],row[3])
&&&&&&&&&&&&&list.append(app)
&&&&return list
def main():
&&&tables = excel_table_byname()
&&&a=file('C:\Users\Administrator\Desktop\sql.txt','w')
&&&for row in tables:
&&&&&&&a.write('INSERT INTO BLC_COUNTRY VALUES (\''+row[1]+'\',\''+row[0]+'\');\n')
&&&a.close()
if __name__=="__main__":
&&&&main()
阅读(8211) | 评论(0) | 转发(0) |
相关热门文章
给主人留下些什么吧!~~
请登录后评论。《大数据-机器学习脱产培训班》第2期火热报名中,3月27号开课(深圳),仅20席名额,报名速度!4个月成就高薪梦想,培养数据挖掘工程师,签订就业服务协议,对接50多家大数据企业 !理论+工具+实习,培养实战型数据挖掘人才!
3月27号开课(深圳),仅20席名额,报名速度!/Answer/page/dashujujiqixuexi
> R语言与Excel之数据分析功能比较
我从事数据分析工作已经有十年之久。最初是出于工作需要,我的经理给我一堆数据,我需要处理这些数据。当时我一直使用的工具是 Exce,因为这是我熟练掌握的一款工具。三年前,我开始接触到 R,一开始因为功能太多而坚决抵制使用。后来我开始琢磨如何使用。现在我基本不怎么使用 Excel 了。这只是我个人的观点,但是如果你要分析数据,R 更胜任这项任务。下面来说说为什么 R 更适合数据分析。
这两款工具的使用方法截然不同。使用 Excel 时,可以通过鼠标点击完成大部分工作,你可以访问界面内不同位置的各种工具。因此 Excel 非常便于使用(熟能生巧),但是用 Excel 处理数据非常费时,而且如果接手一个新项目,你必须单调地重复这些流程。使用 R 时,则通过代码完成所有操作。你把数据载入内存,然后运行脚本来研究并处理数据。这个工具可能不够人性化,但是有以下几点好处。
我认为,从概念上来说,R 更便于使用。如果你在处理多列数据,虽然你只是在处理单个任务,但是却会看到所有的数据。而使用 R 时,数据都在内存中,只有调出数据才能看到。如果你在转换或计算,你会处理相关列或行的子集,其他所有数据都在后台。我觉得这样更便于关注手头的任务。完成任务后,可将其保存在某个数据帧中,其中只包含所需的列或行数据。你建立了正确的数据集,可解决当前的问题。这样做看似无关紧要,但实际上大受裨益。
借助 R,就可以对其他数据集轻松重复相同的操作。因为所有数据都是通过代码进行处理和研究,因此对新的数据集执行相同的操作也就轻而易举了。使用 Excel 时,大多数操作都是通过鼠标点击实现,虽然用户体验不错,但对新的数据重复操作却非常费时而枯燥。而 R 只需载入新的数据集,然后再次运行脚本即可。
实际上,用代码操作也便于诊断并共享你的分析结果。使用 Excel 时,大多数的分析结果都基于内存(数据透视表在这里,公式编辑器在另一个表格上等)。而在 R 中,通过代码执行所有操作,一目了然。如果你在修正一个错误,你很清楚在哪里操作,而如果你需要共享分析结果,只需复制粘贴代码即可。在线查找帮助时,你能准确说明所用数据,并提出具体的问题。事实上,大多数时候,你在线提问时,人们都是直接贴出准确的代码,来解决你的问题。
R 中的项目组织更简单。在 Excel 中,我要准备一系列表格,可能还要准备多个工作簿,然后适当命名,而且各文件名不得重复。我的项目备注分别保存在各个文件中。我的R语言项目组织单独设有一个文件夹,我处理过的所有内容都放在其中。清理数据、探索性图表及模型。这样便于我理解和查找,也为与我一起工作的其他人提供方便。当然,Excel 也能做到井井有条。我觉得 R 的简洁性更便于使用。
上述几点只能说是锦上添花,而并不是必不可少。在没有这些功能之前,我也用了好几年 Excel,你应该也一样。现在,我想讲讲 R 和 Excel 真正的区别。我想说的是,除了以上那些花哨的小优势之外,R 更适合用于数据分析。原因如下。
你可以把任何数据载入 R。数据的保存位置或保存形式并不重要。你可以载入 CSV 文件,也可以读取 JSON,或者执行 SQL 查询,抑或提取网站。你甚至还可以在 R 中通过 Hadoop 处理大数据。
R 是一个完整的工具集,使用的是数据包。在分析数据时,R 比 Excel 更实用。你可使用 R 执行数据管理、分类和回归,也可以处理图片,并执行其他所有操作。如果机器学习是你的专业,那能想到的任何算法都是小菜一碟。目前,R 可用的数据包逾 5,000 个,因此无论你要处理什么类型的数据,R 都能应付自如。
R 的数据可视化效果非常卓越。说句实话,Excel 的图表非常出色,简单易懂。但 R 的效果更好。我觉得这是 R 最实用的功能之一。借助 ggplot2,你可以快速创建所需的各种图表,并根据图表形状自行调整。在你熟悉了如何用 ggplot2 创建一个图表后,任何其他图表都不在话下。ggplot2 还能制作更多类型的图表。你能用 Excel 创建 散点图矩阵吗?用 R 就能轻松创建这种矩阵,CDF plot 也是如此。Excel 棋差一招。
Git 版本控制。我一向习惯保存多个版本的分析结果。Git 是至今为止我找到的最好用的工具。 用 RStudio 作为编辑器,其支持项目。创建一个项目仓库,然后你就能跟踪数据研究的不同版本。你可以创建不同版本的 Excel 文件,但是这些保存的二进制文件无法显示相互之间的更改部分。而 R 非常简单。 我已经说了很多理由。总之,Excel 是一款不错的数据分析工具。我相信它能不负众望完成所有任务。但是,如果你只有这一款工具,则会大大影响你的工作效率。相比之下,R 更好用,而且提供的工具集模块更完整。而缺点在于不是非常易于上手,用户一开始相对要花很多时间学习使用。如果坚持下去,就会有所收获,不仅对数据更了解,还提高了自己的能力。
作者:Chris Leonard
转载请注明: &
or分享 (0)
百度搜索“AI时代就业指南”了解更多TA的最新馆藏

我要回帖

更多关于 性价比最高的笔记本 的文章

 

随机推荐