sqlserver爬虫,sql爬数据

请问：PQ是什么意思

最近很多人都在问我关于PQ、PP、PBI的问题，我感觉是时候带大家了解Excel的这些插件了。大家知道我极力推荐大家卸载2013之前的Excel，很大一部分原因就是因为Excel2013之后的版本集成了这些插件。那接下来的时间，就让我们看看这些简称都是什么意思？他们都能做些什么？

创新互联长期为1000+客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为建昌企业提供专业的网站制作、网站设计，建昌网站改版等技术服务。拥有10年丰富建站经验和众多成功案例,为您定制开发。

微软的BI发展战略

微软有一款企业级的产品叫SQLServer，相信有的同学肯定听说过。它是一款商业用的数据库产品（意味着是收费的），包含了数据处理过程中的各种内容。核心功能包括：数据清洗、数据建模、数据呈现。

而近几年微软的发展慢慢向个人市场倾斜，将这些功能开放到Excel这个产品中。通过Excel庞大的用户基数，迅速占领分析和BI市场。事实证明微软的战略是对的。下图为Gartner公司2020年分析与商业智能 BI 平台魔力象限。微软正处于这个领域领先的位置。

数据清洗工具PQ

PQ全称为PowerQuery，Power Query 是 Excel 中可用的三大数据分析工具之一。但在2016之后的版本中这个名字已经找不到了，但是大家还是喜欢称为PQ。因为其功能的强大微软在2016之后的版本已经将其内化入Excel

PowerQuery是一种数据连接技术，功能主要包含三个部分：连接(获取)、转换、合并。

连接其实就是获取数据的数据的能力。PowerQuery的数据获取能力很强操作也很简单。按照分类来说可以分为以下几类：

1. 文件类：Excel文件、CSV文件、JSON文件、XML文件等以文件存储的数据

2. 数据库：SAP HANA、Mysql、SQLServer、Oracle等主流数据库

3. 网页：PowerQuery通过简单操作即可获取网页数据，俗称：爬虫。有了这个功能大部分的API，PowerQuery也能调用了

4. 其他数据源：Facebook、Azure、ODBC、Hadoop等

还要一点就是PowerQuery已经在PowerBI中集成了Python和R语言，相信很快也会被集成在Excel中。有了Python和R的加持，PowerQuery的获取能力将更加强大，可以说PowerQuery将无所不能。所以我称其为最强手臂。

转换的能力就是将数据清洗为可用于分析的能力。关于转换这一点不是我们这篇短文能讲清楚的。你只用先了解以下几点就好：

1. PowerQuery转化数据是有专门的语言称为M语言

2. PowerQuery大部分功能只需要点击鼠标即可生成M语言

3. 每一步操作都可以生成一个表缓存，你可以在任何节点再引用

4. 数据存储的空间有List、Record、Table，数据类型常用的有Text、Number、Date；

5. M语言其实是函数语言，通过操作上面的对象来完成数据清洗工作；

合并能力就是将不同的表连接到一起。主要的合并方式有两种：合并和追加

1. 追加最容易理解就是上下拼接在一起

2. 合并是指将两种表根据一个或多个字段的关联关系横向拼接在一起

上面这点现在听不懂没关

爬虫不装mysql可以吗

爬虫是一种技术，很多编程语言都可以实现爬虫。

mysql是一个数据库，还有oracle，sqlserver，mangodb，这些都是数据库

其实两者并没有必然的联系。不过你爬下来的数据储存在哪里呢？可以当时显示后就废弃了，可以暂时保存在内存里，可以保存在文本流里面，也可以保存在数据库里。这个要看你具体的需求了。譬如，你爬下来的数据比较大，需要长期保存，或者需要累加，做数据处理。你就要把数据储存在数据库里面。

所以装不装mysql实际上是不影响爬虫技术的学习和实现的。

python是干什么用的？

python的作用：

1.系统编程：提供API(Application Programming

Interface应用程序编程接口)，能方便进行系统维护和管理，Linux下标志性语言之一，是很多系统管理员理想的编程工具 。

2.图形处理：有PIL、Tkinter等图形库支持，能方便进行图形处理。

3.数学处理：NumPy扩展提供大量与许多标准数学库的接口。

4.文本处理：python提供的re模块能支持正则表达式，还提供SGML，XML分析模块，许多程序员利用python进行XML程序的开发。

5.数据库编程：程序员可通过遵循Python DB-API(数据库应用程序编程接口)规范的模块与Microsoft SQL

Server，Oracle，Sybase，DB2，MySQL、SQLite等数据库通信。python自带有一个Gadfly模块，提供了一个完整的SQL环境。

6.网络编程：提供丰富的模块支持sockets编程，能方便快速地开发分布式应用程序。很多大规模软件开发计划例如Zope，Mnet

及BitTorrent. Google都在广泛地使用它。

7.Web编程：应用的开发语言，支持最新的XML技术。

8.多媒体应用：Python的PyOpenGL模块封装了“OpenGL应用程序编程接口”，能进行二维和三维图像处理。PyGame模块可用于编写游戏软件。

9.pymo引擎：PYMO全称为python memories off，是一款运行于Symbian S60V3,Symbian3,S60V5,

Symbian3, Android系统上的AVG游戏引擎。因其基于python2.0平台开发，并且适用于创建秋之回忆(memories

off)风格的AVG游戏，故命名为PYMO。

10.黑客编程：python有一个hack的库,内置了你熟悉的或不熟悉的函数，但是缺少成就感。

11.用Python写简单爬虫

首先，要通过urllib2这个Module获得对应的HTML源码。

4import urllib2 #调用urllib2

url='' #把等号右边的网址赋值给url

html=urllib2.urlopen(url).read() #html随意取名 等号后面的动作是打开源代码页面，并阅读print html #打印

通过上面这三句就可以将URL的源码存在content变量中，其类型为字符型。

接下来是要从这堆HTML源码中提取我们需要的内容。用Chrome查看一下对应的内容的代码(也可以用Firefox的Firebug)。

可以看到url的信息存储在span标签中，要获取其中的信息可以用正则式。

python简介：

Python(英语发音：/ˈpaɪθən/), 是一种面向对象、解释型计算机程序设计语言，由Guido vanRossum于1989年底发明，第一个公开发行版发行于1991年，Python 源代码同样遵循 GPL(GNU General PublicLicense)协议。Python语法简洁而清晰，具有丰富和强大的类库。它常被昵称为胶水语言，能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结在一起。常见的一种应用情形是，使用Python快速生成程序的原型(有时甚至是程序的最终界面)，然后对其中有特别要求的部分，用更合适的语言改写，比如3D游戏中的图形渲染模块，性能要求特别高，就可以用C/C++重写，而后封装为Python可以调用的扩展类库。需要注意的是在您使用扩展类库时可能需要考虑平台问题，某些可能不提供跨平台的实现。

在大数据行业工作两年是怎样一种体验

在大数据行业工作两年是怎样一种体验

写在前面

今年广州的初夏在经历了大雨的洗礼之后，一切都变得更加明朗起来，新的工作，新的人和事。懒惰让我变得更焦虑，焦虑促使我进步，程序员的焦虑大家应该都有共同的感觉，时代的步伐太快了，在这个环境下的软件开发一定会淘汰掉那些不懂得学习、懒惰的人。希望跟大家共勉。

在本文中，我主要回顾这两年来，在大数据行业公司从事大数据类的前端开发的工作。最近刚刚换了一份工作，这里把我的经验稍作总结分享给大家。

本文主要从大数据开发的角度出发，到大数据治理的必要性，再到图形化建模的畅想，最后在数据质量的把关，然后到大数据可视化的应用，总结两年的见闻和我的学习成果，也不知理解有无偏差，希望大家能给出建议。

大数据开发

大数据开发，有几个阶段：

1.数据采集（原始数据)

2.数据汇聚（经过清洗合并的可用数据)

3.数据转换和映射（经过分类、提取的专项主题数据)

4.数据应用（提供api 智能系统 、应用系统等)

数据采集

数据采集有线上和线下两种方式，线上一般通过爬虫，通过抓取或者通过已有应用系统的采集。

在这个阶段，我们可以做一个大数据采集平台，依托自动爬虫（使用Python或者Node.js制作爬虫软件），ETL工具、或者自定义的抽取转换引擎，从文件中、数据库中、网页中专项爬取数据。如果这一步通过自动化系统来做的话，可以很方便的管理所有的原始数据，并且从数据的开始对数据进行标签采集，可以规范开发人员的工作，同时目标数据源可以更方便的管理。

数据采集的难点在于多数据源，例如mysql、postgresql、sqlserver 、 mongodb 、sqllite。还有本地文件、excel统计文档、甚至是doc文件。如何将它们规整、有方案地整理进我们的大数据流程中也是必不可缺的一环。

数据汇聚

数据的汇聚是大数据流程最关键的一步，你可以在这里加上数据标准化，你也可以在这里做数据清洗，数据合并，还可以在这一步将数据存档，将确认可用的数据经过可监控的流程进行整理归类，这里产出的所有数据就是整个公司的数据资产，到了一定的量就是一笔固定资产。

数据汇聚的难点在于如何标准化数据，例如表名标准化，表的标签分类，表的用途，数据的量，是否有数据增量？数据是否可用？

这些需要在业务上下很大的功夫，必要时还要引入智能化处理，例如根据内容训练结果自动打标签，自动分配推荐表名、表字段名等，还有如何从原始数据中导入数据等。

数据转换和映射

经过数据汇聚的数据资产如何提供给具体的使用方使用？在这一步，主要就是考虑数据如何应用，如何将两、三个数据表转换成一张能够提供服务的数据。然后定期更新增量。

经过前面的那几步，在这一步难点并不太多了，如何转换数据与如何清洗数据、标准数据无二，将两个字段的值转换成一个字段，或者根据多个可用表统计出一张图表数据等等。

数据应用

数据的应用方式很多，有对外的、有对内的，如果拥有了前期的大量数据资产，是通过restful API提供给用户？还是提供流式引擎 KAFKA 给应用消费? 或者直接组成专题数据，供自己的应用查询？这里对数据资产的要求比较高，所以前期的工作做好了，这里的自由度很高。

大数据开发的难点

大数据开发的难点主要是监控，怎么样规划开发人员的工作。开发人员随随便便采集了一堆垃圾数据，并且直连数据库。 短期来看，这些问题比较小，可以矫正。 但是在资产的量不断增加的时候，这就是一颗定时炸弹，随时会引爆，然后引发一系列对数据资产的影响，例如数据混乱带来的就是数据资产的价值下降，客户信任度变低。

如何监控开发人员的开发流程？

答案只能是自动化平台，只有自动化平台能够做到让开发人员感到舒心的同时，接受新的事务，抛弃手动时代。

这就是前端开发工程师在大数据行业中所占有的优势点，如何制作交互良好的可视化操作界面？如何将现有的工作流程、工作需求变成一个个的可视化操作界面？ 可不可以使用智能化取代一些无脑的操作？

从一定意义上来说，大数据开发中，我个人认为前端开发工程师占据着更重要的位置，仅次于大数据开发工程师。至于后台开发，系统开发是第三位的。

好的交互至关重要，如何转换数据，如何抽取数据，一定程度上，都是有先人踩过的坑，例如kettle，再例如kafka，pipeline ，解决方案众多。关键是如何交互？ 怎么样变现为可视化界面？ 这是一个重要的课题。

现有的各位朋友的侧重点不同，认为前端的角色都是可有可无，我觉得是错误的，后台的确很重要，但是后台的解决方案多。 前端实际的地位更重要，但是基本无开源的解决方案，如果不够重视前端开发， 面临的问题就是交互很烂，界面烂，体验差，导致开发人员的排斥，而可视化这块的知识点众多，对开发人员的素质要求更高。

大数据治理

大数据治理应该贯穿整个大数据开发流程，它有扮演着重要的角色，浅略的介绍几点：

· 数据血缘

· 数据质量审查

· 全平台监控

数据血缘

从数据血缘说起，数据血缘应该是大数据治理的入口，通过一张表，能够清晰看见它的来龙去脉，字段的拆分，清洗过程，表的流转，数据的量的变化，都应该从数据血缘出发，我个人认为，大数据治理整个的目标就是这个数据血缘，从数据血缘能够有监控全局的能力。

数据血缘是依托于大数据开发过程的，它包围着整个大数据开发过程，每一步开发的历史，数据导入的历史，都应该有相应的记录，数据血缘在数据资产有一定规模时，基本必不可少。

数据质量审查

数据开发中，每一个模型(表)创建的结束，都应该有一个数据质量审查的过程，在体系大的环境中，还应该在关键步骤添加审批。例如在数据转换和映射这一步，涉及到客户的数据提供，应该建立一个完善的数据质量审查制度，帮助企业第一时间发现数据存在的问题，在数据发生问题时也能第一时间看到问题的所在，并从根源解决问题，而不是盲目的通过连接数据库一遍一遍的查询SQL。

全平台监控

监控其实包含了很多的点，例如应用监控，数据监控，预警系统，工单系统等，对我们接管的每个数据源、数据表都需要做到实时监控，一旦发生殆机，或者发生停电，能够第一时间电话或者短信通知到具体负责人，这里可以借鉴一些自动化运维平台的经验的，监控约等于运维，好的监控提供的数据资产的保护也是很重要的。

大数据可视化

大数据可视化不仅仅是图表的展现，大数据可视化不仅仅是图表的展现，大数据可视化不仅仅是图表的展现。

重要的事说三遍，大数据可视化归类的数据开发中，有一部分属于应用类，有一部分属于开发类。

在开发中，大数据可视化扮演的是可视化操作的角色， 如何通过可视化的模式建立模型？ 如何通过拖拉拽，或者立体操作来实现数据质量的可操作性？ 画两个表格加几个按钮实现复杂的操作流程是不现实的。

在可视化应用中，更多的也有如何转换数据，如何展示数据，图表是其中的一部分，平时更多的工作还是对数据的分析，怎么样更直观的表达数据？这需要对数据有深刻的理解，对业务有深刻的理解，才能做出合适的可视化应用。

智能的可视化平台

可视化是可以被再可视化的，例如superset，通过操作SQL实现图表，有一些产品甚至能做到根据数据的内容智能分类，推荐图表类型，实时的进行可视化开发，这样的功能才是可视化现有的发展方向，我们需要大量的可视化内容来对公司发生产出，例如服装行业，销售部门：进货出货，颜色搭配对用户的影响，季节对选择的影响 生产部门：布料价格走势？ 产能和效率的数据统计？ 等等，每一个部门都可以有一个数据大屏，可以通过平台任意规划自己的大屏，所有人每天能够关注到自己的领域动向，这才是大数据可视化应用的具体意义。

结语

洋洋洒洒写了很多，对我近两年的所见所闻所学所想进行了一些总结。

有些童鞋会问，不是技术么？为什么没有代码？我要说，代码是要学的，要写的，但是与工作无关，代码是我个人的技能，个人傍身，实现个人想法的重要技能。 但是代码与业务的关系不大，在工作中，懂业务的人代码写的更好，因为他知道公司想要什么。 如果你业务很差，那也没关系，你代码好就行了呀，根据别人的交代干活，也是很不错的。技术和业务是相辅相成的，稍后博主总结代码的精进。

写完了，我的焦虑一丝未少，我的代码规范性不够，目前技术栈JS、Java、Node.js、Python 。

主业JS熟练度80%，正在研究阮一峰的es6（看的差不多）和vuejs的源码（有点搁浅），vuejs算是中等，css和布局方面可以说还可以，另外d3.js，go.js都是处于会用，能干活。 Node.js呢，express和koa无问题，看过一些express的源代码，还写过两个中间件。

Java、Python都处于能做项目的程度，目前也不想抽很多精力去深入它们，就想要保持在想用能用的地步。

未来的几年，我打算多学学人工智能、大数据开发的知识，未来这块应该还有一些热度的。

最后和大家共勉，三人行，必有我师焉。

名称栏目：sqlserver爬虫,sql爬数据
文章源于：http://cdiso.cn/article/dsspcdc.html