又一家数据公司被查，爬虫到底做错了什么？

左手的ㄟ右手 2024-04-19 08:31 64阅读 0赞

> 9 月 6 日下午，多位业内人士称，杭州知名大数据服务公司杭州魔蝎数据科技有限公司，疑似被相关执法人员控制，其中一位周姓核心高管人员被警方带走。

以上是昨天技术圈传播的一则新闻，又一家数据公司被调查，很多数据从业者、爬虫开发者发出了“感叹” —— 「爬虫用得好，XX进得早；数据玩得溜，XX吃个够」。

魔蝎科技作为一家数据服务公司，曾在 2017 年一篇『爬虫凶猛：爬支付宝、爬微信、窃取现金贷放贷数据』的文章中，被指出存在开发使用恶意爬虫的行为。

当然关于魔蝎科技为什么被查，这个等待执法部门的调查结果即可，咱们不在这里无端猜测。

我今天要说的是关于爬虫的合法性，我希望通过一些案例来探讨：怎样做一个不触碰红线的爬虫开发者。

![640?wx\_fmt=jpeg][640_wx_fmt_jpeg]

爬虫作为一种计算机技术，具有技术中立性，爬虫技术在法律上从来没有被禁止。爬虫的发展历史可以追溯到 20 年前，搜索引擎、聚合导航、数据分析、人工智能等业务，都需要基于爬虫技术。

但是爬虫作为获取数据的技术手段之一，由于部分数据存在敏感性，如果不能甄别哪些数据是可以爬取，哪些会触及红线，可能下一位上新闻的主角就是你。

如何界定爬虫的合法性，目前没有明文规定，但我通过翻阅大量文章、事件、分享、司法案例，我总结出界定的三个关键点：**采集途径**、**采集行为**、**使用目的**。

## 数据的采集途径 ##

通过什么途径爬取数据，这个是最需要重视的一点。总体来说，**未公开、未经许可、且带有敏感信息**的数据，不管是通过什么渠道获得，都是一种不合法的行为。

所以在采集这类比较敏感的数据时，最好先查询下相关法律法规，特别是用户个人信息、其他商业平台的信息 等这类信息，寻找一条合适的途径。

### 个人数据 ###

采集和分析个人信息数据，应该是当下所有互联网都会做的一件事，但是大部分个人数据都是非公开的，想获得必须通过合法途径，可参见『网络安全法』第四十一条：

> 网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意...

也就是必须在**提前告知收集的方式、范围、目的，并经过用户授权或同意后**，才能采集使用，也就是我们常见的各种网站与 App 的用户协议中关于信息收集的部分。

相关反面案例：

> 8月20日，澎湃新闻从绍兴市越城区公安分局获悉，该局日前侦破一起特大流量劫持案，涉案的新三板挂牌公司北京瑞智华胜科技股份有限公司，涉嫌非法窃取用户个人信息30亿条，涉及百度、腾讯、阿里、京东等全国96家互联网公司产品，目前警方已从该公司及其关联公司抓获6名犯罪嫌疑人。

节选自 澎湃新闻：『新三板挂牌公司涉窃取30亿条个人信息，非法牟利超千万元』\[1\]

### 公开数据 ###

从合法公开渠道，并且不明显违背个人信息主体意愿，都没有什么问题。但如果通过**破解**、**侵入**等“黑客”手段来获取数据，那也有相关法律等着你：

> 刑法第二百八十五条第三款规定的“专门用于侵入、非法控制计算机信息系统的程序、工具”：

### 违反 Robots 协议 ###

虽然 Robots 协议没有法规强制遵守，但 Robots 协议作为行业约定，在遵循之下会给你带来合法支持。

因为 Robots 协议具有指导意义，如果注明 Disallow 就说明是平台明显要保护的页面数据，想爬取之前应该仔细考虑一下。

## 数据的采集行为 ##

使用技术手段应该懂得克制，一些容易对服务器和业务造成干扰甚至破坏的行为，应当充分衡量其承受能力，毕竟不是每家都是 BAT 级。

### 高并发压力 ###

做技术经常专注于优化，爬虫开发也是如此，想尽各种办法增加并发数、请求效率，但高并发带来的近乎 DDOS 的请求，如果对对方服务器造成压力，影响了对方正常业务，那就应该警惕了。

如果一旦导致严重后果，后果参见：

> 《刑法》第二百八十六条还规定，违反国家规定，对计算机信息系统功能进行删除、修改、增加、干扰，造成计算机信息系统不能正常运行，后果严重的，构成犯罪

所以请爬取的时候，即使没有反爬限制，也不要肆无忌惮地开启高并发，掂量一下对方服务器的实力。

### 影响正常业务 ###

除了高并发请求，还有一些影响业务的情况，常见的比如抢单，会影响正常用户的体验。

## 数据的使用目的 ##

数据使用目的同样是一大关键，就算你通过合法途径采集的数据，如果对数据没有正确的使用，同样会存在不合法的行为。

### 超出约定的使用 ###

一种情况是公开收集的数据，但没有遵循之前告知的使用目的，比如用户协议上说只是分析用户行为，帮助提高产品体验，结果变成了出售用户画像数据。

还有一种情况，是有知识产权、著作权的作品，可能会允许你下载或引用，但明显标注了使用范围，比如不能转载、不能用于商业行为等，更不能去盗用，这些都是有法律明文保护，所以要注意使用。

其他情况就不列举了。

### 出售个人信息 ###

关于出售个人信息，千万不要做，是法律特别指出禁止的，参见：

> 根据《最高人民法院 最高人民检察院关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第五条规定，对“情节严重”的解释：

### 不正当商业行为 ###

如果将竞品公司的数据，作为自己公司的商业目的，这就可能存在构成不正当商业竞争，或者是违反知识产权保护。

这种情况在目前涉及爬虫的商业诉讼案中比较常见，两年前比较知名的案件，“车来了” App 抓取其竞品 “酷米客” 的公交车数据，并展示在自己的产品上：

> 虽然公交车作为公共交通工具，其实时运行路线、运行时间等信息仅系客观事实，但当此类信息经过人工收集、分析、编辑、整合并配合GPS精确定位，作为公交信息查询软件的后台数据后，此类信息便具有了实用性并能够为权利人带来现实或潜在、当下或将来的经济利益，已经具备无形财产的属性。元光公司利用网络爬虫技术大量获取并且无偿使用谷米公司“酷米客”软件的实时公交信息数据的行为，实为一种“不劳而获”、“食人而肥”的行为，构成不正当竞争。

节选自『深圳市中级人民法院（2017）粤03民初822号民事判决书』

## 「爬虫法」即将出台 ##

好消息是，相关办法已经在路上了。

> 5 月 28 日零点，国家互联网信息办公室发布了《数据安全管理办法》征求意见稿。

我也查阅了这份意见稿，里面对数据的获取、存储、传输、使用等都做了一些规定，包括关于爬虫行为的若干规定（还在征求阶段，因此后续可能会有变化）。

比如，第二章第十六条：

> 网络运营者采取自动化手段访问收集网站数据，不得妨碍网站正常运行；此类行为严重影响网站运行，如自动化访问收集流量超过网站日均流量三分之一，网站要求停止自动化访问收集时，应当停止。

第三章第二十七条：

> 网络运营者向他人提供个人信息前，应当评估可能带来的安全风险，并征得个人信息主体同意。下列情况除外：

节选自『数据安全管理办法（征求意见稿）』\[2\]

## 结语 ##

**在此声明：以上所有内容仅是个人分析，可能存在错误之处，不能作为任何依据，具体以相关法律法规为准。**

希望能给各位爬虫开发者，也包括其他开发者一些启示：技术虽中立，使用有善恶，一定要合理合规、严格谨慎地使用技术。

### References ###

`[1]` 新三板挂牌公司涉窃取30亿条个人信息: *https://www.thepaper.cn/newsDetail\_forward\_2362227*`[2]` 数据安全管理办法（征求意见稿）: *http://www.moj.gov.cn/news/content/2019-05/28/zlk\_235861.html*

--------------------

**新福利:**

**从9月11日开始至10月15日截止，一共五周时间，每周二我会从公众号底部留言互动+分享+再看综合最多的读者中抽取一名读者，免费包邮送实体新书《HBase原理与实践》，留言互动起来吧~**

![640?wx\_fmt=jpeg][640_wx_fmt_jpeg 1]

猜你喜欢

1、

2、

3、

4、

![640?wx\_fmt=png][640_wx_fmt_png]

![640?wx\_fmt=png][640_wx_fmt_png]

**扫码关注我们**

过往记忆大数据

个人微信号：fangzhen0219

拉你进技术交流群

[640_wx_fmt_jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/58275d424deb46629aa61f0e42158ba4.png
[640_wx_fmt_jpeg 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/c510032b732745a1bb401f2109a8ba7c.png
[640_wx_fmt_png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/18/319f0be081e840888be3ccd71d514ec0.png

发表评论取消回复

表情：

评论列表（有 0 条评论，64人围观）

还没有评论，来说两句吧...

相关阅读

相关又一家数据公司被查，爬虫到底做错了什么？

9 月 6 日下午，多位业内人士称，杭州知名大数据服务公司杭州魔蝎数据科技有限公司，疑似被相关执法人员控制，其中一位周姓核心高管人员被警方带走。以上是昨天技术圈传播...

左手的ㄟ右手/ 2024年04月19日 08:31/ 0 赞/ 65 阅读

相关 AFNetworking到底做了什么？

写在开头： * 作为一个iOS开发，也许你不知道NSUrlRequest、不知道NSUrlConnection、也不知道NSURLSession...（说不下去了...

àì夳堔傛蜴生んèń/ 2024年04月17日 14:02/ 0 赞/ 68 阅读

相关 fastjson到底做错了什么？为什么会被频繁爆出漏洞？

fastjson大家一定都不陌生，这是阿里巴巴的开源一个JSON解析库，通常被用于将Java Bean和JSON 字符串之间进行转换。前段时间，fastjson被爆出过多次

朱雀/ 2023年09月23日 14:55/ 0 赞/ 120 阅读

相关 fastjson到底做错了什么？为什么会被频繁爆出漏洞？

fastjson大家一定都不陌生，这是阿里巴巴的开源一个JSON解析库，通常被用于将Java Bean和JSON 字符串之间进行转换。前段时间，fastjson被爆出过多次

本是古典何须时尚/ 2023年02月23日 08:11/ 0 赞/ 86 阅读

相关这一行代码到底做了什么？

![format_png][] 每天叫醒你的不是闹钟，而是梦想 ● 前言我们在了解Spring的Bean时候，首先要明白Bean对象与普通的对象有什么区别，怎样

墨蓝/ 2023年02月21日 11:44/ 0 赞/ 67 阅读

相关成立一家公司，你需要做什么?

企业名称预核准（工商bai局）–验资（会计师事务du所）–办理相zhi应的前置审批手续–申请营业执照（工商dao局）要注册一个公司，首先想好经营什么，怎样经营好，再来注册

待我称王封你为后i/ 2022年12月17日 08:47/ 0 赞/ 186 阅读

相关 python程序员在公司都是做什么的-在一家公司呆了 10 年的程序员，最后都怎么了？...

这个话题一直想和大家聊聊，但一耽搁就到了现在... 首先能在一个公司呆10年，至少能证明公司活得还不错，因为 90% 的公司都活不过 3 年。我在职场刚好呆了10年时间，

小咪咪/ 2022年11月21日 14:08/ 0 赞/ 162 阅读

相关昨天去了一家游戏公司笔试，概率题被鄙视了。。

诶！还要考概率。。全忘了，下本pdf补一补。 “概率论习题集” ![奋斗][struggle.gif] [struggle.gif]: /ima

朱雀/ 2022年09月18日 01:51/ 0 赞/ 227 阅读

相关 delete 到底做了什么

首先看一下定义： new 和 delete 是两个运算符，是C++的东西（C没有），用于管理堆内存的。它封装了C中的 malloc 和 free 函数 n

向右看齐/ 2022年05月27日 12:58/ 0 赞/ 273 阅读

相关 ioc到底做了些什么

IOC 是inversion of control 控制反转,但是反转了什么? 一般来说:我们创建对象是这样的; Object obj=new Object(

约定不等于承诺〃/ 2022年03月01日 04:50/ 0 赞/ 403 阅读