网络爬虫是什么鬼?能做些什么有趣又有用的事儿?日期:2018-04-27 人气:722005
|
用数据说话的年头,如何能够搞到完整全面的数据,可是件极其重要且并不容易的事。要真正做好大数据时代的分析,仅仅靠企业内部的数据是远远不够的,还需要借助外部力量。 这个时候,互联网上的资源就格外可爱了,从网络上爬取数据资源,就成为了非常关键的一环。 什么是网络爬虫? 网络爬虫也叫网络蜘蛛,即Web Spider,名字也是非常之形象。 如果把互联网比喻成一个蜘蛛网,那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛通过网页的链接地址来寻找网页,从网站某一个页面(通常是首页)开始,读取网页的内容,找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,一直循环下去,直到把整个网站所有的网页都抓取完为止。 如果把整个互联网就当成一个网站,那么网络蜘蛛可以用这个原理把互联网上所有的网页都抓取下来。 光是听起来就很有意思,那利用这等技术能做些什么好玩的事儿呢? 随意选取了部分知友的回答,大家感受下~~ @冰蓝 之前在北京买房,谁想房价开始疯长,链家的房价等数据分析只给了一小部分,远远不能满足自己的需求。于是晚上花了几个小时的时间写了个爬虫,爬下了北京所有的小区信息及北京所有小区的所有历史成交记录。 @陈乐群 上次发现Android QQ和iOS QQ可以显示网络状态(2G/WiFi)之后,突然想到,这样子好像可以监视某人的出行和作息规律。简单的来说,在家里或者工作的地方,一般是有WiFi的,然后出门了,WiFi就断掉了。如果监测频率足够频繁,那么结合一定的推理,可以大致推测出一个人的行动。如果长期监视,那么可以大致推出一个人的作息时间。 因为只有Android QQ和iOS QQ有这个功能,所以要得到一个人的网络状态比较麻烦。我的做法是跑 Android 模拟器。然后用按键精灵模拟,并把网络状态截图,用 curl post到服务器上。服务器会把每次发送的时间、截图保存下来。因为是用程序截图的,所以只要网络状态是一样的,那么截图就是一样的,这样服务器就只会保存2~3张图片而已,其余的发现是相同的图片,数据库做个标记就好了。然后人工做OCR,还是注意到只有2~3张图片,所以工作量很少。 得到数据后,要做各种统计就可以自己搞了…… @森羴 在用Python写网页爬虫之前,我只用来写过了一个驾校约车的脚本,让当时的我不惧上万的学车同僚,在约车环节没有输在起跑线上。 接着那段时间,我女朋友的领导每天下班都会下任务,要收集100条有招聘需求的信息,第二天检查。看到她熬夜百度+复制粘贴到半夜,心疼死了。 想到了某个牛人说:一切重复性的工作都可以用程序来完成。于是偷偷花了些时间研究了下她经常查的某些同类业务网站的页面数据,培育了这只爬虫。主要技能就是爬这些网站的招聘公司信息及联系方式,保存到Excel中。 在我将战斗成果----1000多个客户资料的Excel表格发给她的时候,先惊喜,后审问,再感慨!依稀记得那天她发了一条朋友圈,内容是:“有个程序员男朋友,感觉好幸福啊!!”成就感走直线啊,都能让她感到幸福,你说这只爬虫是不是做了很酷很有趣的事情呢? @柳易寒 我用爬虫爬了我爱白菜网、超值分享汇、发现值得买、惠惠购物、今日聚超值、留住你、买手党、没得比、慢慢买、牛杂网、买个便宜货、什么值得买、天上掉馅饼、一分网、折800值得买、值值值等网站的折扣信息。 这些网站都是提供的一些及时的、性价比较高的商品,很多时候要一个一个网站的看(重度用户),很容易就会错过一些很划算的商品。 @小白 大二学生一枚,前段时间中期考试,成绩一直不出来,又不想每次都登录,突然就像用以下所学的东西来干点事情。 说干就干,花了我将近4个小时完成成绩提醒功能。主要是用Python定时抓取数据(定时用Ubuntu的crontab),分析数据是否变化,然后发送短信。其实大部分时间是花在分析学校模拟登陆那一块了,毕竟要提取各种值,还有url重定向,本来就才学Python,对一些东西也不是很熟悉。 运行起来之后还是效果还不错,10分钟抓一次,第一时间知道了我的概率论。 @顾旻玮 在学校的时候做过一个项目,通过爬微博的文字,分析国内各个地区的用户收听虾米的热度和最受欢迎的歌手。当然也没有用什么很复杂的技术,就是写基本的TF-IDF。 做完的时候觉得自己好有想法啊,能实现这么有意思的东西。后来发现早就有公司做过了。当然别人做的是美国版的。 于是现在,我就在这家公司工作。 @晨晨 朋友交易了一套房子,手机号流落到了各种中介手里,隔几天就有中介电话骚扰,不胜其烦。每接一个电话都加黑名单,但还是有新号码打过来,so??问我咋办! Android 手机的拦截倒不是问题,但需要房产经纪人的号码数据库,就只能去网上爬了! 各个房产站的广州站点加上58什么的,一个多小时爬了快两万个号码,去重之后还有一万五千多?? 一时兴起,又去爬了深圳、北京和上海,现在都不知道拿这些号码去干嘛了?? @孟德超 非计算机系。所以我做的比起其他人来说要简单的多,但是却解决了一些很实用的问题,也让我认识到各行各业的人都需要学一点编程。 我一个同学做数学建模,需要57个城市两两之间的距离。他们本来想在百度查,可是57*56/2=1596,也就是说他们光查数据就要百度1596次。刚好我那个时候接触了一点爬虫,就找到一个可以查询距离的网站,大概写了几十行代码,两分钟就解决问题了。 @余生梦 说个简单实用的例子吧。昨晚突然发现我在某培训网站的的会员马上就要过期了,于是赶紧写了个爬虫,把没看完的教学视频全下载下来了…… @ animalize 用爬虫技术做了个个人信息收集系统,部署在卡片式电脑(如树莓派、Cubieboard)上。 人们上各种网站浏览感兴趣的内容,如果一个个打开看,太浪费时间。如果不去看,又会错过很多感兴趣的内容,很可惜。这个东西呢,定时去获取用户感兴趣的信息,并通过web的方式展示出来。用户每天看一眼这个系统就可以了。(有网友说用RSS就可以了,可是现在提供RSS的网站实在不多,我这里大部分信息是从普通网页里提取的。) @萝莉控夫斯基 我的爱人是某网络公司的销售,需要收集各种企业信息然后打电话联系。于是乎利用采集脚本抓一坨一坨的资料给她用,而她的同事天天自己搜资料整理到半夜。 文本来自采集文章 http://nujiang.wepowerbattery.com/23/250.html 如需转载或删除,请联系管理员。 上一条:企业做网络整合营销需要做什么
|
热点资讯
- 01-22 一个好网站对于企业的作用
- 01-22 网站seo优化:站内优化实战技巧
- 01-22 外贸网站建设在google中的6大规则
- 01-22 谈我对阿里巴巴排名信息重发工具的看法
- 01-22 如何利用跟踪外推情况来提高网站排名
- 01-22 网站排名怎么提升?
- 01-22 揭秘网站建设,网络营销,网络推广,SEO之间的关系
- 01-22 关于移动端自然搜索排名靠前的7大标准
- 01-22 外贸网站优化内部链接
- 01-22 如何做好网站优化的方法
- 01-22 网站建设之内容为王
- 01-22 外贸网站营销怎么做?从用户体验与SEO优化上说起
- 01-22 商城类网站如何进行SEO优化?
- 01-22 四步解决谷歌seo优化排名不佳的原因
- 01-22 提高网站排名6技巧
- 01-22 营销型网站具备的“核心优势”
- 01-22 为什么网站收录大量的掉?
- 01-22 无线端下拉框词做移动端排名优化
- 01-22 经验放送:“百度知道”排名推广技巧你知多少
- 01-22 干货 | 详细解析外贸网站海外推广八大方法
- 01-22 外贸网站推广不要仅仅局限于seo优化
- 01-22 网站建设离不开积极的推广工作
- 01-22 未来SEO要以移动端优化为主了?
- 01-22 网站优化公司内幕
【怒江本地网络公司】——承诺3小时内上门服务!怒江上门全国热线:400-666-2014 【我要收藏此页面】 网站地图
网站维护:深一深圳网站建设
全国怒江网络公司-服务网店
- 漳州网络公司
- 张掖网络公司
- 浙江网站制作
- 云南网站制作
- 新疆网站制作
- 西藏网站制作
- 四川网站制作
- 陕西网站制作
- 山西网站制作
- 山东
- 内蒙古网络公司
- 辽宁网络公司
- 江西网络公司
- 江苏网络公司
- 湖南网络公司
- 湖北网络公司
- 黑龙江网络公司
- 河南网络公司
- 河北网络公司
- 贵州网络公司
- 广西网络公司
- 广东网络公司
- 甘肃网络公司
- 福建网络公司
- 安徽网络公司
- 大朗网络公司
- 横沥网络公司
- 东坑网络公司
- 寮步网络公司
- 谢岗网络公司
- 桥头网络公司
- 企石网络公司
- 石排网络公司
- 章丘网络公司
- 张家口网络公司
- 张家界网络公司
- 张北网络公司
- 枣庄网络公司
- 禹州网络公司
- 玉溪网络公司
- 玉树网络公司
- 云浮网络公司
- 运城网络公司
- 玉林网络公司
- 榆林网络公司
- 岳阳网络公司
- 永州网络公司
- 永新网络公司
- 益阳网络公司
- 鹰潭网络公司
- 营口网络公司
- 银川网站优化
- 伊犁网站优化
- 伊春网站优化
- 宜春网站优化
- 宜昌网站优化
- 宜宾网站优化
- 盐田网站优化
- 烟台网站优化
- 鄢陵
- 扬州
- 阳泉
- 阳江网站优化
- 阳春网站优化
- 盐城网站优化
- 延边网站优化
- 延安网站优化
- 雅安网站优化
- 徐州网站优化
- 许昌网站优化
- 宣城网站优化
- 西双版纳网站优化
- 忻州网站优化
- 新余网站优化
- 信阳网站优化
- 新乡网站优化
- 西宁网站优化
- 邢台网站优化
- 兴安盟网站优化
- 锡林郭勒盟网站优化
- 孝感网站优化
- 咸阳网站优化
- 仙桃网站优化
- 咸宁网站优化
- 湘西网站优化
- 湘潭网站优化
- 香港网站优化
- 襄樊网站优化
- 西安网站优化
- 厦门网站优化
- 梧州网站优化
- 吴忠
- 五指山
- 武夷山
- 无锡
- 武威
- 乌鲁木齐
- 乌兰察布
- 五家渠
- 芜湖
- 武汉
- 乌海
- 温州
- 文山
- 渭南
- 威海
- 潍坊
- 瓦房店
- 图木舒克
- 吐鲁番
- 铜仁
- 铜陵
- 通辽
- 通化
- 铜川
- 桐城
- 铁岭
- 天水
- 天门
- 天津
- 唐山
- 泰州
- 台州
- 太原
- 台湾
- 台山
- 泰安
- 宿州
- 苏州
- 宿迁
- 随州
- 遂宁
- 绥化
- 松原
- 四平
- 沭阳
- 朔州
- 顺德
- 双鸭山
- 石嘴山
- 十堰
- 石家庄
- 石河子
- 深圳
- 沈阳
- 神农架
- 邵阳
- 绍兴
- 韶关
- 汕尾
- 汕头
- 山南
- 上饶
- 商丘
- 商洛
- 上海
- 三亚
- 三明
- 三门峡
- 日照
- 日喀则
- 衢州
- 曲靖
- 泉州
- 七台河
- 其他
- 齐齐哈尔
- 钦州
- 秦皇岛
- 清远
- 庆阳
- 清徐
- 青岛
- 黔西南
- 黔南
- 潜江
- 黔东南
- 濮阳
- 莆田
- 普洱
- 萍乡
- 平凉
- 平顶山
- 攀枝花
- 盘锦
- 怒江
- 宁德
- 宁波
- 内江
- 那曲
- 南阳
- 南通
- 南山
- 南平
- 南宁
- 南京
- 南充
- 南昌
- 牡丹江
- 明港
- 绵阳
- 梅州
- 眉山
- 茂名
- 马鞍山
- 吕梁
- 泸州
- 洛阳
- 漯河
- 娄底
- 龙岩
- 陇南
- 龙岗网站制作
- 柳州
- 六盘水
- 六安
- 丽水
- 林芝
- 临猗
- 临沂
- 临夏
- 临汾
- 临沧
- 丽江
- 辽源
- 辽阳
- 聊城
- 连云港
- 凉山
- 乐山
- 拉萨
- 兰州
- 廊坊
- 莱芜
- 来宾
- 昆明
- 库尔勒
- 克孜勒苏
- 垦利
- 克拉玛依
- 喀什
- 开封
- 济源
- 鸡西
- 酒泉
- 九江
- 锦州
- 晋中
- 济宁
- 金华
- 荆州
- 荆门
- 景德镇
- 晋城
- 金昌
- 济南
- 吉林
- 揭阳
- 嘉峪关
- 嘉兴
- 焦作
- 江门
- 吉安
- 佳木斯
- 湖州
- 霍邱
- 呼伦贝尔
- 葫芦岛
- 惠州网站优化
- 呼和浩特
- 防狼喷雾
- 黄石
- 黄山
- 黄南
- 黄冈
- 淮南
- 怀化
- 淮北
- 淮安
- 红河
- 贺州
- 菏泽
- 河源
- 和县
- 和田
- 衡阳
- 衡水
- 黑河
- 鹤岗
- 合肥
- 河池
- 鹤壁
- 汉中
- 杭州
- 邯郸
- 哈密
- 海西
- 海南
- 海拉尔
- 海口
- 海东
- 海北
- 哈尔滨
- 固原
- 果洛
- 贵阳
- 桂林
- 贵港
- 馆陶
- 广州
- 广元
- 广安
- 甘孜
- 赣州
- 甘南
- 抚州
- 福州
- 阜阳
- 阜新
- 福田
- 抚顺
- 佛山
- 防城港
- 鄂州
- 恩施
- 鄂尔多斯
- 东营
- 东莞
- 迪庆
- 定州
- 定西
- 德州
- 德阳
- 德宏
- 达州
- 大兴安岭
- 大同
- 大庆
- 丹东
- 大连
- 大理
- 大丰
- 滁州
- 楚雄
- 崇左
- 池州
- 赤峰
- 郴州
- 成都
- 承德
- 潮州
- 朝阳
- 巢湖
- 常州
- 长治
- 长沙
- 昌吉
- 长葛
- 昌都
- 常德
- 长春
- 沧州
- 亳州
- 博尔塔拉
- 滨州
- 毕节
- 本溪
- 北京
- 北海
- 巴中
- 巴音郭楞
- 巴彦淖尔盟
- 包头
- 保山
- 宝鸡
- 保定
- 宝安网络公司
- 蚌埠
- 白银
- 白山
- 百色
- 白城
- 澳门
- 安阳
- 安顺
- 鞍山
- 安庆
- 安康
- 阿里
- 阿拉善盟
- 阿拉尔
- 阿克苏
- 阿坝
- 道滘网站制作
- 惠城
- 惠阳网站优化
- 博罗
- 惠东
- 龙门
- 淡水
- 大埔
- 五华
- 紫金
- 龙川
- 茶山网络公司
- 清溪网站制作
- 塘厦网站优化
- 黄江网络公司
- 凤岗网站制作
- 石龙网站优化
- 石碣网络公司
- 长安网站制作
- 常平网站优化
- 樟木头网络公司
- 厚街网站制作
- 虎门网站优化
- 西城网络公司
- 南城网站制作
- 东城网站优化
- 城区网络公司
- 罗湖网络公司
- 华强北网站优化
- 西丽网络公司
- 大浪网站优化
- 光明网络公司
- 龙华网站制作
- 观澜网站优化
- 观兰网络公司
- 公明网站制作
- 松岗网站优化
- 沙井网络公司
- 西乡网站制作
- 福永网站优化
- 石岩网络公司
- 坂田网站制作
- 大芬村网站优化
- 坪山网络公司
- 坪地网站制作
- 横岗网站优化
- 布吉网络公司
- 平湖网站制作
- 遵义
- 资阳
- 自贡
- 淄博
- 株洲
- 驻马店
- 珠海
- 诸城
- 舟山
- 周口
- 中卫
- 中山
- 重庆
- 镇江
- 郑州
- 正定
- 赵县
- 昭通
- 肇庆
- 湛江