如何在Pycharm中安装Scrapy
导读:本文共1205.5字符,通常情况下阅读需要4分钟。同时您也可以点击右侧朗读,来听本文内容。按键盘←(左) →(右) 方向键可以翻页。
摘要: Scrapy是一个开源的网络爬虫框架,Python编写的。最初设计用于网页抓取,也可以用来提取数据使用API或作为一个通用的网络爬虫。是数据采集不可必备的利器。安装pipinstallscrapy如果使用上面的命令太慢。国内可以使用豆瓣源进行加速。pipinstall-ihttps://pypi.douban.com/simplescrapy注意要写错了,是 h... ...
目录
(为您整理了一些要点),点击可以直达。Scrapy是一个开源的网络爬虫框架,Python编写的。最初设计用于网页抓取,也可以用来提取数据使用API或作为一个通用的网络爬虫。是数据采集不可必备的利器。
安装
pipinstallscrapy
如果使用上面的命令太慢。国内可以使用豆瓣源进行加速。
pipinstall-ihttps://pypi.douban.com/simplescrapy
注意要写错了,是 https://pypi.douban.com/simple 很多包都可以使用这个源进行加速,这也是pip的一个技巧,还可以使用阿里云进行加速。
安装完成之后在命令行输入
scrapy-v
如果出现了相应的版本号就说明安装成功。
创建项目
目前还没有IDE 能够创建scrapy的项目,我们必须手动初始化项目。
1、找一个目录
输入命令
scrapystartprojectSpiderObject
命令行出现这样的结果说明创建成果
Youcanstartyourfirstspiderwith:cdSpiderObjectscrapygenspiderexampleexample.com
去文件夹中看看
初始化项目
使用pycharm打开该项目
如果出现这个页面就说明对了。
下面生成一个模板
打开pycharm的terminal
输入
scrapygenspiderBiduSpiderhttp://www.baidu.com
我们的spider 包下面会多一个文件
</div> <div class="zixun-tj-product adv-bottom"></div> </div> </div> <div class="prve-next-news">
如何在Pycharm中安装Scrapy的详细内容,希望对您有所帮助,信息来源于网络。