Skip to content

MageWeiG/Scrapy_script

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

6 Commits
 
 
 
 

Repository files navigation

Scrapy_script

software

这个文件夹下面是一个scrapy爬虫的框架,使用conda来配置的虚拟环境

爬虫的功能是,爬取联想应用商店的各种类型的软件中,下载量在5万以上的软件的信息。

环境的配置在scrapy_py3.yaml文件里面,使用conda env create -f scrapy_py3.yaml命令导入环境。

运行爬虫的命令是scrapy crawl downs -o softt.csv结果将输出到同目录下的softt.csv文件中。

About

the scrapy script that i used.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages