python爬虫用协程还是多线程，python 协程 爬虫

为什么在Python里推荐使用多进程而不是多线程

原因是：每个进程有各自独立的GIL，互不干扰，这样就可以真正意义上的并行执行，所以在python中，多进程的执行效率优于多线程(仅仅针对多核CPU而言)。

IO密集型代码(文件处理、网络爬虫等)，多线程能够有效提升效率(单线程下有IO操作会进行IO等待，造成不必要的时间浪费，而开启多线程能在线程A等待时，自动切换到线程B，可以不浪费CPU的资源，从而能提升程序执行效率)。

因为python的底层实现GIL对于多线程的支持并不好。

由于线程比进程更小，基本上不拥有系统资源，所以对它的调度所付出的开销就会小得多，能更高效的提高系统内多个程序间并发执行的程度，从而显著提高系统资源的利用率和吞吐量。

而每次释放GIL锁，线程进行锁竞争、切换线程，会消耗资源。并且由于GIL锁存在，python里一个进程永远只能同时执行一个线程(拿到GIL的线程才能执行)，这就是为什么在多核CPU上，python的多线程效率并不高。

相关问答

Q1: 为什么python爬虫比js火

1、容易被市场接纳。Python开发工程师，尤其是Python全栈工程师能轻松搭建自己的网站，作品展示方便，很容易被自由市场接纳。与大数据息息相关。

2、Python之所以这么火，有以下几个原因：简单易学：Python语法简单、易于理解，上手难度低，因此很多初学者都选择使用Python作为编程语言。

3、Node.js是一种基于JavaScript的后端开发语言，具有高效的I/O操作和事件驱动的特性，适合处理高并发的网络请求。Node.js的异步编程模型可以提高爬虫的效率，适合处理大规模的数据采集任务。

Q2: 一篇文章带你深度解析Python线程和进程

不同的进程拥有不同的虚拟地址空间，而同一进程内的不同线程共享同一地址空间。

Python中的多进程是通过multiprocessing包来实现的，和多线程的threading.Thread差不多，它可以利用multiprocessing.Process对象来创建一个进程对象。

）地址空间：进程间相互独立的每个进程都有自己独立的内存空间，也就是说一个进程内的数据在另一个进程是不可见的。但同一进程中的各线程间数据是共享的。

Q3: 优化Python爬虫速度的方法有哪些

1、使用开源的爬虫库scrapy，原生支持多线程，还可以设定抓取速率，并发线程数等等参数；除此之外，scrapy对爬虫提取HTML内容也有良好的支持。

2、多进程的话可以高效利用CPU。但是其实多数情况是在网络，所以说更好的解决办法是用多个机房的多台机器同时跑多进程的爬虫，这样减少网络阻塞。实现的话，用scrapy+rq-queue然后用redis来作队列就好。

3、打包技术。可以将python文件打包成可执行的exe文件，让其在后台执行即可。其他。比如，使用网速好的网络等等。 反爬虫的措施 限制请求头，即request header。

Q4: 为什么在python里推荐使用多进程而不是多线程

原因是：每个进程有各自独立的GIL，互不干扰，这样就可以真正意义上的并行执行，所以在python中，多进程的执行效率优于多线程(仅仅针对多核CPU而言)。

IO密集型代码(文件处理、网络爬虫等)，多线程能够有效提升效率(单线程下有IO操作会进行IO等待，造成不必要的时间浪费，而开启多线程能在线程A等待时，自动切换到线程B，可以不浪费CPU的资源，从而能提升程序执行效率)。

因为python的底层实现GIL对于多线程的支持并不好。

由于线程比进程更小，基本上不拥有系统资源，所以对它的调度所付出的开销就会小得多，能更高效的提高系统内多个程序间并发执行的程度，从而显著提高系统资源的利用率和吞吐量。

而每次释放GIL锁，线程进行锁竞争、切换线程，会消耗资源。并且由于GIL锁存在，python里一个进程永远只能同时执行一个线程(拿到GIL的线程才能执行)，这就是为什么在多核CPU上，python的多线程效率并不高。

关于python爬虫用协程还是多线程和python 协程 爬虫的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。