深入理解IIS的多线程工作机制

首先让我们来看看IIS里面的这2个数字：最大并发连接数，队列长度。先说这2个数字在哪里看。

 

最大并发连接数：在IIS中选中一个网站，右键网站名称，在右键菜单中找到并点击【管理网站】->【高级设置】。打开对话框如下图：

 

队列长度：在IIS中选中【应用程序池】，在应用程序池列表中，右键你想查看的，在右键菜单中选择【高级设置】。打开如下对话框：

 

这两个数字表面上看是影响我们站点的并发处理能力的，但是具体是如何影响一个网站的并发处理能力的呢？要完全理解IIS的并发处理能力，除了这2个数字，实际上还有一个非常关键的数字：IIS最大并发工作线程数。

 

1. IIS最大并发工作线程数

在以前很长一段时间，我一直以为IIS的【最大并发连接数】就是影响IIS最大并发工作线程数。我以为将【最大并发连接数】设置为1万，那么当1万个请求同时到来的时候，IIS会开启1万个线程进行处理，如果同时到来2万个请求，由于最大并发连接数只有1万，那么剩余1万个请求就会放在队列里面，当前面的1万个线程中某个完成了请求之后，再从队列里面取一个请求。但，这个理解是完全错误的，相信很多朋友也跟我有同样的理解。

 

现在，首先让我们来理解什么是【IIS最大并发工作线程数】。这个数字在IIS里面是没有界面进行设置的，我以前根本就不知道有这个数字。这个数字跟操作系统相关，我的win7系统的IIS的值是10，VS2012自带的IIS Express的值是80。对于windows服务器版本的系统的具体值是多少没有测试过，但我猜应该也是有限制的。

 

这个数字到底是什么意思呢？回到上面举的例子，当1万个请求同时进入IIS的时候，由于win7系统的IIS只有10个工作线程，那么这时1万请求中只有10个请求会在第一时间被处理，剩余9990个请求都需要排队。也就是说，IIS最多能够安排10个线程同时处理请求（win7版本的IIS，有的可能是20）。

 

所以，如果你用自己的win7系统测试IIS的性能的时候，你可能发现，不管你怎么设置【最大并发连接数】，你的IIS处理能力都很有限。

 

2. 最大并发连接数

上面讲的IIS最大并发工作线程数，看上去就是IIS的并发处理能力，如果是这样，那么【最大并发连接数】有什么意义呢？

 

还是上面的例子，如果1万个请求同时到来，而我们的win7系统的IIS最大并发工作线程数只有10，这时如果将【最大并发连接数】设置为100，会有什么效果呢？答案是：只有100个请求会收到正常响应，剩余9900个请求直接返回503（服务不可用）的错误。这时，实际上进入排队等待的只有90个请求。

 

再换下测试参数，如果将【最大并发连接数】设置为5000，又会有什么效果？答案你可能已经知道了，那就是一开始就有5000个请求直接返回503，剩下5000个请求慢慢正常返回。

 

这里你看明白了吧，【最大并发连接数】在我们的测试例子中，影响到了排队的数量。这样的话，看上去【队列长度】又不知道什么意思了？

 

3. 队列长度

在上面的例子中，如果1万个请求同时到来，【最大并发连接数】设置为100。这时我们知道，IIS首先会安排那10个线程去处理10个请求，剩下90个请求都需要排队。这时如果我们将【队列长度】设置为50，那会出现什么情况？答案是，40个请求会直接返回503服务不可用的错误（因为队列只有50个的长度，剩下的40个就无法排队了），最终只有60个请求会被正确处理。

 

读到这里，你明白了吗？

 

结论

当很多请求同时到来的时候，IIS会根据【最大并发连接数】来判断是否有多余的请求，多余的请求直接返回503，然后再根据【队列长度】来判断是否有多余的请求排不了队，排不了队的也直接返回503。所以，如何设置【最大并发连接数】和【队列长度】，实际上是有公式可以计算的：

 

最大并发连接数 = 队列长度 + IIS最大并发工作线程数

 

最后再说说IIS的默认值对我们网站并发处理能力的影响。IIS默认的【最大并发连接数】为4294967295（42亿多），而【队列长度】默认值为1000。对于windows server版本的IIS，最大并发工作线程数可能几百（猜测，可能没有限制），按照这个默认值，那么IIS同时处理的请求数也就1000多。1000多这个数字才是IIS真正的并发处理能力，而这个能力跟我们的代码没有关系。那么哪些指标是评判我们网站的处理能力的呢？最重要的指标可能莫过于【每秒处理请求数】吧（在性能分析器里面可以查看），这个数字也叫吞吐率。如果每个请求处理速度非常快，那么那么网站吞吐率就大，吞吐率大那么支持的同时在线人数就大。如果要做秒杀，那就看你的秒杀相关的URL支持多大的吞吐率吧。了解了这么多指标，还没有涉及到CPU的计算能力。CPU的计算能力是如何影响网站的处理能力的呢？还是那么多请求，如果CPU很强大，能够缩减每个请求的处理时间，那必然会提高吞吐率。还有很多的请求，如果花在网络传输或者到数据库的传输时间比较多，这部分等待时间CPU是闲置的，如果能够提高CPU的利用率，也可能提高网站的处理能力，最充分的利用服务器的资源。如果不想改代码而想提高CPU利用率，可以在IIS的应用程序池中设置最大工作进程数（默认值为1），可以设置为10如果当前CPU利用率只有百分之几的话，调整这个数值需要特别注意每一个工作进程是独立的应用程序，全局静态变量不共享。原文:你真的了解：IIS连接数、IIS并发连接数、IIS最大并发工作线程数、应用程序池的队列长度、应用程序池的最大工作进程数 吗？

 

IIS连接数

---

 

一般购买过虚拟主机的朋友都熟悉购买时，会限制IIS连接数，这边先从普通不懂代码用户角度理解IIS连接数

顾名思义即为IIS服务器可以同时容纳客户请求的最高连接数，准确的说应该叫“IIS限制连接数”

这边客户请求的连接内容包括：

1、网站html请求，html中的图片资源，html中的脚本资源，其他需要连接下载的资源等等,任何一个资源的请求即一次连接（虽然有的资源请求连接响应很快）

2、如果网页采用框架（框架内部嵌套网页请求），那么一个框架即一次连接

3、如果网页弹出窗口（窗口内部嵌套网页请求），那么一个窗口一个连接

 

虚拟主机供应商在IIS（6.2版本，以下所有截图均此版本）中  “点击网站”->“右击切换到功能视图”->“点击界面右侧的‘限制’链接”->“编辑网站限制”

 

限制连接数即为虚拟主机供应公开的IIS连接数标准，如果购买的IIS连接数为50,那么我们不得不考虑网站的内容框架和访问量

如果网站图片够多，弹窗窗口随意（可能连时间选择框、简单条件筛选框也用弹出新窗口），加上不得已的打开新页面浏览内容，那么仅仅能容忍10个人同时操作也很正常，我不会把这个操作描述为很多网站说的“10同时在线”，这很容易让人误解，在用户的一次请求（表面上可能是刷新一次网页，实际上内部请求不止一次，事实上很少只有一次）都完成得到服务器响应完毕之后，连接全部会被释放，当然在你看到展示的页面之前，内部嵌套如果有请求图片等连接请求，连接会早早的被释放

事实上，很多企业门户网站访问量低的惊人，IIS连接数为50也是绰绰有余了

这边给出更加详细参考链接：http://www.west263.com/info/html/IDCzixun/zhujizuyong/20080221/1677.html

 

IIS并发连接数

---

 

“管理网站”->“高级设置”->"限制"->"最大并发连接数"

其实，普通用户常说的“IIS链接数”就是这边的“最大并发连接数”，如果PC端有IIS的朋友，可以测试上面两个图片的设置，是相互影响的

这边默认最大并发连接数为：4294967295，这是一个很惊人的数字，难道这代表着网站能具有并发执行连接数为4294967295的能力？

这边我做几个假设：

1、很多虚拟主机供应商所说的无并发连接数限制真的成立吗？

2、每个连接的处理，IIS都会开启一个线程去处理，假设这个处理方式成立，那么4294967295个并发连接请求来了是否IIS会立即启动4294967295个线程去处理？

 

对于1：很显然不成立，最大并发连接数的设置绝对有上限

对于2：这是很多朋友的误区，假设4294967295并发连接同时来了，IIS不会立即启动4294967295个线程去处理，因为这不现实，对于处理连接，IIS是有“最大并发工作线程数”限制的，这是我下面要介绍的，我从一些资料上查阅到，该数字跟操作系统相关，win7系统的IIS的值是10（或者其他不确定），VS2012自带的IIS Express的值是80。对于windows服务器版本的系统的具体值不清楚，即4294967295个并发连接来了后，（这边以win7下的10为例），iis第一时间只能启动10个工作线程去处理，那么其他4294967285必须排队，排队对用户的体验来说就是网页正在加载，但是什么都不显示，然后此时购买了据虚拟主机供应商所说的无并发连接数限制的客户就要开始狂暴了，为何购买了所谓的“无限并发连接数”，还是会一直在加载的情况，我只能说这就是IIS处理能力有限的问题了

 

当然服务器没有直接返回“HTTP Error 503. The service is unavailable.”应该也算是一些你花更多钱的安慰吧，因为你只购买了IIS连接数为50的话，那么第50+1个连接请求操作得到的就直接是“HTTP Error 503. The service is unavailable.”了

另外，如果web服务器的硬件设备够爽朗（牛逼），那么IIS的工作线程也会处理的更快，那么响应的用户等待的时间也会更短（前提是你的IIS连接数够大哦，否则就直接503了哦）

总的来说，最大并发连接数，影响了排队的数量，

很多时候需要我们评估自己的网站的最大并发连接数，然后来进行设置最佳数量

这边给出更加详细参考链接：

http://www.th7.cn/system/win/201407/63593.shtml

http://blog.csdn.net/shigaofei1/article/details/8222048

 

IIS最大并发工作线程数

---

 

这个在上面有所涉及，简单的说就是IIS在并发连接请求过来时的处理机制，它会更机智的以某个数量级为单位来分批处理，让没有处理连接请求排队等待，用户浏览器中对于排队等待的响应就是“正在加载”，这比页面直接显示“HTTP Error 503. The service is unavailable.”更加能让人接受，但是切勿气急败坏的怒点刷新按钮，因为点的越多，你的请求在排队队伍中越靠后。

当然很多朋友会说，为什么我有时候第一次刷不出来，重新多刷一次内容就出来了，

可能是：

1、页面脚本哪个地方下载或者处理出了问题，导致页面显示异常或者直接不显示

2、你重新刷新的那个秒级别的操作，web服务器更快速的已经处理好了其他队列的请求或者他人放弃了对web服务器连接请求的操作

3、路由或者宽带网络运营商问题（不稳定）

4、浏览器或者本身电脑问题

我不知道“IIS最大并发工作线程数”有无地方可以设置，知道的朋友可以给我留言，谢谢

那么现在问题来了，最大并发连接数，影响了排队的数量，那么有没有进步影响排队数量的设置? 有的：队列长度

 

队列长度

---

 

假设最大连接数设置为100，1000个并发连接请求过来了，首先900直接返回给客户“HTTP Error 503. The service is unavailable.”

然后IIS先启动（假设最大并发工作线程数为10）10个线程处理请求，其他90个进入排队状态，如果此时如下操作：

找到网站的所属应用程序池，“右击高级设置”->"常规"->"列队长度"，设置为20

那么实际情况又会变成什么样子呢？只会有20个进入排队状态了，70（90-20）个请求也会立刻返回“HTTP Error 503. The service is unavailable”

iis默认队列长度设置是1000，范围在10-65535 之间

 

最大工作进程数

---

 

IIS 6.0允许将应用程序池配置成一个Web园（Web Garden）

找到网站的所属应用程序池，“右击高级设置”->"进程模型"->"最大工作进程数"，默认1

如果这个值大于 1，那么当有连接请求时会启动多个新的工作进程实例，可启动的最多进程数为您所指定的最大工作进程数，后续更多的请求将以循环的方式发送至工作进程，这个每个工作进程都能承担负载一些连接请求，当然是以消耗cpu等硬件做代价，这是值得的，如果web服务器cpu使用率很低但是又需要更高效的处理并发连接请求，为何不这么做呢？

如果网站中用到了依赖进程的Session和Cache等对象，则不能保存在服务器内存中，存储方式选用StateServer或者SQLServer会更好，另外多个工作进程切换时会有上下文复制，这也是资源消耗更多地方

最大工作进程数的设置方法：（拷贝）按照每工作进程能承载30个并发的原则来确定应用程序池的最大工作进程数。同时要注意，每个工作进程大约会占用200M左右的系统内存，在设置最大工作进程数的时候，要主要最大工作进程数与200M的乘积不要超过系统最大可用内存数。一般情况下，建议按照每次增加5个工作进程数的方式对最大工作进程数进行调整，调整完后对网站观察一段时间，如依然无法满足要求，再继续增加5个工作进程数。

这边给出更加详细参考链接：

http://www.itmano.com/87.html

http://www.xuebuyuan.com/174816.html