Tomcat的性能与最大并发配置
当一个进程有 500 个线程在跑的话,那性能已经是很低很低了。Tomcat 默认配置的最大请求数是 150,也就是说同时支持 150 个并发,当然了,也可以将其改大。
当某个应用拥有 250 个以上并发的时候,应考虑应用服务器的集群。
具体能承载多少并发,需要看硬件的配置,CPU 越多性能越高,分配给 JVM 的内存越多性能也就越高,但也会加重 GC 的负担。操作系统对于进程中的线程数有一定的限制:
Windows 每个进程中的线程数不允许超过 2000
Linux 每个进程中的线程数不允许超过 1000
另外,在 Java 中每开启一个线程需要耗用 1MB 的 JVM 内存空间用于作为线程栈之用。
Tomcat的最大并发数是可以配置的,实际运用中,最大并发数与硬件性能和CPU数量都有很大关系的。更好的硬件,更多的处理器都会使Tomcat支持更多的并发。
Tomcat 默认的 HTTP 实现是采用阻塞式的 Socket 通信,每个请求都需要创建一个线程处理。这种模式下的并发量受到线程数的限制,但对于 Tomcat 来说几乎没有 BUG 存在了。
Tomcat 还可以配置 NIO 方式的 Socket 通信,在性能上高于阻塞式的,每个请求也不需要创建一个线程进行处理,并发能力比前者高。但没有阻塞式的成熟。
这个并发能力还与应用的逻辑密切相关,如果逻辑很复杂需要大量的计算,那并发能力势必会下降。如果每个请求都含有很多的数据库操作,那么对于数据库的性能也是非常高的。
对于单台数据库服务器来说,允许客户端的连接数量是有限制的。
并发能力问题涉及整个系统架构和业务逻辑。
系统环境不同,Tomcat版本不同、JDK版本不同、以及修改的设定参数不同。并发量的差异还是满大的。
maxThreads="1000" 最大并发数
minSpareThreads="100"///初始化时创建的线程数maxSpareThreads="500"///一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程。
acceptCount="700"// 指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理
配置实例:
<Connector port="8080" protocol="HTTP/1.1" minSpareThreads="100" maxSpareThreads="500" maxThreads="1000" acceptCount="700"
connectionTimeout="20000"
redirectPort="8443" />
具体测试:
服务器配置:
单硬盘,SATA 8MB缓存
测试服务器和loadrunner运行服务器位于同一网段--100MB网络(同一交换机)上,排除网络问题的影响
服务器运行始终,CPU使用率非常低没有超过5% 因此虽然服务器配置低,但是不是性能瓶颈所在
服务器运行在windowsserver 2003 sp2中文版(正版系统)
tomcat内存的设置:1.4GBJVM+256MB的池
- set JAVA_HOME=C:\JAVA\JDK15
- set CATALINA_OPTS=-server -Xms 1400m -Xmx1400m -XX:PermSize=256m -XX:MaxPermSize=256m
tomcat线程的设置:初始产生1000线程数最大支持2000线程
- <Connector port="80" maxHttpHeaderSize="8192"
- maxThreads="4000" minSpareThreads="1000" maxSpareThreads="2000"
- enableLookups="false" redirectPort="8443" acceptCount="2000"
- connectionTimeout="20000" disableUploadTimeout="true" />
需要显示的JSP页面:index.jsp
- <html>
- <body>
- test---tomcat
- <%
- System.out.println("===========================");
- System.out.println("===========================");
- System.out.println("===========================");
- System.out.println("===========================");
- System.out.println("==========================="); %>
- </body>
- </html>
类似于静态页面,以此来判断tomcat支持的最大的并发用户数量
使用loadrunner设置1000并发用户数进行压力测试。每两秒钟增加一个用户,以此递增,直至1000后,然后再按照两秒钟一个用户递减直至用户数位0.
测试结果:
Transaction Response Time Under Load 1可以看到在达到600用户同时在线的时候,系统响应时间为6秒钟 100人-----响应时间0.8秒 完美 150人-----响应时间1秒 完美 200人-----响应时间1.5秒 响应时间有微小波动 比较完美 250人-----响应时间1.8秒 比较完美(此时是理想情况下最大的并发用户数量) 280人-----开始出现连接丢失问题,连接开始不稳定 300人-----响应时间3秒 响应时间有较大波动峰值为6秒 较差 350人-----响应时间3秒 开始大量出现连接丢失问题 连接很不稳定 400人-----响应时间3.8秒 连接丢失数量达到3000次以上 450人-----响应时间4秒 连接丢失数量达到6000次以上 500人-----响应时间4秒 连接丢失数量达到11000次以上 550人-----响应时间6秒 连接丢失数量达到21000次以上 600人-----响应时间6秒 连接丢失数量达到25000次以上 600人开始系统出现异常情况,因此停止测试。测试数据到此为止。 |
虚拟用户递增情况
网络流量
测试过程中成功和失败的响应结果: