Tomcat设置最佳线程数总结 tomcat 最大线程数

最佳线程数总结(1)

多线程JBoss应用服务器WebTomcat

最佳线程数:

性能压测的情况下,起初随着用户数的增加,QPS会上升,当到了一定的阀值之后,用户数量增加QPS并不会增加,或者增加不明显,同时请求的响应时间却大幅增加。这个阀值我们认为是最佳线程数。

为什么要找最佳线程数

1.过多的线程只会造成,更多的内存开销,更多的CPU开销,但是对提升QPS确毫无帮助

2.找到最佳线程数后通过简单的设置,可以让web系统更加稳定,得到最高,最稳定的QPS输出

最佳线程数的获取:

1、通过用户慢慢递增来进行性能压测,观察QPS,响应时间

2、根据公式计算:服务器端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量

3、单用户压测,查看CPU的消耗,然后直接乘以百分比,再进行压测,一般这个值的附近应该就是最佳线程数量。

影响最佳线程数的主要因素:

1、IO

2、CPU

根据公式:服务器端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量

一般来说是IO和CPU。IO开销较多的应用其CPU线程等待时间会比较长,所以线程数量可以开的多一些,相反则线程数量要少一些,其实有两种极端,纯IO的应用,比如proxy,则线程数量可以开到非常大(实在太大了则需要考虑线程切换的开销),这种应用基本上后端(比如这个proxy是代理搜索的)的QPS能有多少,proxy就有多少。

另一种是耗CPU的计算,这种情况一般来讲只能开到CPU个数的线程数量。但是并不是说这种应用的QPS就不高,往往这种应用的QPS可以很高。

Tomcat设置最佳线程数总结 tomcat 最大线程数

QPS和线程数的关系

1、在最佳线程数量之前,QPS和线程是互相递增的关系,线程数量到了最佳线程之后,QPS持平,不在上升,甚至略有下降,同时相应时间持续上升。

2、同一个系统而言,支持的线程数越多(最佳线程数越多而不是配置的线程数越多),QPS越高

QPS和响应时间的关系

1、对于一般的web系统,响应时间一般有CPU执行时间+IO等待时间组成

2、CPU的执行时间减少,对QPS有实质的提升,IO时间的减少,对QPS提升不明显。如果要想明显提升QPS,优化系统的时候要着重优化CPU消耗大户。

最佳线程数和jvm堆内存得关系:

以上都是依据性能瓶颈在CPU的情况,对于java应用还有一个因素是FULLGC,我们要保证在最佳线程数量下,不会发生频繁FULL GC

根据公式::(小GC时间间隔/rt)*(并发线程数量 * thm) <=young计算得到的并发线程数量如果<最佳线程数量 则可能导致FULLGC较频繁,实际情况看来这种情况在web系统上非常少。不过可以模拟出来。

所以我们在设置jboss线程的时候,可以利用内存公式计算出来的线程数量来设置,通过压测和计算得到最佳线程数,然后设置线程数。

设置线程数量:

压测最佳线程数<真实设置的线程数量<内存极限线程数

比如,通过压测得到某系统的最佳线程数量是10,然后通过内存计算的线程数量是20,则,设置jboss的线程数量为15是可行的,如果直接设置了10,由于系统本身会受到一些依赖系统的变化而产生一些变化,比如系统依赖一些IO的响应时间会突然延长,由于线程数量还是10,其实这个时候最佳线程数量已经变成了13了,由于我们设置死了10,其结果就是导致qps下降,但是如果超过20,则又会引起FULLgc非常频繁,反过来影响QPS的下降。

jboss的线程数设置:

对于jboss而言,设置线程数量要看使用了那种线程连接,如http、ajp等

http和ajp的设置是完全一样的, 非常简单:

以ajp为例,找到server.xml或者tomcat-server.xml:

默认线程数量是200个

<Connector port="8009"address="${jboss.bind.address}" connectionTimeout="15000"protocol="AJP/1.3" maxThreads="200"minSpareThreads="40" maxSpareThreads="75" maxPostSize="512000"acceptCount="300" bufferSize="16384" emptySessionPath="false"enableLookups="false" redirectPort="8443"useBodyEncodingForURI="true"/>

这里将默认的线程数量改成了20,当然相应的其他最小空闲线程数和最大空闲线程数也做一下调整:

<Connector port="8009"address="${jboss.bind.address}" connectionTimeout="15000"protocol="AJP/1.3" maxThreads="20"minSpareThreads="20" maxSpareThreads="20" maxPostSize="512000"acceptCount="300" bufferSize="16384" emptySessionPath="false"enableLookups="false" redirectPort="8443"useBodyEncodingForURI="true"/>

  

爱华网本文地址 » http://www.413yy.cn/a/25101015/263391.html

更多阅读

程益中:中国最大的糟粕,就是所谓做人的学问

程益中:中国最大的糟粕,就是所谓的做人学问这是徐刚老总发的一条微信,特转发与大家分享。作者程益中(《南方都市报》和《新京报》创办人之一)。本文为作者答记者问。1.南方都市报和新京报是我过去的沧海,而体育画报中文版是我现在的桑田,沧

转载 武平之窗:武平金线莲将成为全国最大的金线莲集散地

原文地址:武平之窗:武平金线莲将成为全国最大的金线莲集散地作者:spring2.jpg(105.76 KB, 下载次数: 2)下载附件保存到相册4天前上传  北有冬虫草,南有金线莲。金线莲作为中国传统名贵珍稀中草药之一,它的功效世世代代被人们所神话

最佳排挡 鬼片大全最恐怖片

崇尚男人的坚强,但不崇尚以武力取天下的暴力;喜欢男人的温柔,但不喜欢温柔过分而近于懦弱;需要男人的呵护,但不要拥得太紧而没了自由。很多人说是男人撑起了天空,女人只是给天空带来色彩和快乐的鸟儿,他们又说是鸟控制了天空。我只知道鸟儿

HDMI连接(电脑与电视机)设置 hdmi线怎么连接电脑

                        使用HDMI线连接电脑、电视的常见问题解答针对很多朋友在使用HDMI线连接电脑和电视使用时遇到的一些常见问题,CE-LINK专业工程师为您解答,希望能对尊敬的顾客们,解决一些

声明:《Tomcat设置最佳线程数总结 tomcat 最大线程数》为网友人心无由多变分享!如侵犯到您的合法权益请联系我们删除