Tomcat性能优化



Tomcat性能优化

web压力测试的实现原理都是通过发送大量的重复的页面请求来模拟多用户对被测系统的并发访问，以此达到产生压力的目地。产生压力的手段都是通过录制或编写压力脚本，这些脚本以多进程或多线程的方式在客户端运行，这样通过人为制造各种类型的压力，我们可以观察被测系统在各种压力情况下的反映，从而定位系统瓶颈，作为系统调优的基础。目前已经市场上的性能测试工具不下一百种，从单一的开放源码的免费小工具如 Apache 自带的 web 性能测试工具 Apache Benchmark、开源的Jmeter 到大而全的商业性能测试软件如 Mercury 的 LoadRunner 等等。

 

常用的软件测试工具网站：http://www.softwareqatest.com/qatweb1.html#LOAD

 

 

对于tomcat的性能调整可以分为两块

 

外部环境：调整非Tomcat组件，例如Tomcat运行的操作系统和运行Tomcat的java虚拟机。

 

自身调整： 修改Tomcat自身的参数，调整Tomcat配置文件中的参数。

 

 

外部环境：

 

1. JAVA虚拟机性能优化
Tomcat本身不能直接在计算机上运行，需要依赖于硬件基础之上的操作系统和一个java虚拟机。你可以根据自己的需要选择不同的操作系统和对应的JDK的版本。
首先为Java虚拟机设置使用的内存大小

 

参数 描述
-Xms<size> JVM初始化堆的大小
-Xmx<size> JVM堆的最大值

 

这两个值的大小一般根据需要进行设置。初始化堆的大小执行了虚拟机在启动时向系统申请的内存的大小。一般而言，这个参数不重要。但是有的应用程序在大负载的情况下会急剧地占用更多的内存，此时这个参数就是显得非常重要，如果虚拟机启动时设置使用的内存比较小而在这种情况下有许多对象进行初始化，虚拟机就必须重复地增加内存来满足使用。由于这种原因，我们一般把-Xms和-Xmx设为一样大，而堆的最大值受限于系统使用的物理内存。一般使用数据量较大的应用程序会使用持久对象，内存使用有可能迅速地增长。当应用程序需要的内存超出堆的最大值时虚拟机就会提示内存溢出，并且导致应用服务崩溃。因此一般建议堆的最大值设置为可用内存的最大值的80%。
linux系统下，在文件{tomcat_home}/bin/catalina.sh的前面，增加如下设置：
JAVA_OPTS=’-Xms【初始化内存大小】 -Xmx【可以使用的最大内存】’
例如：
JAVA_OPTS=’-Xms256m -Xmx512m’
表示初始化内存为256MB，可以使用的最大内存为512MB。
另外需要考虑的是Java提供的垃圾回收机制。虚拟机的堆大小决定了虚拟机花费在收集垃圾上的时间和频度。收集垃圾可以接受的速度与应用有关，应该通过分析实际的垃圾收集的时间和频率来调整。如果堆的大小很大，那么完全垃圾收集就会很慢，但是频度会降低。如果你把堆的大小和内存的需要一致，完全收集就很快，但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间，以在特定的时间内最大化处理客户的请求。在基准测试的时候，为保证最好的性能，要把堆的大小设大，保证垃圾收集不在整个基准测试的过程中出现。

2.Tomcat与其它web服务器整合使用

 

 

虽然tomcat也可以作web服务器，但其处理静态html的速度比不上apache，且其作为web服务器的功能远不如apache，因此我们想把apache和tomcat集成起来，将html与jsp的功能部分进行明确分工，让tomcat只处理jsp部分，其它的图片、js等由apache,Nginx等web服务器处理，可以大大节省tomcat有限的工作“线程”。

 

3. 负载均衡
在负载均衡的思路下，多台服务器为对称方式，每台服务器都具有同等的地位，可以单独对外提供服务而无须其他服务器的辅助。通过负载分担技术，将外部发送来的请求按一定规则分配到对称结构中的某一台服务器上，而接收到请求的服务器都独立回应客户机的请求。

 

提供服务的一组服务器组成了一个应用服务器集群(cluster)，并对外提供一个统一的地址。当一个服务请求被发至该集群时，根据一定规则选择一台服务器，并将服务转向给该服务器处理。
通过负载均衡技术，使应用服务超过了一台服务器上限时，可以利用多台服务器同时为大量用户提供服务。当某台服务器出现故障时，负载均衡服务器会自动进行检测并停止将服务请求分发至该服务器，而由其他工作正常的服务器继续提供服务，从而保证了服务的可靠性。
负载均衡实现的方式大概有四种：第一是通过DNS，但只能实现简单的轮流分配，不能处理故障，第二如果是基于MS IIS，Windows 2003 server本身就带了负载均衡服务，第三是硬件方式，通过交换机的功能或专门的负载均衡设备可以实现，第四种是软件方式，通过一台负载均衡服务器进行，上面安装软件。使用Apache Httpd Server做负载平衡器，Tomcat集群节点使用Tomcat就可以做到以上第四种方式。这种方式比较灵活，成本相对也较低。另外一个很大的优点就是可以根据应用的情况和服务器的情况采取一些策略。


 

 

内部环境：

 

 

1. 调整线程数
Tomcat使用线程池加快处理请求的速度。在Java中线程是程序运行的路径，多线程程序可以有效利用CPU，使cpu空闲时间保持最低，从而接受更多的请求。
web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。

 

在Tomcat5对这些参数进行了调整，请看下表：

 

属性名 描述
maxThreads Tomcat使用线程来处理接收的每个请求。这个值表示Tomcat可创建的最大的线程数。
acceptCount 指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理。
connnectionTimeout 网络连接超时，单位：毫秒。设置为0表示永不超时，这样设置有隐患的。通常可设置为30000毫秒。
minSpareThreads Tomcat初始化时创建的线程数。
maxSpareThreads 一旦创建的线程超过这个值，Tomcat就会关闭不再需要的socket线程。

最好的方式是多设置几次并且进行测试，观察cpu、内存、io、gc、响应时间等指标情况。在不同的机器、操作系统或虚拟机组合的情况下可能会不同，而且不是所有人的web站点的流量都是一样的，因此没有一刀切的方案来确定线程数的值。

 

 

2. 为了防止恶意攻击，禁止某些机器访问
Tomcat提供了两个参数供你配置：RemoteHostValve 和RemoteAddrValve

 

全局设置，对Tomcat下所有应用生效
server.xml中添加下面一行，重启服务器即可：
<Valve className=”org.apache.catalina.valves.RemoteAddrValve”
allow=”192.168.1.*” deny=”"/>
此行放在</Host>之前。

 

 

 

 

补充：

 

Tomcat 与 Web 服务器

 

Tomcat 是提供一个支持 Servlet 和 JSP 运行的容器。Servlet 和 JSP 能根据实时需要，产生动态网页内容。而对于 Web 服务器来说， Apache 仅仅支持静态网页，对于支持动态网页就会显得无能为力；Tomcat 则既能为动态网页服务，同时也能为静态网页提供支持。尽管它没有通常的 Web 服务器快、功能也不如 Web 服务器丰富，但是 Tomcat 逐渐为支持静态内容不断扩充。大多数的 Web 服务器都是用底层语言编写如 C，利用了相应平台的特征，因此用纯 Java 编写的 Tomcat 执行速度不可能与它们相提并论。

 

一般来说，大的站点都是将 Tomcat 与 Apache 的结合，Apache 负责接受所有来自客户端的 HTTP 请求，然后将 Servlets 和 JSP 的请求转发给 Tomcat 来处理。Tomcat 完成处理后，将响应传回给 Apache，最后 Apache 将响应返回给客户端。