1.JVM内存配置优化
在应用服务器启动时,会将应用引用到的所有类通过ClassLoader依次全部加载到内存当中。Java的逻辑内存模型大致分为堆内存、栈内存、静态内存区,也称持久区,该区的内存不会被GC回收。堆内存用于存储类的实例、数组等引用类型数据,也就是用new生成的对象,都存放在这里,栈内存存储局部变量(如:方法参数),静态内存区存储常量、静态变量、类元数据信息(方法、属性等)。
开发当中常遇到的三类内存溢出异常:
java.lang.OutOfMemoryError: Java heap space
异常
堆内存空间满了,如果不是程序逻辑的bug,可能是因为项目中引用的jar比较多,导到内存溢出。JVM默认堆的最小使用内存为物理内存的1/64,最大使用内存为物理内存的1/4。通过调整JVM的-Xms
(初始内存)和-Xmx
(最大内存)两个参数加大内存使用限制。java.lang.OutOfMemoryError: PermGen space
异常
静态内存区满了,通常是由于加载的类过多导致。jdk8以下版本通过修改JVM的-XX:PermSize
和-XX:MaxPermSize
两个参数,限制静态区最小和最大内存范围。jdk8改变了内存模型,将类定义存放到了元数据(MetaspaceSize)空间,而元数据空间是与堆空间共享同一块内存区域的,所以在JDK8以后版本不会存在PermGen space异常了,故不用设置此参数。java.lang.StackOverflowError
异常
表示栈内存溢出。通常是由于死循环、无限递归导致。
打开$TOMCAT_HOME/bin/catalina.sh
文件,在JAVA_OPTS
参数上添加内存参数设置即可修改Tomcat的内存配置。
Just like this:
JAVA_OPTS="$JAVA_OPTS -server -Xms2048m -Xmx2048m -XX:PermSize=128m -XX:MaxPermSize=256 -Djava.awt.headless=true"
- -server 参数:表示以服务模式启动,启动速度会稍微慢一点,但性能会高很多。不加这个参数,默认是以客户端模式启动。
- java.awt.headless=true 参数:与图形操作有关,适用于linux系统。如生成验证码,含义是当前使用的是没有安装图安装图形界面的服务器,应用中如果获取系统显示有关参数会抛异常,可通过
jmap -heap proccess_id
查看设置是否成功。
2.并发配置优化
主要配置Tomcat能处理的请求数,当一个进程的线程数超过 500 个的话,那么这个进程的运行效率就很低了。表面上看线程越多处理的请求越多,其实过多的线程会占用 CPU 在不同线程之间切换的资源,导致CPU在每个线程上处理的时间片极期有限,反而会降低服务器的响应性能。
<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
connectionTimeout="20000"
redirectPort="8443"
maxThreads="500"
minSpareThreads="100"
maxSpareThreads="200"
acceptCount="200"
maxIdleTime="30000"
enableLookups="false"
/>
Tomcat的并发请求处理数量 = maxThreads + acceptCount
- protocol:连接运行模式,可以启用APR,以提高异步IO处理性能。
- maxThreads:最大能接受的请求数,默认为200
- minSpareThreads:最少备用线程数,默认初始化,默认为25
- maxSpareThreads:最多备用线程数,一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程
- acceptCount:等待处理的请求队列,默认为100,超过队列长度,服务器则拒绝客户端请求,直接返回403
- maxIdleTime:如果一个线程在30秒以内没有活跃,则终止运行并从线程池中移除。除非线程池数量小于或等于 minSpareThreads 数量。默认值是1分钟
- enableLookups:如果为true,调用
request.getRemoteHost
会执行DNS反查,反向解析IP对应的域名或主机,效率较低,建议设为false。
更多参数设置,请参考Tomcat官方文档:http://tomcat.apache.org/tomcat-8.0-doc/config/http.html
3.开启Tomcat APR运行模式,优化并发性能
3.1 Tomcat支持三种接收请求的处理方式:BIO、NIO、APR
1.BIO模式:
阻塞式I/O操作,表示Tomcat使用的是传统Java I/O操作(即java.io包及其子包)。Tomcat7以下版本默认情况下是以bio模式运行的,由于每个请求都要创建一个线程来处理,线程开销较大,不能处理高并发的场景,在三种模式中性能也最低。
2.NIO模式:
是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,它拥有比传统I/O操作(bio)更好的并发运行性能。要让Tomcat以nio模式来运行比较简单,只需要在$TOMCAT_HOME/conf/server.xml
文件中将如下配置:
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
修改成:
<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000"
redirectPort="8443" />
==注意:Tomcat8以上版本,默认使用的就是NIO模式,不需要额外修改==
3.apr模式:
简单理解,就是从操作系统级别解决异步IO问题,大幅度的提高服务器的处理和响应性能,也是Tomcat运行高并发应用的首选模式。
启用这种模式稍微麻烦一些,需要安装一些依赖库。
3.2 启用 apr 模式步聚
3.2.1 安装 apr (需要提前下载相关 tar 包)
可参考官方安装文档 https://tomcat.apache.org/native-doc/
# 先安装依赖,OpenSSL库
yum install -y openssl-devel
# apr
## 先下载apr包,国内镜像地址 https://mirrors.tuna.tsinghua.edu.cn/apache/apr/
echo 'apr 安装开始...'
mkdir ~/apr
## 以1.7.0为例
cd /tmp
wget https://mirrors.tuna.tsinghua.edu.cn/apache/apr/apr-1.7.0.tar.gz
tar -xzvf apr-1.7.0.tar.gz -C ~/apr
cd ~/apr/apr-1.7.0
mkdir -p /usr/local/apr
./configure --prefix=/usr/local/apr
make && make install && make clean && make distclean
echo 'apr 安装成功'
# apr dependence expact
yum install -y expat-devel
# apr-util
echo 'apr-util 安装开始...'
mkdir ~/apr
cd /tmp
wget https://mirrors.tuna.tsinghua.edu.cn/apache/apr/apr-util-1.6.1.tar.gz
tar -xzvf apr-util-1.6.1.tar.gz -C ~/apr
cd ~/apr/apr-util-1.6.1
mkdir -p /usr/local/apr-util
./configure --prefix=/usr/local/apr-util --with-apr=/usr/local/apr
make && make install && make clean && make distclean
echo 'apr-util 安装成功'
# apr-iconv
echo 'apr-iconv 安装开始...'
mkdir ~/apr
cd /tmp
wget https://mirrors.tuna.tsinghua.edu.cn/apache/apr/apr-iconv-1.2.2.tar.gz
tar -xzvf apr-iconv-1.2.2.tar.gz -C ~/apr
cd ~/apr/apr-iconv-1.2.2
mkdir -p /usr/local/apr-iconv
./configure --prefix=/usr/local/apr-iconv --with-apr=/usr/local/apr
make && make install && make clean && make distclean
echo 'apr-iconv 安装成功'
echo 'tomcat-native 安装开始...'
# tomcat-native
cd /tmp
wget https://mirrors.tuna.tsinghua.edu.cn/apache/tomcat/tomcat-connectors/native/1.2.24/source/tomcat-native-1.2.24-src.tar.gz
tar -xzvf tomcat-native-1.2.24-src.tar.gz -C ~/apr
cd ~/apr/tomcat-native-1.2.24-src/native
mkdir -p /usr/local/tomcat-native
./configure --with-apr=/usr/local/apr --with-java-home=/opt/java/jdk1.8.0_251 --prefix=/usr/local/tomcat-native
make && make install && make clean && make distclean
echo 'tomcat-native 安装成功...'
3.2.2 设置环境变量
# 设置环境变量
echo 'LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/tomcat-native/lib
export LD_LIBRARY_PATH' >> /etc/profile
#使环境变量生效
source /etc/profile
还有一种方法:
编辑$TOMCAT_HOME/bin/catalina.sh
文件,在JAVA_OPTS
中添加java.library.path
参数,指定 apr 库的路径
JAVA_OPTS="$JAVA_OPTS -Djava.library.path=/usr/local/apr/lib"
3.2.3 修改server.xml
Tomcat8以下版本,需要指定运行模式,将 protocol 从 HTTP/1.1 改成org.apache.coyote.http11.Http11AprProtocol
<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
connectionTimeout="20000"
redirectPort="8443" />
如果没有配置 SSL 相关参数,并且开启了SSL,启动时会发生org.apache.tomcat.jni.Error: 70023: This function has not been implemented on this platform
异常:
如果不想启用SSL,将server.xml
中apr模式下 ssl 关闭即可:
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="off" />
Tomcat 6.x版本从6.0.32开始就默认支持apr。
Tomcat 7.x版本从7.0.30开始就默认支持apr。
因此,如果使用的Tomcat版本比较陈旧的话,强烈建议升级到最新的稳定版本。
评论区