并发编程学习(十四):tomcat线程池
1、Tomcat 功能组件结构
Tomcat 的核心功能有两个,分别是负责接收和反馈外部请求的连接器 Connector,和负责处理请求的容器 Container。 其中连接器和容器相辅相成,一起构成了基本的 web 服务 Service。每个 Tomcat 服务器可以管理多个 Service。
- Connector:负责对外接收和响应请求。它是Tomcat与外界的交通枢纽,监听端口接收外界请求,并将请求处理后传递给容器做业务处理,最后将容器处理后的结果响应给外界。
- Container:负责对内处理业务逻辑。其内部由 Engine、Host、Context和Wrapper 四个容器组成,用于管理和调用 Servlet 相关逻辑。
- Service:对外提供的 Web 服务。主要包含 Connector 和 Container 两个核心组件,以及其他功能组件。Tomcat 可以管理多个 Service,且各 Service 之间相互独立。
1.1、Container 结构分析:
每个 Service 会包含一个 Container 容器。在 Container 内部包含了 4 个子容器,分别如下:
- Engine:引擎,用来管理多个虚拟主机,一个 Service 最多只能有一个 Engine;
- Host:代表一个虚拟主机,也可以叫站点,通过配置 Host 就可以添加站点;
- Context:代表一个 Web 应用,包含多个 Servlet 封装器;
- Wrapper:封装器,容器的最底层。每一 Wrapper 封装着一个 Servlet,负责对象实例的创建、执行和销毁功能。
Engine、Host、Context 和 Wrapper,这四个容器之间属于父子关系。
容器( Container)由一个引擎(Engine)可以管理多个虚拟主机(Host)。每个虚拟主机(Host)可以管理多个 Web 应用(Context),每个 Web 应用会有多个 Servlet 封装器(Wrapper)。
2、tomcat线程池
tomcat中connector连接器部分使用到了线程池。
- LimitLatch:用来限流,可以恐怕该男子最大连接个数,类似J.U.C中的Semaphore.
- Acceptor只负责【接收新的socket连接】,默认线程数量为1,已足够使用。
- Poller :只负责监听socket channel是否有【可读的I/O事件】,默认线程数量为1,采用的是多路复用,已足够使用。
- 一旦可读,封装一个任务对象(sockerProcessor),提交给Executor线程池处理。
- Executor线程池中的工作线程最终负责【处理请求】
2.1、tomcat线程池扩展了ThreadPoolExecutor
tomcat线程池扩展了ThreadPoolExecutor,行为稍有不同,如果总线程数达到了maxPoolSize,
- 不会立即抛RejectedExecutionException异常;
- 而是再次尝试将任务放入队列,如果还失败,才抛出RejectedExecutionException异常。
源码如下:(tomcat9.0.21)
package org.apache.tomcat.util.threads;public class ThreadPoolExecutor extends java.util.concurrent.ThreadPoolExecutor {// 此处省略部分代码...public void execute(Runnable command, long timeout, TimeUnit unit) {this.submittedCount.incrementAndGet();try {super.execute(command);} catch (RejectedExecutionException var9) {if (!(super.getQueue() instanceof TaskQueue)) {this.submittedCount.decrementAndGet();throw var9;}TaskQueue queue = (TaskQueue)super.getQueue();try {if (!queue.force(command, timeout, unit)) {this.submittedCount.decrementAndGet();throw new RejectedExecutionException(sm.getString("threadPoolExecutor.queueFull"));}} catch (InterruptedException var8) {this.submittedCount.decrementAndGet();throw new RejectedExecutionException(var8);}}}// 此处省略部分代码...}
tomcat跟线程池相关的配置如下:
2.2、tomcat线程池相关的配置
tomcat 之service.xml 中线程池的配置部分如下:
<!--The connectors can use a shared executor, you can define one or more named thread pools--><!--<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"maxThreads="150" minSpareThreads="4"/>--><!-- A "Connector" represents an endpoint by which requests are receivedand responses are returned. Documentation at :Java HTTP Connector: /docs/config/http.htmlJava AJP Connector: /docs/config/ajp.htmlAPR (HTTP/AJP) Connector: /docs/apr.htmlDefine a non-SSL/TLS HTTP/1.1 Connector on port 8080--><Connector port="8180" protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443" /><!-- A "Connector" using the shared thread pool--><!--<Connector executor="tomcatThreadPool"port="8080" protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443" />-->
2.12.1、connector配置
对应service.xml中的<connector>标签配置。
<Connector port="8180" protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443" />
2.2.2、Executor配置
对应service.xml中的<executor>标签配置,用于在<connector>标签中引用。service.xml原配置中的注释代码放开后如下:
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"maxThreads="150" minSpareThreads="4"/><Connector executor="tomcatThreadPool"port="8080" protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443" />
默认队列长度是Integer.MAX_VALUE,相当于是无界队列,是否表示非核心线程(即救急线程)永远不会被创建?
tomcat线程池工作流程图如下:
1、有新任务时,核心线程数是否都用完了(即核心线程是否都繁忙),如果还有空闲核心线程,则将新任务添加到队列。
2、如果没有空闲核心线程,判断是否有救急线程,有,则创建救急线程或使用空闲的救急线程,执行任务。
3、如果救急线程都繁忙,则将新任务加入对列,加入规则如 2.1章节说明。