IO线程模型

编程 Comments

线程模型通常是指线程的使用方式。在 Java I/O 中，主要有 2 种线程模型，即传统的阻塞式 I/O 模型和 Reactor 模型。

传统的阻塞式线程I/O

简介

  • 采用阻塞IO模式获取输入的数据
  • 每个连接都需要独立的线程完成数据的输入、业务处理、数据返回

20210309225959892

缺点

  1. 并发很大时，就会创建大量线程，占用很大的系统资源
  2. 连接创建后，如果当前线程暂时没有数据可读，该线程会阻塞在read操作，造成线程资源浪费

Reactor模型

简介

Reactor模式针对传统IO的缺点，提出了解决方案。

  • 方案 1：基于 I/O 复用模型。即多个连接共用一个阻塞对象，当某个连接有新的数据准备好时，操作系统通知应用程序，线程从阻塞状态返回，开始进行业务处理。
  • 方案 2：基于线程池复用线程资源，不需要给每个连接创建一个线程。将连接完成后的业务处理任务分配给线程池中的线程进行处理。这样一个线程可以处理到多个客户端的业务。

总结一句话，I/O 多路复用 + 线程池，就是所谓的“Reactor模式”的基本设计思想。

Reactor 模式中的两个核心组件：

  1. Reactor：Reactor 在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对 I/O 事件做出反应。（Reactor 又称分发模式，说到这有人联想到 SpringMVC 的 DispatcherServlet，其作用就是相当于一个分发器，作用是统筹管理，根据请求类型的不同进行相应的分发。）
  2. Handlers：完成实际 I/O 事件中数据的读写和要做的一系列业务处理。

根据 Reactor 的数量和业务处理线程池线程数量不同，又分为 3 种具体实现：单Reactor单线程、单Reactor多线程、主从Reactor。

单Reactor单线程

20210309230152143

实现说明：

  1. Select是前面I/O复用模型介绍的标准网络编程API，可以实现应用程序通过一个阻塞对象监听多路连接请求；
  2. Reactor对象通过Select监控客户端请求事件，收到事件后通过Dispatch进行分发；
  3. 如果是建立连接请求事件，则由Aceptor通过accept处理连接请求，然后创建一个Handler对象进行连接完成后的后续业务处理；
  4. 如果不是建立连接事件，则Reactor会分发调用连接对应的Handler来响应；
  5. Handler会完成 Read -> 业务处理 -> Send 的完整业务流程。

优缺点

优点：服务器端使用一个线程基于多路复用就完成了所有的 IO 操作（包括连接，读数据、业务处理、写数据等），没有多线程间通信、竞争的问题，实现简单。
缺点：

  1. 性能瓶颈：客户端连接数较多，将无法支撑。因为只有一个线程，无法完全发挥多核 CPU 的性能。Handler在处理某个连接上的业务时，整个进程无法处理其他连接事件，很容易导致性能瓶颈；
  2. 可靠性问题：线程意外终止，或进入死循环，会导致整个系统通信模块不可用，不能接收和处理外部消息，造成节点故障；

使用场景：客户端的数量有限，业务处理非常快速，比如 Redis 在业务处理的时间复杂度0(1)的情况

单Reactor多线程

20210309230210999

实现说明：

  1. Reactor 对象通过 select 监控客户端请求事件，收到事件后，通过 dispatch 进行分发；
  2. 如果建立连接请求，则由Acceptor通过 accept 处理连接请求，然后创建一个 Handler 对象处理完成连接后的各种事件；
  3. 如果不是连接请求，则由Reactor分发调用连接对应的 Handler 来处理；
  4. Handler 只负责响应事件，不做具体的业务处理，通过 read 读取数据后，会分发给后面的Worker线程池的某个线程处理业务;
  5. Worker线程池会分配独立线程完成真正的业务，并将结果返回给Handler；
  6. Handler收到响应后，通过send将结果返回给Client。

优缺点

优点：可充分利用多核CPU处理能力。

缺点：多线程数据共享和访问比较复杂，Reactor处理所有的事件监听和响应，在单线程运行，在高并发应用场景容易出现性能瓶颈。

主从Reactor

上述单 Reactor 多线程模型虽然可以充分压榨 CPU 的性能，但是由于 Reactor 是单线程运行的，所以在高并发场景下 Reactor 容易成为性能瓶颈。可以考虑让 Reactor 在多线程中运行，这就是多 Reactor 模型，也叫主从 Reactor 模型。

20210309230233596

实现说明：

  1. Reactor 主线程 MainReactor 对象通过 select 监听连接事件，收到事件后，通过 Acceptor 处理连接事件；
  2. 当 Acceptor 处理连接事件后，MainReactor 将连接分配给 SubReactor；
  3. Subreactor 将连接加入到连接队列进行监听，并创建 Handler 进行各种事件处理；
  4. 当有新事件发生时，SubReactor 就会调用对应的 Handler 进行处理；
  5. Handler 通过 read 读取数据，分发给后面的 Worker 线程进行处理；
  6. Worker 线程池分配独立的 Worker 线程进行业务处理，并返回结果；
  7. Handler 收到响应的结果后，再通过 send 将结果返回给 Client；
  8. Reactor 主线程可以对应多个 Reactor 子线程，即 MainRecator 可以关联多个 SubReactor。

优缺点

优点：

  1. 父线程与子线程的数据交互简单职责明确，父线程只需要接收新连接，子线程完成后续的业务处理；
  2. 父线程与子线程的数据交互简单，Reactor主线程只需要把新连接传给子线程，子线程无需返回数据；

缺点：编程复杂度较高。

使用场景：该模型在许多项目中广泛使用，包括Nginx主从Reactor多线程模型，Memcached 主从多线程，Netty 主从多线程模型的支持。

Mr.LinJava Developer

小小搬砖者。