JAVA NIO怎么构建I/O多路复用的请求模型
导读:本文共11085.5字符,通常情况下阅读需要37分钟。同时您也可以点击右侧朗读,来听本文内容。按键盘←(左) →(右) 方向键可以翻页。
摘要: 当前环境jdk == 1.8场景为解决这问题,我们发现元凶处在“一线程一请求”上,如果一个线程能同时处理多个请求,那么在高并发下性能上会大大改善。这里就借住 JAVA 中的 nio 技术来实现这一模型。nio 的阻塞实现关于什么是 nio,从字面上理解为 New IO,就是为了弥补原本 I/O 上的不足,而在 JDK 1.4 中引入的一种新的 I/O 实现方式。... ...
目录
(为您整理了一些要点),点击可以直达。当前环境
jdk == 1.8
场景
为解决这问题,我们发现元凶处在“一线程一请求”上,如果一个线程能同时处理多个请求,那么在高并发下性能上会大大改善。这里就借住 JAVA 中的 nio 技术来实现这一模型。
nio 的阻塞实现
关于什么是 nio,从字面上理解为 New IO,就是为了弥补原本 I/O 上的不足,而在 JDK 1.4 中引入的一种新的 I/O 实现方式。简单理解,就是它提供了 I/O 的阻塞与非阻塞的两种实现方式(当然,默认实现方式是阻塞的。)。
下面,我们先来看下 nio 以阻塞方式是如何处理的。
建立连接
有了上一篇 socket 的经验,我们的第一步一定也是建立 socket 连接。只不过,这里不是采用new socket()的方式,而是引入了一个新的概念SocketChannel。它可以看作是 socket 的一个完善类,除了提供 Socket 的相关功能外,还提供了许多其他特性,如后面要讲到的向选择器注册的功能。
类图如下:
建立连接代码实现:
获取 socket 连接
因为是同样是 I/O 阻塞的实现,所以后面的关于 socket 输入输出流的处理,和上一篇的基本相同。唯一差别是,这里需要通过 channel 来获取 socket 连接。
获取 socket 连接
处理输入输出流
完整示例
nio 的非阻塞实现
原理分析
nio 的阻塞实现,基本与使用原生的 socket 类似,没有什么特别大的差别。
下面我们来看看它真正强大的地方。到目前为止,我们将的都是阻塞 I/O。何为阻塞 I/O,看下图:
我们主要观察图中的前三种 I/O 模型,关于异步 I/O,一般需要依靠操作系统的支持,这里不讨论。
从图中可以发现,阻塞过程主要发生在两个阶段上:
第一阶段:等待数据就绪;
第二阶段:将已就绪的数据从内核缓冲区拷贝到用户空间;
这里产生了一个从内核到用户空间的拷贝,主要是为了系统的性能优化考虑。假设,从网卡读到的数据直接返回给用户空间,那势必会造成频繁的系统中断,因为从网卡读到的数据不一定是完整的,可能断断续续的过来。通过内核缓冲区作为缓冲,等待缓冲区有足够的数据,或者读取完结后,进行一次的系统中断,将数据返回给用户,这样就能避免频繁的中断产生。
了解了 I/O 阻塞的两个阶段,下面我们进入正题。看看一个线程是如何实现同时处理多个 I/O 调用的。从上图中的非阻塞 I/O 可以看出,仅仅只有第二阶段需要阻塞,第一阶段的数据等待过程,我们是不需要关心的。不过该模型是频繁地去检查是否就绪,造成了 CPU 无效的处理,反而效果不好。如果有一种类似的好莱坞原则— “不要给我们打电话,我们会打给你” 。这样一个线程可以同时发起多个 I/O 调用,并且不需要同步等待数据就绪。在数据就绪完成的时候,会以事件的机制,来通知我们。这样不就实现了单线程同时处理多个 IO 调用的问题了吗?即所说的“I/O 多路复用模型”。
废话讲了一大堆,下面就来实际操刀一下。
创建选择器
由上面分析可以,我们得有一个选择器,它能监听所有的 I/O 操作,并且以事件的方式通知我们哪些 I/O 已经就绪了。
代码如下:
创建非阻塞 I/O
下面,我们来创建一个非阻塞的SocketChannel,代码与阻塞实现类型,唯一不同是socketChannel.configureBlocking(false)。
注意:只有在socketChannel.configureBlocking(false)之后的代码,才是非阻塞的,如果socketChannel.connect()在设置非阻塞模式之前,那么连接操作依旧是阻塞调用的。
建立选择器与 socket 的关联
选择器与 socket 都创建好了,下一步就是将两者进行关联,好让选择器和监听到 Socket 的变化。这里采用了以SocketChannel主动注册到选择器的方式进行关联绑定,这也就解释了,为什么不直接new Socket(),而是以SocketChannel的方式来创建 socket。
代码如下:
上面代码,我们将 socketChannel 注册到了选择器中,并且对它的连接、可读、可写事件进行了监听。
具体的事件监听类型如下:
操作类型
值
描述
所属对象
OP_READ
1 << 0
读操作
SocketChannel
OP_WRITE
1 << 2
写操作
SocketChannel
OP_CONNECT
1 << 3
连接socket操作
SocketChannel
OP_ACCEPT
1 << 4
接受socket操作
ServerSocketChannel
选择器监听 socket 变化
现在,选择器已经与我们关心的 socket 进行了关联。下面就是感知事件的变化,然后调用相应的处理机制。
这里与 Linux 下的 selector 有点不同,nio 下的 selecotr 不会去遍历所有关联的 socket。我们在注册时设置了我们关心的事件类型,每次从选择器中获取的,只会是那些符合事件类型,并且完成就绪操作的 socket,减少了大量无效的遍历操作。
注意:这里的selector.select()是同步阻塞的,等待有事件发生后,才会被唤醒。这就防止了 CPU 空转的产生。当然,我们也可以给它设置超时时间,selector.select(long timeout)来结束阻塞过程。
处理连接就绪事件
下面,我们分别来看下,一个 socket 是如何来处理连接、写入数据和读取数据的(这些操作都是阻塞的过程,只是我们将等待就绪的过程变成了非阻塞的了)。
处理连接代码:
处理写入就绪事件
这里有两个地方需要注意:
第一个是使用channel.write(charset.encode(request));进行数据写入。有人会说,为什么不能像上面同步阻塞那样,通过PrintWriter包装类进行操作。因为PrintWriter的write()方法是阻塞的,也就是说要等数据真正从 socket 发送出去后才返回。
这与我们这里所讲的阻塞是不一致的,这里的操作虽然也是阻塞的,但它发生的过程是在数据从用户空间到内核缓冲区拷贝过程。至于系统将缓冲区的数据通过 socket 发送出去,这不在阻塞范围内。也解释了为什么要用Charset对写入内容进行编码了,因为缓冲区接收的格式是ByteBuffer。
第二,选择器用来监听事件变化的两个参数是interestOps与readyOps。
interestOps:表示SocketChannel所关心的事件类型,也就是告诉选择器,当有这几种事件发生时,才来通知我。这里通过key.interestOps(SelectionKey.OP_READ);告诉选择器,之后我只关心“读就绪”事件,其他的不用通知我了。
readyOps:表示SocketChannel当前就绪的事件类型。以key.isReadable()为例,判断依据就是:return (readyOps() & OP_READ) != 0;
处理读取就绪事件
这里的处理基本与写入一致,唯一要注意的是,这里我们需要自行处理去缓冲区读取数据的操作。首先会分配一个固定大小的缓冲区,然后从内核缓冲区中,拷贝数据至我们刚分配固定缓冲区上。这里存在两种情况:
我们分配的缓冲区过大,那多余的部分以0补充(初始化时,其实会自动补0)。
我们分配的缓冲去过小,因为选择器会不停的遍历。只要SocketChannel处理读就绪状态,那下一次会继续读取。当然,分配过小,会增加遍历次数。
最后,将一下ByteBuffer的结构,它主要有 position, limit,capacity 以及 mark 属性。以buffer.flip();为例,讲下各属性的作用(mark 主要是用来标记之前 position 的位置,是在当前 postion 无法满足的情况下使用的,这里不作讨论)。
从图中看出,
容量(capacity):表示缓冲区可以保存的数据容量;
极限(limit):表示缓冲区的当前终点,即写入、读取都不可超过该重点;
位置(position):表示缓冲区下一个读写单元的位置;
完整代码
示例效果
总结
本文从 nio 的阻塞方式讲起,介绍了阻塞 I/O 与非阻塞 I/O 的区别,以及在 nio 下是如何一步步构建一个 IO 多路复用的模型的客户端。文中需要理解的内容比较多,如果有理解错误的地方,欢迎指正~
补充1:基于NIO的多路复用客户端(线程池版)
补充2:基于NIO的多路复用服务端
JAVA NIO怎么构建I/O多路复用的请求模型的详细内容,希望对您有所帮助,信息来源于网络。