Java多线程 Reactor形式和NIO (转载)

Java多线程 Reactor模式和NIO (转载)

Reactor模式和NIO

板桥里人 jdon.com 2002/11/08

本文可看成是对Doug Lea Scalable IO in Java 一文的翻译。

当前分布式计算 Web Services盛行天下,这些网络服务的底层都离不开对socket的操作。他们都有一个共同的结构:
1. Read request
2. Decode request
3. Process service
4. Encode reply
5. Send reply

经典的网络服务的设计如下图,在每个线程中完成对数据的处理:
Java多线程 Reactor形式和NIO (转载)

但这种模式在用户负载增加时,性能将下降非常的快。我们需要重新寻找一个新的方案,保持数据处理的流畅,很显然,事件触发机制是最好的解决办法,当有事件发生时,会触动handler,然后开始数据的处理。

Reactor模式类似于AWT中的Event处理:
Java多线程 Reactor形式和NIO (转载)

Reactor模式参与者

1.Reactor 负责响应IO事件,一旦发生,广播发送给相应的Handler去处理,这类似于AWT的thread
2.Handler 是负责非堵塞行为,类似于AWT ActionListeners;同时负责将handlers与event事件绑定,类似于AWT addActionListener

如图:
Java多线程 Reactor形式和NIO (转载)

Java的NIO为reactor模式提供了实现的基础机制,它的Selector当发现某个channel有数据时,会通过SlectorKey来告知我们,在此我们实现事件和handler的绑定。

我们来看看Reactor模式代码:


public class Reactor implements Runnable{

  final Selector selector;
  final ServerSocketChannel serverSocket;

  Reactor(int port) throws IOException {
    selector = Selector.open();
    serverSocket = ServerSocketChannel.open();
    InetSocketAddress address = new InetSocketAddress(InetAddress.getLocalHost(),port);
    serverSocket.socket().bind(address);

    serverSocket.configureBlocking(false);
    //向selector注册该channel
     SelectionKey sk =serverSocket.register(selector,SelectionKey.OP_ACCEPT);

    logger.debug("-->Start serverSocket.register!");

    //利用sk的attache功能绑定Acceptor 如果有事情,触发Acceptor
    sk.attach(new Acceptor());
    logger.debug("-->attach(new Acceptor()!");
  }


  public void run() { // normally in a new Thread
    try {
    while (!Thread.interrupted())
    {
      selector.select();
      Set selected = selector.selectedKeys();
      Iterator it = selected.iterator();
      //Selector如果发现channel有OP_ACCEPT或READ事件发生,下列遍历就会进行。
      while (it.hasNext())
        //来一个事件 第一次触发一个accepter线程
        //以后触发SocketReadHandler
        dispatch((SelectionKey)(it.next()));
        selected.clear();
      }
    }catch (IOException ex) {
        logger.debug("reactor stop!"+ex);
    }
  }

  //运行Acceptor或SocketReadHandler
  void dispatch(SelectionKey k) {
    Runnable r = (Runnable)(k.attachment());
    if (r != null){
      // r.run();

    }
  }

  class Acceptor implements Runnable { // inner
    public void run() {
    try {
      logger.debug("-->ready for accept!");
      SocketChannel c = serverSocket.accept();
      if (c != null)
        //调用Handler来处理channel
        new SocketReadHandler(selector, c);
      }
    catch(IOException ex) {
      logger.debug("accept stop!"+ex);
    }
    }
  }
}

以上代码中巧妙使用了SocketChannel的attach功能,将Hanlder和可能会发生事件的channel链接在一起,当发生事件时,可以立即触发相应链接的Handler。

再看看Handler代码:

public class SocketReadHandler implements Runnable {

  public static Logger logger = Logger.getLogger(SocketReadHandler.class);

  private Test test=new Test();

  final SocketChannel socket;
  final SelectionKey sk;

   static final int READING = 0, SENDING = 1;
  int state = READING;

  public SocketReadHandler(Selector sel, SocketChannel c)
    throws IOException {

    socket = c;

    socket.configureBlocking(false);
     sk = socket.register(sel, 0);

    //将SelectionKey绑定为本Handler 下一步有事件触发时,将调用本类的run方法。
    //参看dispatch(SelectionKey k)
    sk.attach(this);

    //同时将SelectionKey标记为可读,以便读取。
    sk.interestOps(SelectionKey.OP_READ);
    sel.wakeup();
  }

  public void run() {
    try{
    // test.read(socket,input);
      readRequest() ;
    }catch(Exception ex){
    logger.debug("readRequest error"+ex);
    }
  }


/**
* 处理读取data
* @param key
* @throws Exception
*/
private void readRequest() throws Exception {

  ByteBuffer input = ByteBuffer.allocate(1024);
  input.clear();
  try{

    int bytesRead = socket.read(input);

    ......

    //激活线程池 处理这些request
    requestHandle(new Request(socket,btt));

    .....


  }catch(Exception e) {
  }

}

注意在Handler里面又执行了一次attach,这样,覆盖前面的Acceptor,下次该Handler又有READ事件发生时,将直接触发Handler.从而开始了数据的读 处理 写 发出等流程处理。

将数据读出后,可以将这些数据处理线程做成一个线程池,这样,数据读出后,立即扔到线程池中,这样加速处理速度:

Java多线程 Reactor形式和NIO (转载)

更进一步,我们可以使用多个Selector分别处理连接和读事件。

一个高性能的Java网络服务机制就要形成,激动人心的集群并行计算即将实现。

Scalable IO in Java原文

 

Socket打造高性能服务器

更多NIO专题系列讨论....

并发模型

EDA

 

 

DCI 中场景的生命周期是如何的呢?

DCI 中场景的生命周期是如何的呢?有请Banq大哥出面。..

我对DCI的解理

大家,这两天看了与 DCI 相关的文章,写了这么个测试程序,请指正。 //ppt function Player(name) { this .name = name;....

无需OAuth就可以设计一个安全的REST (Web) API

OAuth非常复杂,但是考察Amazon的Web服务发现它们并没有使用OAuth,那么是如何保证 REST 安全性呢? 答案在: HMAC ,说白了就是HASH,每个客户端第一次发出请求时,将自....

Java没有死,它在进化

O'Grady确认Java现在达到其高峰时期,很难如Forrester宣传那样迅速死亡。 O'Grady这个观点是基于RedMonk搜集的各种数据,RedMonk注重研究开发者,而不是企业中那些所谓....

如何理解表现层,它不重要吗

我利用学到的开发方法,面向各种开发,可我发现我还是错的,只有面向客户,面向最终用户的开发,才是正确的,我所见的客户,他们最关心的不是你的团队写的代码如何,分析的多么条条有理,而是要一个漂亮的界面,正确....

读 banq的帖子Domain Events异步应用 有疑惑

看了这个帖子 http://www.jdon.com/jivejdon/thread/37712/15,深受启发。 因为我也正好碰到这个问题。比如一堆分类,每个分类需要统计其下Product的数量。....

数据库和OO

都说数据库对 OO 有阻碍作用,关系型数据库不是也能体现出对象之间的关系吗?外键代表单向,中间再放个关联表,不就代表双向关联了吗、对象之间不也就这几种关系吗?继承除外啊。..

color uml and dci 的问题

前段时间看了下color uml 和 DCI 发现 四色 原型可以直接通过 DCI 来实现 觉得非常不错。 在网上看了几个 DCI 的例子——主要是转账那个,然后自己开始琢磨1个....

怎么进行分离。

要实现一个像svn版本同步功能的信息同步模块。 在项目中有User用户信息,由于可能用 pc android IOS等客户端登录到服务器来同步User信息。User用户信息产生不一致的情况主要是 同....

Twitter 从Ruby的Rails移植到Java

Ruby成熟应用曾经以Twitter为骄傲,Twitter曾经一度前台使用Ruby,后台使用Java,可随着系统规模扩展,Twitter决定放弃RoR,早在2008到2009年,他们就开始将后台消息系....

可伸缩性Scalable高性能系统设计

文章比较全面分析了系统可 伸缩性 scalable设计。 首先指出scalable和普通意义上性能提升有些不同,以至于更多人关注单台机器性能,而无视更高意义上性能扩充。 Scalable可 ....

请教banq老师一个repository的问题

repository是针对聚合跟建立还是针对实体对象啊? 比方说员工是聚合跟,考勤记录是员工的一个属性,是个list; 我是对应聚合跟 Employeerepository 我想添加一条考勤记录的....

OOD vs SOA

在Yahoo的 SOA讨论组 一直持续着 OO 面向对象和SOA之间的讨论,涉及领域模型domain model, 消息格式message format 和服务设计考量等方面。 随着MDD/DD....

如何对现在系统架构进行改造

目前公司的一个产品使用的架构是struts+sessionBean+DAO+DB模式,平时所谓的设计工作也都是在做数据库方面的设计,增加几个DAO方法,或是在原DAO方法上if else来满足客户需求....

对象设计夜未眠

对象设计不是仅仅为了真实的模拟现实世界,而是使现实世界的需求能更好的在计算机这个环境中表达,当我们思考对象职责,设计对象行为时,能够更好的扩展,能够更好的维护,能够更清晰的表达这个对象所承担的....