본문 바로가기
JAVA

[NIO] 3부, 블럭킹 IO와 논블럭킹 IO #1

by windrises 2007. 3. 29.
invalid-file

예제소스

블럭킹 IO와 논블럭킹 IO

자바 1.5가 조만간 정식 버전이 출시될 것으로 기대되고 있기는 하지만, 필자가 앞서 썻던 자바 1.4의 새로운 입출력 API인 NIO와 관련된 글을 끝맺음하고자 NIO API의 마지막 주제인 'Selector'와 '논블럭킹 IO'에 대해서 살펴보고자 한다. 먼저 1.4 이전의 입출력 코드에 대해서 살펴보도록 하자. 1.4 이전의 입출력 프로그램에서의 기본적인 입출력 메소드는 모두 블럭킹되었다. 예를 들어, ServerSocket의 accept() 메소드의 경우 클라이언트로부터의 연결 요청이 들어올 때 까지 블럭킹된다.

   Socket socket = serverSocket.accept(); // 블럭킹됨!!

뿐만 아니라 클라이언트가 전송한 데이터를 입력받을 때에도 다음과 같이 데이터를 읽어오는 부분에서 프로그램의 흐름이 블럭킹된다.

   in = socket.getInputStream();
   ...
   len = in.read(buff); // 블럭킹됨.

이렇게 블럭킹되는 코드 때문에 자바로 서버 프로그래밍을 하는 개발자들은 성능 문제를 겪어야만 했다. 예를 들어, 동시에 10명의 접속자를 처리하기 위해서는 기본적으로 다음과 같이 각각의 클라이언트마다 하나의 쓰레드를 생성해주어야 했다.

   
   public class ClientAcceptor {
   
      public void run() {
         ...
          Socket socket = serverSocket.accept();
          ClientProcessor processor = new ClientProcessor(socket);
          processor.start(); // 기본구조는 클라이언트 하나당 쓰레드 하나
          ...
      }    
    }
    
    
    public class ClientProcessor extends Thread {
       
       ...
       
       public void run() {
          ...
          in = socket.getInputStreacm();
          // in으로부터 데이터 읽어오기
          ...
       }
    }

그 동안 서버 프로그래밍의 기본 구조는 위 코드와 같이 클라이언트의 요청이 들어올 경우 그 클라이언트의 요청을 처리하는 하나의 쓰레드를 생성하는 것이었다. 하지만 이렇게 <클라이언트-쓰레드> 쌍을 사용하는 경우 클라이언트가 숫자에 비례해서 쓰레드의 숫자가 많아지게 되기 때문에 서버에 심각한 성능 문제를 유발하게 되며 이런 점을 극복하기 위해서 자바 개발자들은 폴링(polling)기법과 쓰레드 풀을 함께 사용해 왔었다. 폴링 기법을 간단하게 설명하자면 다음과 같은 형태의 코드로 정리된다. (아래 코드에서 SocketList는 Socket 목록을 저장하는 List라고 가정하자.)

   
   public class ClientAcceptor {
   
      public void run() {
         ...
          Socket socket = serverSocket.accept();
          socketList.addSocket(socket); // 소켓을 처리 목록에 추가
          ...
      }    
    }
   
   public class ClientProcessor {
   
      public void run() {
          while(true) {
             Thread.sleep(100); // 0.1초간 대기
             
             for (int i = 0 ; i < socketList.size() ; i++) {
                // 클라이언트의 요청을 차례대로 처리
                Socket socket = socketList.getSocket(i);
                in = socket.getInputStream();
                // 클라이언트와의 입출력 처리
                in.read(..); // 블럭킹되므로 시간 대기 문제 발생
                ...
             }
          }
      }
    }

구현하는 방법에 따라서 차이는 있겠지만 폴링기법의 기본 구현 형태는 위 코드와 같다. 즉, 처리해야 할 클라이언트를 차례대로 처리하는 것이다. 폴링 기법과 쓰레드 풀 기법을 함께 사용하면 성능을 좀더 높일 수 있긴 하지만, 대기 시간을 낭비하게 되고, (채팅 서비스와 같이) 동시처리가 요구되는 경우 폴링기법으로는 한계가 있다.

자바에서 성능상의 문제가 발생함에도 불구하고 멀티 쓰레드를 사용하여 클라이언트 당 하나의 쓰레드를 생성해주거나 폴링 기법을 사용하여 클라이언트 요청을 처리하는 근본적인 이유는 InputStream의 read() 메소드가 블럭킹되기 때문이다. 멀티 쓰레드를 사용하는 경우에는 각각의 클라이언트를 별도로 쓰레드로 처리함으로써 read() 메소드의 블럭킹 때문에 발생하는 문제를 해소하고 있으며, 폴링 기법의 경우는 시스템 자원 소모를 최소화하기 위해서 클라이언트의 요청을 순차적으로 반복해서 처리하고 있다. 하지만, 멀티 쓰레드 기법은 클라이언트의 증가에 비례해서 자원을 많이 소모하게 되며, 폴링 기법은 여전히 블럭킹에 따른 문제점을 안고 있다.

이런 문제를 해결하기 위해서 자바 1.4부터는 입출력의 논블럭킹 기능이 추가되었다. (논블럭킹 IO의 경우는 이미 운영체제 차원에서 지원되고 있고 C/C++ 라이브러리들 역시 각 운영체제에 맞게 논블럭킹 IO를 사용할 수 있도록 도와주고 있는 걸 생각해보면 자바에서는 늦게 이 기능이 추가되었다고 생각된다.) 논블럭킹 IO의 핵심은 클라이언트의 연결을 기다리거나 채널로부터 데이터를 읽어올 때 다음과 같이 처리되는 것이다.

  • 논블럭킹 모드인 경우
    • 클라이언트의 연결 요청이 없을 경우 ServerSocketChannel.accept() 메소드는 곧바로 null을 리턴한다.
    • 채널로부터 읽어올 데이터가 없는 경우 SocketChannel.read() 메소드는 곧바로 리턴되며, 인자로 전달한 ByteBuffer에는 어떤 내용도 입력되지 않는다.

즉, 이름 그대로 NIO의 논블럭킹 모드를 사용하면 대기 상태라는 개념이 없어지는 것이다. 이 말은 앞에서 InputStream.read() 메소드의 블럭킹 때문에 발생했던 클라이언트-쓰레드 구조의 다중 쓰레드 구현 기법 및 폴링 기법 구현시 발생하는 문제점을 해결할 수 있다는 것을 의미한다. 실제로 논블러깅 IO를 어떻게 사용하는지에 대해서는 다음 절에서 살펴보도록 하겠다.

논블럭킹 모드 사용하기

논블럭킹 모드를 사용할 수 있는 채널은 다음과 같은 메소드를 제공한다.

  public SelectableChannel configureBlocking(boolean block)
  throws IOException

configureBlocking() 메소드의 파라미터의 값을 false로 전달하면 손쉽게 채널을 논블럭킹 모드로 변환할 수 있다. 예를 들어, 소켓스트림으로부터 데이터를 주고 받는데 사용되는 채널인 SocketChannel을 논블럭킹 모드로 지정하고 싶다면 다음과 같은 코드를 사용하면 된다.

   
   public class ClientAcceptor {
   
      public void run() {
         ServerSocketChannel ssc = null;
         try {
            ssc = ServerSocketChannel.open();
            InetSocketAddress address = new InetSocketAddress(port);
            ssc.socket().bind(address);
            
            while(true) {
                SocketChannel socketChannel = serverChannel.accept();
                 // 소켓채널 논블럭킹 모드 지정
                socketChannel.configureBlocking(false); 
                socketList.addSocket(socketChannel);
                ...
                ...
             }
         } catch(IOException ex) {
            ...
         } finally {
            ...
         }
      }
   }
   
   public class ClientProcessor {
      
      public void run() {
         ByteBuffer buffer = ....;
         ...
         
          while(true) {
             Thread.sleep(100); // 0.1초간 대기
             
             for (int i = 0 ; i < socketList.size() ; i++) {
                // 클라이언트의 요청을 차례대로 처리
                SocketChannel socket = socketList.getSocket(i);
                
                buffer.clear();
                socket.read(buffer); // 블럭킹 되지 않음
                if (buffer.position() > 0) {
                   ... // 소켓에서 읽어온 데이터 처리
                }
             }
          }
      }
    }
   
   

위 코드와 같이 configureBlocking(false) 메소드를 호출한 이후에 SocketChannel.read() 메소드는 앞에서 설명했듯이 블럭킹 되지 않고 곧바로 리턴된다.

SocketChannel을 비롯해서 논블럭킹 모드를 지원하는 채널은 다음과 같다.

  • ServerSocketChannel
  • SocketChannel
  • DatagramChannel
  • Pipe.SinkChannel
  • Pipe.SourceChannel
   
   public class ClientAcceptor {
   
      public void run() {
         ServerSocketChannel ssc = null;
         try {
            ssc = ServerSocketChannel.open();
            InetSocketAddress address = new InetSocketAddress(port);
            ssc.configureBlocking(false);
            ssc.socket().bind(address);
            
            while(true) {
                // 연결 요청없을 경우 곧바로 리턴
                SocketChannel socketChannel = serverChannel.accept();
                if (socketChannel != null) {
                   // 소켓채널 논블럭킹 모드 지정
                   socketChannel.configureBlocking(false); 
                   socketList.addSocket(socketChannel);
                   ...
                   ...
                }
             }
         } catch(IOException ex) {
            ...
         } finally {
            ...
         }
      }
   }

위 코드의 문제점은 무한루프를 도는 데 모든 코드가 쉴새 없이 실행되기 때문에 CPU의 실행시간을 상당부분 소모하게 된다는 것이다. 예를 들어, 10초간 클라이언트로부터의 연결 요청이 없을 경우, serverChannel.accept() 메소드는 10초가 계속해서 null을 리턴하게 되며, 결과적으로 10초 동안 while() 루프는 (실제적으로 아무런 기능도 수행하지 않은채로) 반복해서 실행되며 그 만큼 CPU 시간을 낭비하게 되는 것이다. 앞에서 소켓으로부터 데이터를 읽어와 처리하는 부분의 경우에도 Thread.sleep() 메소드를 지정해주지 않으면 상당량의 CPU 시간을 낭비하게 된다.

무한 루프 형태의 반복문에서 논블럭킹 메소드를 수행하는 경우에는 이처럼 CPU 시간이 낭비되는 데, 자바 1.4는 이를 방지할 수 있는 기능을 제공하고 있다. 그것은 바로 Selector라는 것인데, 이 Selector를 사용하게 되면 연결요청이 들어왔거나 또는 데이터를 읽어올 수 있는 경우에만 코드를 수행하도록 지정할 수 있다.

Selector를 통해서 논블럭킹 채널 사용하기

Selector 클래스는 일종의 이벤트 리스너이다. 즉, 논블럭킹 모드를 지원하는 채널에 Selector를 등록해놓으면 논블럭킹 채널은 연결요청이 들어오거나 데이터가 도착한 경우에 그 사실을 Selector에 알리게 된다. 그럼, Selector는 어떤 기능을 사용할 수 있는 지를 리턴하게 되며, 그 리턴값을 통해서 연결요청을 처리할지 데이터 읽기를 처리할지 결정할 수 있게 된다.

논블럭킹 모드를 지원하는 채널들은 다음과 같이 Selector를 등록할 수 있는 메소드를 제공하고 있다.

   public SelectionKey register(Selector sel, int ops, Object att)
   throws ClosedChannelException

sel 인자는 해당 채널에 등록할 Selector이고, ops는 Selector가 전달받은 이벤트의 종류를 명시한다. att 객체는 리턴디는 SelectionKey에서 사용할 속성을 나타낸다.

Selector를 채널에 등록하기 위해서는 먼저 Selector를 생성해야 하는데, Selector.open() 메소드를 사용하면 새로운 Selector를 생성할 수 있게 된다. (NIO API의 특징은 객체를 생성할 때 open() 메소드를 생성한다는 점이다.) open() 메소드의 사용방법은 다음과 같이 간단한다.

   Selector selector = Selector.open();

Selector를 생성한 후에는 Selector 객체를 알맞은 채널에 등록해주면 된다. Selector를 채널에 등록할 때에는 채널의 어떤 기능과 관련해서 등록할지를 정해야 하는데 이때에는 SelectionKey 클래스에 정의된 상수값을 사용하면 된다. 다음의 SelectionKey 클래스에 정의된 상수값의 목록이다.

  • SelectionKey.OP_READ - 채널로부터 데이터를 읽어올 수 있는 경우. 값은 1
  • SelectionKey.OP_WRITE - 채널에 데이터를 쓸 수 있는 경우. 값은 4
  • SelectionKey.OP_ACCEPT - 소켓 연결이 들어온 경우. 값은 16
  • SelectionKey.OP_CONNECT - 연결 요청이 이뤄진 경우. 값은 8

위의 SelectionKey에 정의된 상수값을 사용하면 Selector가 채널로부터 원하는 이벤트를 전달받을 수 있도록 할 수 있다. 예를 들어, 논블럭킹 모드로 지정된 ServerSocketChannel에 연결요청이 들어오는 경우에 이벤트를 전달받도록 Selector를 채널에 등록하고 싶다면 다음과 같은 코드를 사용하면 된다.

   ServerSocketChannel ssc = null;
   ..
   try {
      ssc = ServerSocketChannel.open();
      ssc.blockingConfigure(true);
      
      Selector selector = Selector.open();
      
      ssc.register(selector, SelectionKey.OP_ACCEPT, null);
      
      ...
   } catch(..) {
      ...
   }

위와 같이 논블럭킹 채널에 Selector를 등록한 이후에는 논블럭킹되는 메소드 대신에 Selector 클래스의 readyOps() 메소드를 사용하여 어떤 기능을 사용할 수 있는 지 검사할 수 있게 된다. 예를 들어, 위 코드에서처럼 ServerSocketChannel에 Selector를 등록했다면 다음과 같이 Selector를 사용하여 연결요청이 들어오는 때에 알맞은 처리를 할 수가 있다.

   ssc = ServerSocketChannel.open();
   ssc.blockingConfigure(true);
   
   Selector selector = Selector.open();
   
   ssc.register(selector, SelectionKey.OP_ACCEPT, null); // selector를 등록
   
   while (true) {
      // selector와 관련된 이벤트가 발생할때까지 블럭킹!
      int numKeys = selector.readyOps();
      if (numKeys > 0) {
         if ((numKeys & SelectionKey.OP_ACCEPT) == 
                    SelectionKey.OP_ACCEPT) {
            Set selectedKeySet = selector.selectedKeys();
            Iterator iter = selectedKeySet.iterator();
            
            while(iter.hasNext()) {
               SelectionKey key = (SelectionKey)iter.next();
               iter.remove();
               
               SocketChannel incomingChannel = ssc.accept();
               // 또는 다음 코드와 같이 (ServerSocketChannel)key.channel()
               // SocketChannel incomingChannel = 
               //    ((ServerSocketChannel)key.channel()).accept();
            }
         }
      }
   }

위 코드에서 핵심적인 기능을 제공하는 메소드는 Selector의 readyOps() 메소드이다. Selector의 readyOps() 메소드는 Selector가 등록되어 있는 채널로부터 관련된 이벤트가 발생할 때 까지 블럭킹되며, 관련된 이벤트가 발생할 경우 그와 간련된 키값을 리턴한다. 예를 들어, 위 코드에서는 SelectionKey.OP_ACCEPT 이벤트에 관심을 갖도록 Selector를 등록했는데 관련된 ServerSocketChannel에 클라이언트의 연결 요청이 들어올때까지 selector.readyOps() 메소드는 블럭킹되며, 클라이언트의 요청이 들어올 경우 그와 관련된 키 값인 SelectionKey.OP_ACCEPT를 리턴하게 된다.

Selector의 readyOps() 메소드는 등록된 채널들로부터 받은 모든 이벤트 목록을 리턴한다. 예를 들어, 다음과 같이 하나의 Selector를 여러 채널에 등록했다고 가정해보자.

   Selector selector = Selector.open();
   
   ServerSocketChannel ssc = ...;
   
   ssc.register(selector, SelectionKey.OP_ACCEPT, null);
   
   ...
   SocketChannel sc = ssc.accept();
   
   sc.register(selector, SelectionKey.OP_READ, null);
   ...

위와 같이 하나의 Selector를 여러 채널에 등록한 경우 Selector의 readyOps() 메소드는 관련된 채널들 중의 하나라도 이벤트가 발생한 경우 그와 관련된 값을 리턴한다. 만약 동시에 클라이언트로부터 연결 요청이 들어오고 소켓으로부터 읽을 수 있는 데이터가 들어왔다면 selector.readyOps() 메소드는 다음과 같은 값을 리턴할 것이다.

   // 연결 요청과 채널에서 읽어올 수 있는 데이터를 사용가능한 경우 아래 numKeys는
   // SelectionKey.OP_READ | SelectionKey.OP_ACCEPT의 값을 갖는다.
   int numKeys = selector.readyOps();

Selector.readyOps() 메소드가 리턴한 값이 0보다 큰 경우 Selector의 selectedKeys() 메소드를 사용하여 관련된 이벤트 목록을 읽어올 수 있다. selectedKeys() 메소드는 Selector가 등록된 채널과 관련된 SelectionKey의 집합인 Set을 리턴한다. SelectionKey는 관련 채널을 리턴하는 channel() 메소드를 제공하고 있다. 따라서, Selector를 이용하는 경우 전체적인 프로그램 코드는 다음과 같은 구조를 갖게 된다.

   
   // 1. Selector 생성
   Selector selector = Selector.open();
   
   // 2. Selector를 등록할 수 있는 채널 생성
   ServerSocketChannel channel = ServerSocketChannel.open();
   ...
   // 3. 채널에 Selector 등록
   channel.register(selector, SelectionKey.OP_ACCEPT, null);
   ...
   
   while(true) {
   // 4. selector를 이용하여 채널의 이벤트 대기
      int readyKey = selector.readyOps();
   
   // 5. readyKey가 0 이상이면 이벤트가 발생한 것으로 처리
      if (readyKey > 0) {
   
   // 6. selector로부터 채널에서 발생한 이벤트와 관련된 SelectionKey Set 구함
         Set selectionKeySet = selector.selectedKeys();
   
   // 7. Set에서 각 SelectionKey를 차례대로 읽어와
         Iterator iter = selectionKeySet.iterator();
         while(iter.hasNext()) {
            SelectionKey selectionKey = (SelectionKey)iter.next();
            
   // 8. SelectionKey로부터 채널을 구함
            ServerSocketChannel relatedChannel =
                (ServerSocketChannel)selectionKey.channel();
            
   // 9. 채널을 사용하여 알맞은 작업 수행
            ...
         }
      }
   }












-출처 [http://javacan.madvirus.net/]


'JAVA' 카테고리의 다른 글

NIO SAMPLE SOURCE  (0) 2007.03.29
[NIO] 1부, 버퍼와 채널 #2  (0) 2007.03.29
[NIO] 1부, 버퍼와 채널 #1  (0) 2007.03.29
[NIO] 2부, Charset을 이용한 인코딩/디코딩처리  (0) 2007.03.29
[NIO] 3부, 블럭킹 IO와 논블럭킹 IO #2  (0) 2007.03.29