[풀스택] TCP 비동기식 socket server programming

 

 

 

socketserver을 기반으로 한 비동기식 1:N programming

• [접근1] Socket API 기반 개발
  • Socket API는 대부분의 프로그래밍 언어에서 유사함
  • Socket API만으로 1:N 서버를 구현하는 것도 당연히 가능함
  • 40년 전통의 원조 맛집 프로그래밍
•  [접근2] 언어별 차별화 된 Socket 기능으로 개발
  • 최신 프로그래밍 언어는 보다 향상된 Socket 기능을 제공함
  • 최신 프로그래밍 언어의 Socket 기능으로 빠른 개발과 안정적인 성능 제공이 용이함
  • 이건 언어에 따라 있을 수도 있고, 없을 수도 있다. ex) cpp 이런거 못할 수 있다. 
• [본 강의의 예제] Python에 대한 [접근2]로 구현
  • socketserver를 통해 쉽게 Socket 서버 개발이 가능
  • Multi-threading/process 기능을 통해 쉽게 비동기식 Socket 서버 개발이 가능

 

 

 

 

socketserver 기반 TCP Echo Server 개발

Python의 socketserver란? 

• 이미 서버 class가 존재한다! 
• Socket 기반 네트워크 서버 개발을 지원하는 Python 모듈 -> 웬만하면 알아서 돌아가게 함
• 4가지 유형의 서버 클래스를 제공

class socketserver.TCPServer(server_address, RequestHandlerClass, bind_and_activate=True)

optional : IP, Port number 

어떻게 개발자들이 편하게 짤 수 있을까?
서버 프로그램이 해야할 일은 객체를 만든다
어떤 데이터든, 프로그램이든 서버가 할 일반적인 일
-> server 객체로 띄움 (가장 최소한의 정보)

개발자가 관심있는 것 : 특정 값, 정보, 명령을 처리하는 것 
통상 requestHandler 에 구현한다. (custom)
받아서 처리해야 할 로직을 핸들러에 넣어 둔다.
그럼 서버한테, 니가 받으면 핸들러에게 넣어줘!

 

 

 

 

socketserver.TCPServer 기반의 TCP 서버 만드는 절차

1. You must create a request handler class by subclassing the BaseRequestHandler class and overriding its handle() method; 

- this method will process incoming requests. -> 리퀘스트 요청들을 처리하는 메소드
- 이미 베이스 리퀘스트 핸들러의 템플릿이 있다. 
- 우리는 handle (미니멈) 메소드에만 손을 댈 것이다. 

2. You must instantiate one of the server classes, passing it the server’s address and the request handler class. 

- It is recommended to use the server in a with statement.

3. Call the handle_request() or serve_forever() method of the server object to process one or many requests.

- 우리가 실행하면, 내부적으로 영원히 서버를 살려둔다. 

4. Call server_close()to close the socket (unless you used a with statement).

 

 

 

[ 장점 ]

- 이제 하나의 클라이언트 응답 뿐만 아니라, 여러 클라이언트의 응답을 받을 수 있다. 

- 1:1 -> import socket 

- 1:N -> import socketserver

- socket, bind 등의 함수가 모두 사라짐 

- handle() 함수 내부에, 핸들러 동작을 넣어주면 끝

 

[ 단점 ]

- 동시 지원 가능한 client는 1개 뿐이다. 

- 다른 클라이언트들은 서비스 중인 클라이언트 종료까지 기다려야 한다. 

- 즉, 동기식으로 동작한다. (비동기 처리 X)

 

 

 

socketserver.TCPServer 기반 Echo-Server 문제점

• Each request must be completed before the next request can be started.
• This isn’t suitable if each request takes a long time to complete, because it requires a lot of computation, or because it returns a lot of data which the client is slow to process.
• The solution is to create a separate process or thread to handle each request;
  the ForkingMixIn and ThreadingMixIn mix-in classes can be used to support asynchronous behaviour.
  -> fork: 멀티 프로세스, threading: 멀티 스레드 

 

 

 

비동기 처리

동기식 동작과 비동기식 동작은 무엇인가?

• 동기식 처리
  • 진행중인 작업이 있으면, 다음 작업은 현재 진행 작업 종료 후 처리
  • 통상 blocking 처리라고 함
  • 현재 실행 말고는 다 안 받아주겠다 - blocking
• 비동기식 처리
  • 진행중인 작업이 있어도, 다음 작업이 기다리지 않고 바로 실행
  • 통상 non-blocking 처리하고 함
  • 클라이언트 입장, 서버한테 데이터 요청 보내놓고, 본인은 남은 데이터 처리 하는 등 비동기적인 동작
  • 서버 입장, 여러 개의 클라이언트를 동시에 받아주는 것

 

 

 

Multi-Thread/Process란 무엇인가?

• “일꾼이 되는 프로그램 개수를 증가"
• Multi-Process와 Multi-Thread가 일반적임

1) Multi-Process
독립적인 프로그램 실행
주로 fork()로 실행

실행 파일을 실행한 후 
컴퓨터 메모리 위에 올라온 상황
하나 더 실행하면 -> 별도의 코드가 메모리에 독립적으로 올라감 (multi process)

즉, 두 개 이상의 실행 파일을 동시에 실행시킨 것 

 

2) Multi-Thread (본 강의 사례)

데이터를 공유하는 일꾼

추가 일꾼을 Thread 라고 칭함

Process 보다 자원 요구 적음

 

프로세스 간 공유하게 되면, 더 가볍게 처리할 수 있잖아?
독립적으로 스레드를 띄워봤자, 너무 무거움
공유할 건 공유하고, 그 안에서 일꾼들을 (기능, 작업을) 분담해서 처리하자 -> 멀티스레드

프로그램이 하나만 실행된다.
공유할 데이터는 공유하며, 함수 하나, 클래스 하나 각각을 여러 개 띄운다
실행 파일 하나 실행시켰으나, 그 안에서 함수 여러 개의 비동기 작업을 하거나 등등

 

[ 장점 ]

- 자원 요구사항이 작다

- 스레드를 여러 개 만들면, 운영체제가 코어마다 나눠준다 -> 프로그램 성능 향상 ok

 

 

 

비동기식 TCP socketserver 개발

파이썬, 비동기로 동작하는 1:N 서버 -> 아주 쉽게 멀티스레드를 구현

 

[단계1] socketserver의 multi-thread 버전 생성

• Forking and threading versions of each type of server can be created using these mix-in classes.
• 아무 동작도 추가하고 싶지 않다면 -> 그 외에는 할 게 없다. 
• The mix-in class comes first, since it overrides a method defined in socketserver. 
  Setting the various attributes also changes the behavior of the underlying server mechanism.

 

• Threadingmixin 먼저, 이후 tcp server 실행 됨
• 두 개의 클래스로부터, threaded TCP 서버를 만들어낸 것
• Threadingmixin - 기존 tcp 서버에 멀티 스레딩을 구현하기위한 이걸 추가하면, 그냥 멀티 스레드가 됨
• Threadingmixin class
  -> 본인 스스로부터 객체를 만들었을 때 별 의미가 없다 
  다른 클래스에 포함이 되었을 때 유의미
• ex) 이 클래스로부터 만들어지는 객체의 수는 몇 개이냐? 
  일종의 툴 처럼 쓰이는 클래스들 -> mixIn이라고 부른다
  필요할 때 이런 애들을 본인 클래스에 집어넣는다. ex) objective-C

 

 

[단계2] socketserver의 Request Handler를 수정

• To implement a service, you must derive a class from BaseRequestHandler and redefine its handle() method.
  핸들러 내부 - echo 돌려보내는 동작 뿐 
  이제는 이게 멀티스레드 처리가 되어, 스레드 1, 2, 3 로 띄운다
• You can then run various versions of the service by combining one of the server classes with your request handler class.
• The request handler class must be different for datagram or stream services. This can be hidden by using the handler subclasses StreamRequestHandler or DatagramRequestHandler.
• 어느 스레드가 처리하고 있는지 보여주고자 cur_thread.name을 띄웠지만, 이거 지우면 앞의 1:1이랑 코드 똑같다
  기본적으로는, 멀티 스레드화 할 때, 핸들러 내부에 더 해줄 작업 없음 

 

 

[단계3] Main Thread 설정 및 실행

• When inheriting from ThreadingMixIn for threaded connection behavior, you should explicitly declare how you want your threads to behave on an abrupt shutdown.
• 멀티 스레드의 철학
  스레드를 띄우고 나면 - 운영체제는 각각 독립적으로 바라본다. 
  같이 죽을거냐? 모두 독립적으로 죽을 것이냐?
  1) 프로그램이 죽으며, 현재 띄운 스레드를 다 종료시키고 싶을 때
  -> 프로그램의 종료는 마지막 스레드가 종료될 때 까지 기다리던지?
  or 2) 프로그램은 죽고, 스레드들은 독립적으로 죽는다 
• The ThreadingMixIn class defines an attribute daemon_threads, which indicates whether or not the server should wait for thread termination.
  daemon 값으로 기다릴거냐 말거냐를 결정할 수 있다. 
  
• You should set the flag explicitly if you would like threads to behave autonomously; 
  the default is False, meaning that Python will not exit until all threads created by ThreadingMixIn have exited.
• 서버가 죽을 때 할 일이 많다. (DB 닫고 등등) -> 예쁘게 죽는 것이 좋다.

 

 

• threading.Thread(target=server.serve_forever)
  • This constructor should always be called with keyword arguments.
  • target is the callable object to be invoked by the run() method.
  • 서버를 멀티스레드로 띄움 -> server.serve_forever 얘로부터 핸들러가 뜨는 씨드가 됨
• server_thread.start()
  • Start the thread’s activity.
  • 손을 안 대고, 그냥 메인 스레드 실행
• threading.active_count()
  • Return the number of Thread objects currently alive.
  • 살아있는 스레드의 수 궁금하다면
• server_thread.run()
  • Method representing the thread’s activity.
  • You may override this method in a subclass. The standard run() method invokes the callable object passed to the object’s constructor as the target argument.
  • 메인 띄우면서 개발자가 뭔가 하고싶다? -> 런 메소드를 오버라이드
• Threadingmixin으로 멀티 스레딩을 구분할 수 있다! 

 

 

 

Socket Programming (N:M) 
비동기식 TCP Chatting 서비스 개발 

• 비동기식 TCP socketserver를 기반으로 1:N 채팅을 위한 간단한 형태의 server와 client를 개발
• 클라이언트 하나가 보낸 정보를 다른 애들한테도 뿌림 -> 멀티 캐스트 -> 어플리케이션 로직이 필요함 

 

• Server 변경 내용
  • (소스코드의 {CHAT} 부분) -> CHAT이 바뀐 부분 
  • 모든 client의 socket 연결 정보를 저장해둔다 (등록 및 삭제)
    N개의 유저를 하나의 채팅방으로 넣는 것
  • 특정 client가 전송한 메시지를 모든 client들에 전달함 
  • 여러 개의 클라이언트를 비동기로 처리하기 위해서
    기존 클라이언트는 보내고, 기다렸다.
    new 클라이언트 -> 본인이 보내면서, 서버를 통해 메세지를 받을 수 있도록
    즉, 양방향 채팅이 가능하도록, 클라이언트를 멀티스레드화 할 것
• Client 변경 내용
  • Thread를 사용하여, 전송과 수신을 비동기적으로 분리함
  • 수신 Thread를 통해서, 서버로 부터의 전송에 항상 준비함
  • 클라이언트 구현
    수신은 스레드화 -> 백그라운드로 돌림
    사용자와의 대화 -> 동기 방식으로 구현

 

• Client
• 네임드 파라미터 기법
  • 포지셔널하다 = 일반적으로 걍 때려넣는 호출
  • 변수들의 이름을 다음과 같이 지정할 수 있다
  • 호출을 할 때, 포지셔널하지 않고, 입력 파라미터의 이름을 주는 것 
  • 순서 없이 동작할 수 있다. 순서 뒤집어진 채 전달해도 괜찮다. 
  • 왜 이런 기법을 사용? 
  • 입력 파라미터가 10개야 -> 전부 다 줄 수 없다 
  • 따라서 대부분 디폴트 처리를 하는 것 (나중에 호출할 때는, 한 두개 파라미터값만 지정하고 싶을 때)

 

• Server
• group_queue로 일종의 DB를 만든 것 
• 해당 큐에 IP 주소와 Port 번호 등등 정보가 들어있는 request를 넣는다

 

 

 

 

 

 

 

socketserver 기반 UDP Echo 서비스 개발

• TCP socketserver 처럼 개발함
• 연결 설정, 해제 과정이 없다
• socketserver.TCPServer 대신 socket server.UDPServer를 사용하여 Echo Server를 개발
• UDP는 connection-less 방식으로 connect() 절차가 없음

 

•  Client
  • 메인에서 연결 요청, 해제하는 부분이 사라짐
  • connect() 함수 호출 X (connection-less)
  • Handler에서는 수정이 거의 없다. 데이터를 받으면, 바로 print

 

 

 

socketserver 기반 UDP 채팅 서비스 개발

• Connection-less인 관계로, 서버에서 client 들의 정보를 직접 저장하고 관리하는 기능이 필요함
  • UDP는 TCP 연결 해제처럼 매핑할 것이 없다 -> 직접 만들어야 한다.
  • Client들이 직접 특수 명령어(#REG, #DEREG)을 통해서 서버에 등록/해제 하는 절차를 구현함
  • 일종의 프로토콜(통신의 약속)을 강제로 만든 것 
  • 등록( #REG)된 client 들에 대해서, 특정 사용자의 메시지가 모든 등록된 client들에 전달될 수 있도록 구현함