[05주차] IOCP

 

- IOCP

 : 윈도우 I/O 모델 중 최고 성능

 : 별도의 커널 객체 통해 구현 → IOCP 객체 생성 후 핸들 사용

 : Overlapped I/O CallBack → Callback 함수들을 멀티쓰레드로 동시에 실행

 : IOCP 객체 내부 Thread Pool 사용 →  쓰레드 생성 파괴 오버헤드 없앰 & 적은 수의 쓰레드로 많은 연결 관리

 https://modoocode.com/285 

씹어먹는 C++ - <15 - 5. C++ 쓰레드풀(ThreadPool) 만들기>

 : IOCP 객체 내부 Device List 사용 →  등록된 소켓에 대한 I/O는 IOCP가 처리

 : 비 직관적인 API → 하나의 API를 여러 용도로 사용, 뜬금없는 API 피라미터 존재

 

정내훈 교수님 강의자료

 

// IOCP(input output completion port) 준비 - IOCP 객체 생성, 소켓을 IOCP에 연결

HANDLE CreateIoCompletionPort(
	HANDLE FileHandle,
	HANDLE ExistingCompletionPort,
	ULONG_PTR CompletionKey,
	DWORD NumberOfConcurrentThreads };
    
    

// IOCP 커널 객체 생성 - 마지막 인자 내가 쓸 CORE 수
HANDLE hIOCP = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, NULL, 0};


// IOCP 준비 - IOCP 객체와 소켓 연결, key 값은 임의로 설정
HANDLE CreateIoCompletionPort(socket, hIOCP, key, 0};

// Worket Thread 생성
thread{ worker_thread };


// IOCP 완료 검사 - 커널에서 완료 상태를 꺼냄
while(true) {
	GetQueuedCompletionStatus(  // I/O 결과를 얻어옴, 결과 없으면 스레드를 IOCP의 스레드-풀에 등록 후 멈춤
		hIOCP,  // 커널 옵젝트
		&dwIOSize,  // 전송된 데이터양
		&key,  // 미리 정해놓은 ID
		&lpOverlapped,  // Overlapped I/O 구조체
		INFINITE
	);
	// lpOverlapped에 따른 처리;
}


// IOCP 이벤트 추가 함수 - 커널의 큐에 이벤트 추가
BOOL PostQueuedCompletionStatus(
	HANDLE CompletionPort,  // 커널 옵젝트
	DWORD NumberOfByte,  // 전송된 데이터 양
	ULONG_PTR dwCompletionKey,  // 미리 정해놓은 ID
	LPOVERLAPPED lpOverlapped); // Overlapped I/O 구조체

PostQueuedCompletionStatus() // !!
//  IOCP가 main loop가 되기 때문에
// socket I/O 이외에도 모든 다른 작업할 내용을 추가 할 때 쓰인다

 

 

 

- Windows I/O model 

I/O Model	장점	단점
Select	호환성	불편 / 느림
WSAAsyncSelect	윈도우 메시지 기반의 친숙함	성능이 떨어지고 윈도우 필수
WSAEventSelect	비교적 사용 쉬움 성능이 좋음	64개 소켓 제한
Overlapped I/O  (Event)	IO 동시 작업으로 성능 향상	64개 이벤트 제한, 개별 작업 결과 확인 필요
Overlapped I/O (Callback)	64개 이벤트 제한 없음. 프로그램 간단	대규모 연결은 아직 부족
IOCP	대규모 연결 처리 가능	사용의 어려움

 

 

 

- IOCP 설계 (싱글 쓰레드)

 1) 초기화

 2) Listen 소켓을 IOCP에 등록 후 AcceptEx 호출

 3) 서버 메인 루프 - GQCS 호출 

  - AcceptEx가 완료되면 새 소켓을 IOCP에 연결 후 WSARecv호출 , 다시 AccepEx호출
 - WSARecv가 완료 되면 패킷 처리, 다시 WSARecv호출
 - WSASend가 완료 되면 메모리 반환

 

 : Accept 처리 - 비동기 호출 필요(AccpetEx)

 : Accept 완료 처리 - 새 클라가 접속했으면 클라이언트 객체를 만듦

 : 클라이언트 객체 (SESSION 객체) - 서버는 클라이언트의 정보를 갖고 있는 객체 필요

  → 최대 동접과 같은 개수가 필요, ID, 네트워크 접속 정보, 상태, 게임정보(name, HP, x, y) 등이 해당

 

 : GetQueuedCompletionStatus를 받았을 때 클라이언트 객체를 찾을 수 있어야 함

  → Completion_key를 클라이언트 객체의 포인터로 하거나 객체의 ID or Index

 

 

- Overlapped 구조체

 : 모든 Send, Recv는 Overlapped 구조체가 필요

 : 동시에 여러 호출에서 사용하는 것은 불가

 : 소켓당 Recv 호출은 무조건 한 개( Recv 호출 용 Overlapped 구조체 한 개로 재사용 )

 : 소켓당 Send 호출은 동시에 여러 개가 가능 (Send 버퍼도 같은 개수가 필요, 개수의 제한이 없으므로 new/delete로 사용)

 

 

- Overlapped I/O pointer의 확장

 : 필요한 정보 - 지금 이 I/O가 send인지 recv인지, I/O Buffer의 위치 (Send할 때 버퍼도 같이 생성됨)

 

- 완료 처리 : GetQueuedCompletionStatus()

 : Recv
  - 패킷이 다 왔나 검사 후 다 왔으면 패킷 처리 (패킷들이 중간에 잘려진 채로 도착 가능성 有 → 패킷재조립)

정내훈 교수님 강의 자료

 

// 패킷 재조립 - Recv

unsinged char *packet_start = exover->m_netbuf;
int remain_data = client->m_prev_recv + num_byte;
int packet_size = packet_start[0];
while(packet_size <= remain_data) {
	process_packet(packet_start, key); 
	packet_start += packet_size;
	remain_data -= packet_size;
	if (0 == remain_data) break;
 	packet_size = packet_start[0];
}
client->m_prev_recv = remain_data;
if (0 != remain_data)
	memcpy(exover->m_netbuf, packet_start, remain_data);
Do_Recv (…);

  - 여러 개의 패킷이 한번에 왔을 때 처리
  - 계속 Recv()호출

 

 : Send

 - 하나의 Socket에 여러 개의 SEND를 동시에 할 수 있음 - 다중 접속, Broadcasting

 - Overlapped 구조체와 WSABUF는 중복 사용 불가

 - Overlapped 구조체와, buffer는 send는 끝날 때 까지 유지해야 함 (개수 알 수 없음 - Dynamic하게 관리)
 - Overlapped 구조체, 버퍼의 free 해(혹은 재사용)

if (dwIoSize < pOverEx->m_IOCPbuf[0]) 
	Disconnect(client);
delete pOverlappedEx;

 

 : Accept
 - 새 클라이언트 객체 등록

 

 

 - SleepEx() 

 : 쓰레드를 지정된 시간 동안 일시적으로 정지시키는 데 사용

 : 작업이 완료되기 전에 결과를 확인하려면 이 함수를 사용해 대기하여 완료 루틴을 수행함