[멀티코어CPU] 08. 메모리 명령 실행 알고리즘 & 프리펫처

 

- 컴퓨터 성능을 좌우하는 2가지 요소

 : 메모리 레이턴시 - 메모리에서 원하는 데이터를 갖고 오고 쓰는데 걸리는 시간

 : 메모리 대역폭 - 단위 시간당 메모리에서 가져올 수 있는 데이터양

 : 캐시를 중요하게 다루는 것도 메모리 레이턴시를 극복하기 위함이었음

 : 메모리 연산(로드와 스토어)  →  어떻게 비순차 프로세서에서 처리되는가?

 

 

 

- 효율적인 메모리 연산

 : 비순차 프로세서에서 명령어가 완료된다 → 반드시 자신이 비투기적인 상태임을 뜻함 (명령어가 확실히 판명난 분기문의 흐름에 있어야 함)

 : 그렇지 않다면 분기 예측 실패로 무효화 될 가능성 존재 → 최종적으로 메모리나 레지스터에 반영 X

 : 확실해지기 전까지 ROB 같은 곳에서 보류 됨

 : 만약 의존성이 없다면, 이들은 비순차로 실행될 수 있음

 : 메모리 의존성 → 같은 메모리 주소에 대해 현재 수행 중인 메모리 스토어가 모두 완료되어야 그 주소에 대한 뒤따르는 메모리 로드가 가능함을 의미

 : 메모리 의존성 파악을 위해 로드 스토어 큐(LSQ)라는 자료구조 필요함

 

 

 

- LSQ (로드 스토어 큐)

 : 엔트리 마다 순번이 존재함 (새로운 명령어일수록 큰 값)

 : 로드/스토어 여부

 : PC, 데이터 주소, 데이터 값

 : LSQ에 명령어가 있다는 것은 아직 완전히 파이프라인에서 완료되지 않음을 의미

 : 완료되면 이 내용을 직접 메모리에 반영함

 

순번	L/S	PC	Address	Value
745	L	0x100	0x7FFE10	10
746	S	0x108	0x7FFE40	80
747	L	0x110	0x7FFE40	80 (0x108로부터 포워딩)

 

 : 0x110 로드는 무조건 0x108 스토어의 결과를 기다려야 하므로 메모리 의존성이 존재함

 : 이 과정을 Store-to-Load Forwarding 이라 함 

 

 

순번	L/S	PC	Address	Value
745	L	0x100	0x7FFE10	10
746	S	0x108	0x7FFE20	80
747	L	0x110	0x7FFE40	20 (No 의존성, 미리 실행될 수 있음)

 

 : 메모리 충돌이 없을 때의 메모리 연산

 : 0x110 로드는 앞의 두 메모리 연산과 상관없이 처리될 수 있다

 

 

순번	L/S	PC	Address	Value
745	L	0x100	0x7FFE10	??? (캐시 미스)
746	S	0x108	???	???
747	L	0x110	0x7FFE40	??? (0x108 스토어가 완료될 때까지 기다림)

 

 : 0x108의 주소 값이 0x110 로드를 실행할 때까지도 알려지지 않았을 경우

 : 메모리 의존성 판단 불가

 : 가장 간단한 선택은 보수적으로 무조건 메모리 의존성을 가진다고 가정하면, 프로그램의 정확성은 유지되나, ILP는 줄어듦.

 

 

  → 메모리 로드는 최대한 앞당겨 실행하는 것이 중요한데, 캐시미스가 있더라도 손해를 감출 수 있다.

  → 예측기를 이용하면 된다

 

 

 

- 컴파일 최적화의 장애물, 포인터

*x = *y + 1;
*a = *b + 2;

 

 : 위의 코드에서 데이터 의존성 여부는 포인터가 실제로 어떤 값을 가리키는지 모르면 알 수 없음

 : 두 포인터가 서로 겹치는 일이 발생하는가?  → 포인터 분석 / 앨리어스 분석

 : 포인터가 들어간 코드는 최적화를 많이 못하는 경우가 잦은 편

 : 특히 '자동 병렬화' 가 포인터가 있는 간단한 코드에서는 안됨

 

 

 

- 메모리 레이턴시 감추기

 : 프리펫칭  → 어떤 데이터가 미래에 사용됨을 예측하고 미리 가져와 메모리 레이턴시를 줄임 (SW, HW 모두 적용 가능)

 : 최초 한 번은 데이터를 메모리에서 가져와야 함으로 이때 발생하는 콜드 미스를 최소화할 수 있는 방법 중 하나

 : 캐시 미스가 일어나지만, 그 지연 시간을 감추는 것

 : SW에서 많이 쓰는 경우  → 디스크에서 읽어 메모리에 올려놓는 기술

 : 단점  → 예측임으로 틀리 경우 그냥 낭비, 다른 데이터 요청이 많은 상태에서 대역폭 갉아먹음 등