6-3. 캐시메모리

저장 장치 계층 구조

각기 다른 용량과 성능의 저장 장치들을 계층화하여 표현한 구조

 

위로 갈수록:

• 속도가 빠름
• 용량이 작음
• 비용이 비쌈
• CPU와 가까움

아래로 갈수록:

• 속도가 느림
• 용량이 큼
• 비용이 저렴함
• CPU와 멀어짐

캐시메모리

CPU와 메모리 사이에 위치하고, 레지스터보다 용량이 크고 메모리보다 빠른 SRAM 기반의 저장장치이다.

연산 속도와 메모리 접근 속도의 차이를 줄이기 위해 사용된다.

컴퓨터 내부에는 코어(CPU)와 가까운 순서대로 계층을 구성한 캐시메모리들이 있다.

• L1 : 코어와 가장 가까운 캐시 메모리 (코어 내부에 위치)
• L2 : 그 다음으로 가까운 캐시 메모리 (코어 내부에 위치)
• L3 : 그 다음으로 가까운 캐시 메모리 (코어 외부에 위치)

용량 크기 순서 : L1<L2<L3

빠르기 순서 : L1>L2>L3

*멀티 코어 프로세서에서는 코어마다 L1, L2가 있고 L3는 여러 코어가 공유한다.

캐시 메모리 저장 기준

캐시메모리는 CPU가 사용할 법한 대상을 예측하여 저장한다.

예측한 데이터가 맞아 캐시메모리가 사용될 경우를 캐시히트 라고 하며 예측이 틀려 메모리에서 데이터를 가져온 경우를 캐시 미스라고 한다. 또한, 캐시가 히트되는 비율을 캐시 적중률이라고 한다. (히트 횟수 / (히트 횟수 + 미스 횟수) (보통 85~95%이상)

캐시메모리는 참조 지역성의 원리에 따라 가져올 데이터를 결정한다.

참조 지역성의 원리

1. CPU는 최근에 접근했던 메모리 공간에 다시 접근하려는 경향이 있다.
   1. 최근에 접근했던 메모리 공간을 여러 번 다시 접근할 수 있다.
   2. Ex. 코드에서의 변수 선언
2. CPU는 접근한 메모리 공간 근처를 접근하려는 경향이 있다.
   1. 프로그램은 보통 관련 데이터들끼리 한데 모여 있다.
   2. 한 프로그램을 실행하면 근처 관련 메모리들을 캐시메모리로 저장