캐시 메모리 개요

• 캐시 메모리의 정의
  • CPU의 속도와 주기억 장치(즉, 메인 메모리)의 속도 차이를 줄이기 위해 사용하는 고속의 버퍼 메모리
  • 5 ~ 100ns 정도의 빠른 접근 시간을 제공하는 기억 장치로, 수행할 명령어나 오퍼랜드를 주기억 장치로부터 가져와 저장하고 있다가 빠른 속도로 중앙 처리장치에 제공
       
• 캐시 메모리의 동작 원리
  • CPU가 주기억 장치를 엑세스 할 필요가 있는 경우 우선 캐시부터 조사하여 만약 원하는 데이터가 있는 경우(적중, hit)에 바로 캐시에서 액세스
  • 캐시에 없는 경우(실패, miss)에는, 찾고자 하는 데이터가 속한 블록을 주기억 장치로부터 캐시로 전송하여 액세스
       
• 참조 지역성
  • 캐시 메모리는 CPU가 수행할 명령어와 오퍼랜드를 저장하고 있다가 즉시 제공함으로써 처리가 신속히 이루어지도록 하는데, 이는 프로그램 내장형 컴퓨터의 특성인 저장 장치의 참조 지역성으로 인해 가능함
  • 참조 지역성이란, 주어진 시간 동안 CPU의 기억 장치 참조가 제한된 영역에서만 이루어지는 현상을 의미하는데, 지역성에는 가까운 미래에 다시 참조될 확률이 높은 시간적 지역성과 최근 사용된 데이터와 가까이 위치한 데이터가 참조될 확률이 높은 공간적 지역성이 있음
       
• 적중률
  • 캐시 메모리의 성능은 적중률(Hit Ratio)에 의해 측정되며, 다음 공식에 의해 계산됨
    적중률 = 적중 횟수 / 전체 메모리 참조 횟수
  • 주기억 장치와 캐시 메모리 사이에서 평균 기억 장치 접근 시간 T_average는 다음의 공식으로 계산됨
    T_average = 적중률 * 캐시 메모리 접근 시간 + (1-적중률) * 주기억 장치 접근 시간
    • 적중률이 90%인 겨우 T_average = 0.9 * 50ns + (1-0.9) * 400ns = 85ns
    • 적중률이 99%인 겨우 T_average = 0.99 * 50ns + (1-0.99) * 400ns = 53.5ns
      즉, 캐시의 적중률이 높아지면 평균 기억 장치의 접근 시간은 캐시 메모리의 접근 시간에 근접하게 됨
  • 예) 캐시 메모리 접근 시간 = 50ns, 주기억장치 접근 시간 = 400ns 일때