[Memory] pitch linear memory, block linear memory

메모리 레이아웃을 최적화하는 것은 성능에 매우 중요하다.

특히 대량의 데이터가 처리되는 애플리케이션에서는 데이터들이 올바르게 정렬되어 있다면, GPU의 메모리 접근 및 control 시간을 최소화 하므로 프로그램이 더 빠르고 효율적으로 동작 할 수 있다.

 

Pich linear memory allocation

: 각 행이 컴퓨터 워드 크기의 배수인 메모리 주소에서 시작하도록 보장하여 메모리 접근 성능을 향상시킬 수 있다.

Pitch는 컴퓨터 그래픽스와 이미지 처리에서, 비트맵이나 이미지에서 한 행의 픽셀이 차지하는 바이트 수를 의미하는데, 실제 픽셀 데이터와 패딩을 포함한다. 패딩은 메모리에서 데이터를 올바르게 정렬하기 위해 추가된다.

 

Block Linear memory allocation

: 읽기 및 쓰기를 목적으로, 2D access 패턴의 일관성을 최적화 하는 것이다.

그러기 위해서는 데이터를 블록이나 청크로 구성하며, 다차원 배열의 요소에 접근할 때 캐시 일관성을 향상시키고, 캐시 미스를 줄이기 위해 주로 사용된다.

인접한 요소를 동일한 블록에 저장함으로써 프로세서 캐시는 전체 블록을 메모리에 로드할 수 있어, 동일한 블록 내에서의 후속 액세스의 효율성을 향상시킨다.