폰 노이만과 메모리의 진화

이병훈 포스텍 반도체공학과 주임교수

이진법 컴퓨터의 기본구조인 ‘폰 노이만 아키텍처(VNA)’는 메모리와 처리장치(processing unit)를 분리해두고, 서로 한 단계씩 정보를 주고받으며 일하는 구조다. 기술 발전으로 처리장치의 연산속도가 메모리의 속도보다 훨씬 빨라지면서 둘 사이의 부조화를 개선하기 위한 전쟁 같은 노력이 수십 년째 이어오고 있다.

여담이지만, VNA를 만든 사람은 존 폰 노이만(1903~1957)이 아니라는 점을 짚어두고 싶다. 이 기술은 에드박(EDVAC)과 에니악(ENIAC)을 만든 에커트와 모클리가 만들었으니 EM 또는 ME 아키텍처라고 불렀어야 할 텐데, 폰 노이만이 에드박 개발보고서 초안에 본인 이름만 써서 제출해 VNA라는 이름이 붙었다. 에커트와 모클리는 보고서 완성본에는 이름이 들어갈 줄 알고 기다리다가, 폰 노이만이 완성본을 제출하지 않아서 역사에 크게 이름을 떨칠 기회를 놓친 셈이다. 그들의 공헌을 기리는 마음으로 VNA를 설명할 때마다, 이런 사족을 붙인다.

김지윤 기자

VNA의 속도 부조화를 해결하는 전략은 여러 개의 메모리와 동시에 얘기하는 방법과, 한 개의 메모리가 자신의 차례에 더 빨리 더 많이 얘기하도록 하는 방법이 있다. 둘 다 처리장치와 메모리 사이의 거리를 줄이고 더 많은 연결선을 만드는 방법을 쓰는 데, 고성능일수록 비용이 증가한다. 결국 얻고 싶은 ‘가성비’에 따라 적절한 기술을 결정해서 해당하는 메모리 제품을 쓰게 된다.

여러 개의 처리장치와 여러 개의 메모리가 있을 때 요즘 주목받는 컴퓨트익스프레스링크(CXL) 기술이 둘 사이를 교통정리 한다. 이 기술은 ‘처리장치나 메모리를 만들 때는 이렇게 하자’라는 약속에 따라 CXL 표준에 맞춰 제품을 만드는 기업들의 연합이 필요하다. 이 복잡한 상황이 모두 메모리와 처리장치를 분리했던 VNA에서 비롯됐으니 ‘더 좋은 방법은 없었을까’ 하는 아쉬움이 남는다.

더 나은 방법은 처리장치의 일부 기능을 메모리로 이동해 필요한 정보만 직접 처리하는 것이다. ‘프로세싱 인 메모리(PIM)’로 알려진 이 기술을 우리나라에서 활발히 연구한다. 그런데 CPU·GPU·NPU와 같은 처리장치의 기술이 다변화하면서, 메모리에 어떤 기능을 옮겨주고, 어떻게 정보를 주고받을지 결정하는 게 더 어려워지고 있다. 특정 기술에 최적화되지 않을 경우 PIM 기술의 효율이 떨어지기 때문에 CPU·GPU·NPU 기업과 협업이 필요하다. 시스템 반도체를 만드는 기업과 메모리를 납품하는 기업의 ‘갑을 관계’ 때문에 이게 쉽지 않은 모양이다. ‘고객이 원하는 기술’과 ‘고객에게 권하고 싶은 기술’ 중에서 어느 쪽이 더 좋은 기술일까. 좋은 기술이 시장에서 항상 승리하는 것은 아니라는 생각이 든다.

이병훈 포스텍 반도체공학과 주임교수