인물 JDPEOPLE ARCHIVE인물 찾기

프랜시스 앨런: 프로그램의 뜻을 지키면서 실행 방식을 바꾸다

프랜시스 앨런은 컴파일러가 프로그램을 분석하고 더 효율적인 실행 형태로 바꾸는 방법을 발전시켰다. IBM의 대형 컴퓨터와 병렬 처리 연구를 배경으로, 속도를 높이는 변환과 결과를 보존하는 근거가 어떻게 함께 필요했는지 살핀다.

빠른 기계만으로 해결되지 않는 문제

앨런은 1957년 IBM에 합류해 컴퓨터가 사람이 쓴 프로그램을 효율적으로 실행하도록 만드는 연구를 이어 갔다. 고급 언어의 문장은 인간에게 편리하지만 그대로 기계 명령이 되는 것은 아니다. 어떤 계산을 미리 해 둘 수 있고 어떤 값을 다시 사용할 수 있는지 알아내면 실행 비용을 줄일 수 있다. 그러나 단순히 명령의 수를 줄인다고 정답이 보장되지는 않는다. 프로그램이 가진 조건과 순서를 분석한 뒤에야 안전한 변경이 가능하다. 컴파일러 최적화는 속도와 의미를 함께 다루는 문제였다.

1966년 논문이 체계화한 방향

ACM은 앨런의 1966년 논문 Program Optimization을 프로그램의 체계적인 분석과 변환을 위한 개념적 기반으로 설명한다. 이전에도 기계에 맞춰 코드를 고치는 기술은 있었지만, 반복 적용할 수 있는 분석의 틀을 마련하는 일은 별개의 기여다. 최적화라는 표현은 모든 프로그램에서 수학적으로 가장 좋은 결과를 반드시 찾는다는 뜻이 아니다. 주어진 정보와 비용 제약 안에서 유효한 개선을 수행한다는 뜻으로 읽어야 한다. 연구의 가치도 특정 사례의 요령보다 일반화할 수 있는 방법에 있다.

제어의 흐름과 자료의 흐름

프로그램은 위에서 아래로만 읽히지 않는다. 조건문 때문에 경로가 갈라지고 반복문 때문에 이전 지점으로 돌아간다. 따라서 어떤 대입이 특정 지점에 도달할 수 있는지, 계산한 값을 그 뒤에서 다시 쓰는지 같은 질문을 해야 한다. 앨런과 존 코크 등의 연구는 이런 흐름을 분석하는 기반을 발전시켰다. 소스 코드의 글자 모양보다 실행 가능한 경로와 값 사이의 관계를 표현하면, 중복 계산을 줄이거나 필요 없는 작업을 없애는 변환에 근거를 제공할 수 있다.

병렬 실행에는 독립성의 증거가 필요하다

여러 프로세서가 동시에 일하면 언제나 더 빠른 것은 아니다. 한 계산이 앞선 계산의 결과를 필요로 한다면 순서를 함부로 바꾸면 안 된다. 앨런이 참여하고 이끈 자동 병렬화 연구에서는 이런 자료 의존성이 중요한 대상이었다. 예를 들어 반복문의 각 회차가 서로 독립적인지, 같은 저장 공간을 바꾸는지 판단해야 한다. 병렬화는 일을 여러 개로 나누는 발상만으로 완성되지 않는다. 원래 프로그램과 같은 결과를 내는 분할인지 분석하고, 통신과 관리에 드는 비용도 고려해야 한다.

IBM 연구와 방법의 확장

앨런의 경력에는 초기 대형 컴퓨터를 위한 컴파일러 작업에서 병렬화 기술 연구로 이어지는 연속성이 있다. 서로 다른 하드웨어를 만났어도 핵심 질문은 프로그램의 구조를 파악해 기계의 능력을 활용하는 방법이었다. 1989년 그는 IBM 최초의 여성 펠로가 됐고, 2006년 튜링상을 받았다. 수상은 2007년에 발표됐으므로 수상 연도와 발표 날짜를 혼동하지 않는 편이 좋다. 이 기록들은 당시의 역사적 지위를 설명하며 현재 직함이나 활동을 추정하는 근거로 쓰지 않는다.

분석은 보수적인 판단을 포함한다

컴파일러가 두 연산의 관계를 충분히 알 수 없다면 공격적으로 순서를 바꾸기보다 원래 실행을 보존해야 한다. 더 많은 분석으로 성능 기회를 얻을 수 있지만 분석 자체에도 시간과 메모리 비용이 든다. 이런 절충은 최적화가 단순한 속도 경쟁이 아님을 보여 준다. 앨런의 연구가 다룬 프로그램의 구조와 흐름은 특정 프로세서의 작은 요령을 넘어 여러 변환을 판단하는 공통 정보가 됐다.

컴파일러를 보이지 않는 연구로 남기지 않기

사용자는 흔히 실행 결과나 프로그램 언어의 이름만 보고 그 사이의 번역 과정을 지나친다. 앨런의 성과는 바로 그 과정에 이론과 실용 기술을 쌓은 데 있다. 고급 언어의 생산성을 유지하면서 하드웨어의 성능을 활용하게 하는 다리였다. 다만 현대 컴파일러의 모든 최적화가 한 사람에게서 나왔다고 할 수는 없다. ACM이 인정한 것은 현대의 최적화와 자동 병렬 실행을 가능하게 한 선구적 기반이다. 공동 연구와 오랜 구현의 축적을 함께 보아야 그 기반의 영향력이 정확해진다.

공식 자료와 확인 기준

자료 확인일: . 변동 정보는 원문에서 다시 확인할 수 있습니다.

자주 묻는 질문

최적화는 프로그램의 결과를 바꾸는 일인가요?

원래 의도한 동작을 보존하면서 더 효율적으로 실행하도록 바꾸는 일이다. 그러므로 계산을 없애거나 순서를 바꾸기 전에 값과 실행 경로의 관계를 알아야 한다. 앨런의 연구에서 프로그램 분석이 중요한 이유는 바로 이 안전한 변환의 근거를 제공하기 때문이다.

자동 병렬화가 어려운 이유는 무엇인가요?

겉으로 비슷한 반복 계산도 앞선 회차의 결과를 다음 회차가 사용하는 경우가 있다. 이를 무시하고 동시에 실행하면 결과가 바뀐다. 의존성을 분석해 병렬 실행이 가능한지 판단해야 하고, 실제 속도는 작업 분할과 자료 이동의 비용에도 영향을 받는다. 앨런의 연구는 이런 판단을 체계화하는 데 기여했다.