슈퍼 마리오가 대부분의 알고리즘보다 수학적으로 더 복잡한 이유

단순히 공주를 구하는 배관공의 이야기를 다룬 단순한 플랫폼 게임처럼 보일 수 있지만, 슈퍼 마리오는 사실 이론 컴퓨터 과학의 가장 깊은 미스터리로 들어가는 관문입니다. MIT의 새로운 연구에 따르면, 게임의 특정 구성은 수학적으로 결정 불가능(undecidable)하며, 이는 표준적인 계산 문제를 훨씬 뛰어넘는 복잡도 클래스에 속함을 의미합니다.

PSPACE에서 RE-Complete로: 복잡도의 거대한 도약

수년 동안 MIT의 에릭 데메인(Erik Demaine) 교수를 포함한 연구자들 사이의 합의는 슈퍼 마리오가 PSPACE 복잡도 클래스에 속한다는 것이었습니다. 이 클래스는 해결은 가능하지만, 입력 크기가 커짐에 따라 비현실적인 양의 메모리와 시간이 필요한 문제들을 포함합니다. PSPACE 문제는 어렵긴 하지만, 충분한 자원이 주어진다면 컴퓨터로 근본적으로 "해결 가능"합니다.

하지만 Hayashi Ani, Holden Hall, Ricardo Ruiz, Naveen Venkat로 구성된 학생 팀의 최근 연구는 이러한 가정을 깨뜨렸습니다. 연구진은 레벨 에디터와 Super Mario Maker를 활용하여 RE-Complete인 특정 레벨들을 구축했습니다. 이는 게임이 **결정 불가능한 문제(undecidable problems)**의 영역으로 진입했음을 의미합니다. 이러한 특정 시나리오에서는 마리오가 깃대나 성에 성공적으로 도달할 수 있는지 항상 정확하게 예측할 수 있는 컴퓨터 프로그램을 작성하는 것이 수학적으로 불가능합니다.

정지 문제(Halting Problem)와의 연결 고리

왜 비디오 게임이 결정 불가능할 수 있는지 이해하려면, 앨런 튜링(Alan Turing)과 **정지 문제(Halting Problem)**를 되짚어봐야 합니다. 튜링은 주어진 프로그램이 결국 멈출지 아니면 영원히 실행될지를 판별할 수 있는 보편적인 알고리즘은 존재하지 않는다는 것을 증명했습니다.

MIT 연구팀은 **환원(reduction)**이라는 기술을 통해 이 논리를 버섯 왕국(Mushroom Kingdom)에 적용했습니다. 연구진은 슈퍼 마리오 레벨을 "가젯(gadgets)"이라고 불리는 국소적 구성 요소로 분해함으로써, 게임 메커니즘 내에서 복잡한 계산 논리를 시뮬레이션할 수 있었습니다. 이러한 가젯들은 논리 게이트 역할을 합니다. 파이프, 플랫폼, 그리고 굼바(Goombas)나 스파이니(Spinies) 같은 적들이 특정 패턴으로 배치되면 튜링 머신의 동작을 모방할 수 있습니다. 결과적으로 마리오가 레벨의 끝에 도달하는지 여부를 판단하는 것은 복잡한 프로그램이 정지할지 여부를 판단하는 것과 기능적으로 동일해집니다.

이것이 AI와 컴퓨팅의 미래에 중요한 이유

이 발견은 게이머들을 위한 단순한 흥미로운 사실에 그치지 않습니다. 이는 계산의 근본적인 한계를 일깨워주는 심오한 경고이기도 합니다. 우리가 인공지능과 자동 추론의 경계를 넓혀감에 따라, 아무리 많은 처리 능력이나 메모리가 있더라도 특정 논리 구조는 본질적으로 어떤 알고리즘으로도 도달할 수 없는 영역임을 인식해야 합니다.

겉보기에 단순한 환경에서도 결정 불가능한 문제가 발생할 수 있음을 증명함으로써, MIT Hardness Group은 복잡도 이론이 어떻게 상호작용적이고 규칙 기반인 시스템에 적용될 수 있는지를 보여줍니다. 이는 우리가 복잡한 소프트웨어를 설계하고, 자동화된 시스템을 검증하며, 점점 더 알고리즘화되는 세상에서 무엇이 "계산" 가능한지의 경계를 이해하는 방식에 시사점을 던집니다.

핵심 요약

  • 결정 불가능성: 특정 슈퍼 마리오 레벨은 이제 RE-Complete로 분류되며, 이는 어떤 알고리즘도 플레이어가 레벨을 클리어할 수 있을지 완벽하게 예측할 수 없음을 의미합니다.
  • 복잡도 변화: 이 게임은 "해결 가능하지만 어려운" PSPACE 클래스에서 정지 문제를 반영하는 결정 불가능한 영역으로 이동했습니다.
  • 계산 가젯: 연구진은 게임 메커니즘(파이프, 적, 플랫폼)을 "가젯"으로 사용하여 보편적 계산을 시뮬레이션하는 복잡한 논리 게이트를 구축했습니다.