인공지능의 고민: 사고범위 문제가 말해주는 한계

사고범위 문제란 무엇인가

사고범위 문제는 인공지능 분야에서 매우 중요한 개념 중 하나이다. 사고범위 문제는 영어로 프레임 문제라고 불리며, 한정된 계산 능력을 가진 인공지능이나 로봇이 현실 세계에서 발생할 수 있는 수많은 상황과 정보 중에서 무엇을 고려하고 무엇을 무시해야 하는지를 판단하지 못하는 문제를 의미한다. 이 문제는 인공지능이 인간처럼 유연하게 사고하지 못하는 이유를 설명하는 대표적인 사례로 자주 언급된다.

이 개념은 1969년 존 매카시와 패트릭 헤이즈가 발표한 논문에서 처음으로 제시되었다. 이들은 인공지능이 현실 세계에서 문제를 해결하려고 할 때, 모든 가능성을 전부 계산하려 한다면 사실상 아무 행동도 할 수 없게 된다는 점을 지적했다. 즉, 인공지능은 생각해야 할 정보의 범위를 적절히 제한하지 않으면 행동 자체가 불가능해진다.

현실 세계와 인공지능의 사고방식

현실 세계는 매우 복잡한 환경이다. 인간은 일상생활에서 수많은 정보를 접하지만, 그중에서 필요한 정보만을 빠르게 선택하고 나머지는 자연스럽게 무시한다. 예를 들어 사람이 “패스트푸드점에서 햄버거를 사 와라”라는 부탁을 받았을 때, 가게 안의 벽 색깔이나 다른 손님의 옷차림, 가게 밖의 날씨 같은 요소는 대부분 고려하지 않는다. 대신 주문 방법, 계산 방식, 메뉴 선택과 같은 핵심적인 정보만을 사용해 행동한다.

그러나 인공지능에게 이러한 선택은 매우 어려운 문제였다. 인공지능은 기본적으로 주어진 규칙과 계산에 따라 움직이는 시스템이다. 만약 인공지능이 현실에서 발생할 수 있는 모든 사건을 하나하나 전부 고려하려 한다면 계산량은 무한히 늘어나게 된다. 그 결과 인공지능은 결정을 내리지 못하고 멈추게 된다. 이처럼 무엇을 생각의 범위 안에 넣고, 무엇을 생각에서 제외할지를 정하지 못하는 문제가 바로 사고범위 문제이다.

프레임을 설정하는 것의 어려움

사고범위 문제를 해결하기 위한 하나의 방법으로 프레임을 설정하는 방식이 제시되었다. 프레임이란 인공지능이 현재 상황에서 고려해야 할 정보의 테두리를 의미한다. 즉, 특정 문제를 해결할 때 필요한 정보만을 포함하는 사고의 범위이다.

하지만 프레임을 설정하는 과정 자체에서도 문제가 발생했다. 어떤 프레임이 지금 상황에 가장 적절한지를 판단해야 하는데, 이 판단 역시 또 다른 사고범위 문제를 만들어냈다. 결국 인공지능은 프레임을 고르는 단계에서도 다시 무엇을 고려해야 할지를 결정해야 했고, 이 과정에서 무한한 고민에 빠질 가능성이 생겼다.

사고범위 문제를 설명하는 유명한 예시

철학자 다니엘 데넷은 사고범위 문제를 설명하기 위해 매우 유명한 예시를 제시했다. 이 예시는 인공지능이 왜 현실에서 쉽게 실패할 수 있는지를 잘 보여준다.

어느 동굴 안에 로봇을 작동시키는 배터리가 놓여 있었고, 그 배터리 위에는 시한폭탄이 설치되어 있었다. 만약 폭탄이 터지면 로봇은 더 이상 작동할 수 없게 되는 상황이었다. 로봇은 “동굴에서 배터리를 꺼내오라”는 명령을 받았다.

첫 번째 로봇의 실패

첫 번째 로봇은 명령을 충실히 수행했다. 이 로봇은 동굴 안으로 들어가 배터리를 집어 들고 밖으로 나왔다. 하지만 배터리 위에 놓여 있던 폭탄도 함께 옮겨진다는 사실을 고려하지 못했다. 결국 로봇이 동굴 밖으로 나온 뒤 폭탄이 폭발했고, 로봇은 파괴되었다. 이 로봇은 목표 자체는 이해했지만, 그 행동으로 인해 발생할 수 있는 부수적인 결과를 고려하지 못했다.

두 번째 로봇의 실패

이 문제를 해결하기 위해 개발된 두 번째 로봇은 훨씬 더 많은 상황을 고려하도록 설계되었다. 이 로봇은 배터리를 옮기면 폭탄이 어떻게 되는지, 폭탄을 먼저 옮겨야 하는지, 다른 위험 요소는 없는지를 생각하기 시작했다. 그러나 이 로봇은 생각을 멈추지 못했다. 폭탄을 옮기면 천장이 무너질 가능성은 없는지, 주변 환경에 다른 변화는 없는지 등 끝없는 가능성을 계속 계산했다. 결국 로봇은 아무 행동도 하지 못한 채 멈춰 있었고, 폭탄이 폭발하면서 파괴되었다.

세 번째 로봇의 실패

세 번째 로봇은 문제와 관련 없는 요소를 최대한 배제하도록 설계되었다. 하지만 이 로봇은 동굴에 들어가기 전부터 멈춰버렸다. 목적과 관련 없는 요소가 무엇인지 먼저 전부 판단하려 했기 때문이다. 그러나 목적과 무관한 요소 역시 무한히 많았기 때문에, 이 로봇 역시 끝없는 계산에 빠지고 말았다.

사고범위 문제가 의미하는 바

이 세 가지 사례는 인공지능이 현실 세계에서 문제를 해결하는 것이 왜 어려운지를 잘 보여준다. 너무 적게 생각하면 중요한 결과를 놓치게 되고, 너무 많이 생각하면 아예 행동을 하지 못하게 된다. 인간은 이 두 극단 사이에서 자연스럽게 균형을 맞추지만, 인공지능에게는 이 균형이 매우 어렵다.

사고범위 문제는 인공지능의 한계를 보여주는 동시에, 인간 사고의 특징을 다시 생각하게 만든다. 인간은 완벽하지 않지만, 상황에 따라 중요하지 않은 정보를 빠르게 버리고 행동할 수 있다. 반면 인공지능은 명확한 기준이 없으면 무엇을 버려야 할지조차 판단하지 못한다.

사고범위 문제와 현대 인공지능

오늘날의 인공지능은 과거보다 훨씬 발전했지만, 사고범위 문제는 여전히 완전히 해결되지 않았다. 머신러닝과 딥러닝 기술을 통해 인공지능은 경험을 바탕으로 중요한 정보를 선택하는 능력을 어느 정도 갖추게 되었다. 그러나 여전히 예상하지 못한 상황에서는 인간과 같은 유연한 판단을 내리기 어렵다.

사고범위 문제는 인공지능이 단순한 계산 기계를 넘어 진정한 지능에 가까워지기 위해 반드시 넘어야 할 과제이다. 이 문제를 이해하는 것은 인공지능의 가능성과 한계를 동시에 이해하는 중요한 출발점이다.