문제해결 이론

문제해결의 의미와 중요성

문제해결(problem solving)은 수학교육에서 가장 중요한 목표 중 하나로 인식되고 있다. 문제해결은 단순히 수학 문제를 푸는 기능적 측면을 넘어서, 수학적 사고력을 기르고 일상생활에서 합리적 판단을 할 수 있는 능력을 기르는 핵심적인 교수-학습 활동이다. 현대 수학교육에서 문제해결은 수학 학습의 목표이자 동시에 수학 학습의 수단으로 인식되고 있다.

문제해결에서 문제(problem)는 해결자가 해답을 찾고자 하지만 즉시 해결 방법이 명확하지 않은 상황을 의미한다. 이는 정형화된 연습문제(exercise)와는 구별된다. 연습문제는 학습한 알고리즘이나 공식을 적용하면 해결할 수 있는 문제인 반면, 문제는 새로운 아이디어나 창의적 접근이 필요한 상황이다. 예를 들어, "\(2x + 3 = 7\)을 풀어라"는 연습문제이지만, "한 변의 길이가 다른 정사각형 두 개를 잘라서 하나의 정사각형으로 만들 수 있는가?"는 문제이다.

문제해결 능력의 중요성은 여러 측면에서 강조된다. 첫째, 수학적 사고력 신장이다. 문제해결 과정에서 학습자는 분석, 종합, 추론, 일반화 등의 고차원적 사고 기능을 발달시킨다. 둘째, 전이가능한 능력 개발이다. 문제해결을 통해 기른 능력은 수학 영역을 넘어 다른 교과나 일상생활에서도 활용될 수 있다. 셋째, 학습 동기 증진이다. 도전적이고 흥미로운 문제는 학습자의 호기심을 자극하고 수학 학습에 대한 동기를 높인다. 넷째, 메타인지 능력 개발이다. 문제해결 과정에서 자신의 사고 과정을 점검하고 조절하는 능력이 발달한다.

폴리야의 문제해결 4단계

조지 폴리야(George Polya, 1887-1985)는 헝가리 출신의 수학자로, 문제해결에 관한 체계적 연구의 아버지로 불린다. 그의 저서 『어떻게 문제를 풀 것인가』(How to Solve It, 1945)는 문제해결 교육에 혁신적인 관점을 제시했으며, 현재까지도 문제해결 교육의 기본 틀로 활용되고 있다.

폴리야는 문제해결 과정을 4단계로 체계화했다. 이 4단계는 순환적이며 상호작용적인 특성을 갖는다. 즉, 각 단계가 완료된 후 다음 단계로 직선적으로 진행하는 것이 아니라, 필요에 따라 이전 단계로 돌아가거나 여러 단계를 동시에 수행할 수 있다.

1단계: 문제 이해(Understanding the Problem)

문제 이해 단계는 문제해결의 출발점으로, 주어진 문제가 무엇을 요구하는지를 명확히 파악하는 단계이다. 이 단계에서는 문제의 조건과 구하는 것을 정확히 파악하고, 문제의 핵심을 이해해야 한다.

문제 이해를 위한 주요 활동은 다음과 같다. 첫째, 문제 읽기와 재진술이다. 문제를 여러 번 읽고, 자신만의 언어로 다시 표현해 본다. 둘째, 조건과 구하는 것 파악이다. 주어진 조건(data)과 구하고자 하는 것(unknown)을 명확히 구분한다. 셋째, 그림이나 도표 그리기이다. 시각적 표현을 통해 문제를 구체화한다. 넷째, 용어와 기호의 의미 확인이다. 문제에 사용된 수학적 용어나 기호의 정확한 의미를 파악한다.

실제 수업 상황에서의 예를 들어보자. "한 변의 길이가 8cm인 정사각형에서 꼭짓점을 중심으로 하는 반지름 4cm인 사분원을 잘라낸 도형의 넓이를 구하시오"라는 문제를 제시했을 때, 많은 학생들이 문제를 제대로 이해하지 못한 채 성급하게 계산을 시작한다. 효과적인 문제 이해를 위해서는 "사분원이 무엇인지 알고 있나요?", "그림으로 그려보세요", "정확히 무엇을 구하는 문제인가요?" 등의 질문을 통해 학생들이 문제를 충분히 이해하도록 도와야 한다.

폴리야는 문제 이해 단계에서 다음과 같은 질문들을 제시했다: "구하는 것이 무엇인가?", "주어진 조건은 무엇인가?", "조건이 구하는 것을 결정하는 데 충분한가?", "조건이 서로 모순되지는 않는가?", "조건들이 독립적인가?", "필요 없는 조건은 없는가?"

2단계: 계획 수립(Devising a Plan)

계획 수립 단계는 문제해결의 핵심으로, 문제를 해결하기 위한 구체적인 전략이나 방법을 찾는 단계이다. 이 단계에서는 과거 경험을 바탕으로 유사한 문제나 활용할 수 있는 정리, 공식 등을 떠올리고, 적절한 해결 전략을 선택한다.

계획 수립에서 중요한 것은 휴리스틱(heuristic) 전략의 활용이다. 휴리스틱은 문제해결을 위한 일반적인 방법이나 전략으로, 성공을 보장하지는 않지만 해결 가능성을 높여주는 유용한 지침이다. 폴리야가 제시한 주요 휴리스틱 전략은 다음과 같다.

유사한 문제 찾기는 과거에 해결했던 비슷한 문제를 떠올리고 그 해결 방법을 현재 문제에 적용하는 전략이다. 예를 들어, 복잡한 도형의 넓이를 구하는 문제에서 이전에 배운 기본 도형들의 넓이 공식을 조합하여 해결하는 것이다.

문제 변형하기는 원래 문제를 더 간단하거나 친숙한 형태로 바꾸어 해결하는 전략이다. 일반적인 경우를 특수한 경우로 바꾸거나, 복잡한 수를 간단한 수로 바꾸어 패턴을 찾는 방법 등이 있다. 예를 들어, "n개의 직선이 만날 수 있는 최대 교점의 개수"를 구하는 문제에서 n=2, 3, 4인 경우부터 차례로 계산해보는 것이다.

거꾸로 풀기는 구하고자 하는 답에서 시작하여 주어진 조건으로 거슬러 올라가는 전략이다. 특히 증명 문제나 복잡한 방정식 문제에서 유용하다.

부분 문제로 나누기는 복잡한 문제를 여러 개의 작은 부분 문제로 나누어 해결하는 전략이다. 각 부분 문제를 해결한 후 그 결과를 종합하여 전체 문제를 해결한다.

보조선 그리기는 기하 문제에서 문제해결에 도움이 되는 선분이나 도형을 추가로 그어 해결하는 전략이다.

실제 수업에서 계획 수립 단계의 지도 예를 살펴보자. "1부터 100까지의 자연수 중에서 3의 배수이면서 5의 배수가 아닌 수는 몇 개인가?"라는 문제에서, 학생들은 처음에는 막막해할 수 있다. 교사는 "이와 비슷한 문제를 본 적이 있나요?", "더 간단한 경우부터 생각해 볼까요?", "집합의 개념을 사용하면 어떨까요?" 등의 질문을 통해 학생들이 적절한 해결 전략을 찾도록 도울 수 있다.

3단계: 계획 실행(Carrying Out the Plan)

계획 실행 단계는 앞 단계에서 세운 계획을 실제로 수행하는 단계이다. 이 단계에서는 선택한 전략에 따라 체계적으로 계산하고 추론하여 해답을 구한다. 계획 실행 과정에서는 각 단계가 올바른지 지속적으로 점검해야 한다.

계획 실행에서 중요한 것은 논리적 정확성과 체계성이다. 각 단계의 추론이 논리적으로 타당한지 확인하고, 계산 실수는 없는지 점검해야 한다. 또한 중간 결과가 합리적인지 검토하고, 필요하면 다른 방법으로 확인해 보는 것도 중요하다.

이 단계에서 자주 발생하는 문제는 계획의 변경 필요성이다. 실행 과정에서 선택한 전략이 막다른 길에 도달하거나 예상보다 복잡해질 수 있다. 이때는 과감히 계획을 수정하거나 다른 전략을 시도해야 한다. 이는 문제해결의 자연스러운 과정이며, 실패를 통한 학습의 기회가 된다.

예를 들어, 앞서 언급한 "3의 배수이면서 5의 배수가 아닌 수"를 구하는 문제에서 학생이 벤다이어그램을 이용한 집합 접근법을 선택했다고 하자. 실행 과정에서는 다음과 같이 체계적으로 진행한다: (1) 1부터 100까지 3의 배수 개수 구하기 → 33개, (2) 1부터 100까지 15의 배수(3의 배수이면서 5의 배수) 개수 구하기 → 6개, (3) 구하는 답: 33 - 6 = 27개. 각 단계에서 계산이 정확한지 확인하고, 최종 답이 합리적인지 검토한다.

계획 실행 단계에서 교사는 학생들이 포기하지 않도록 격려하고, 막힐 때 적절한 힌트를 제공해야 한다. 그러나 너무 많은 도움을 주어 학생의 사고 기회를 빼앗아서는 안 된다. "지금까지의 과정이 맞는지 다시 한 번 확인해 보세요", "중간 결과가 합리적인가요?" 등의 질문을 통해 학생 스스로 점검하도록 유도한다.

4단계: 반성(Looking Back)

반성 단계는 문제해결 과정과 결과를 돌아보는 단계로, 폴리야가 특히 강조한 중요한 단계이다. 이 단계에서는 구한 답이 올바른지 검증하고, 해결 과정을 되돌아보며, 다른 해결 방법은 없는지 탐구한다. 반성 단계는 단순히 문제를 해결하는 것을 넘어서 수학적 사고력을 기르는 핵심적인 과정이다.

반성 단계의 주요 활동은 다음과 같다. 첫째, 답의 검증이다. 구한 답이 원래 문제의 조건을 만족하는지 확인한다. 대입해 보기, 다른 방법으로 계산하기, 추정값과 비교하기 등의 방법을 사용한다. 둘째, 해결 과정의 검토이다. 각 단계의 추론이 논리적으로 타당했는지, 더 효율적인 방법은 없었는지 돌아본다. 셋째, 다른 해법 탐구이다. 같은 문제를 다른 방법으로 해결할 수 있는지 시도해 본다. 넷째, 문제의 일반화이다. 유사한 문제들에 적용할 수 있는 일반적인 원리나 패턴을 찾는다. 다섯째, 새로운 문제 만들기이다. 해결한 문제를 변형하여 새로운 문제를 만들어 본다.

실제 수업에서 반성 단계는 자주 생략되거나 형식적으로 처리되는 경우가 많다. 그러나 이 단계야말로 문제해결 능력을 신장시키는 핵심이다. 예를 들어, 피타고라스 정리를 이용한 문제를 해결한 후 교사는 다음과 같은 질문을 할 수 있다: "답이 맞는지 어떻게 확인할 수 있을까요?", "다른 방법으로도 풀 수 있을까요?", "이 문제에서 배운 방법을 어떤 다른 문제에 적용할 수 있을까요?", "문제의 숫자를 바꾸면 어떻게 될까요?"

반성 단계는 메타인지 능력을 기르는 중요한 기회이다. 학생들은 자신의 사고 과정을 돌아보면서 무엇을 잘했고 무엇을 개선해야 하는지 파악할 수 있다. 이는 단순히 해당 문제를 푸는 능력을 넘어서 일반적인 문제해결 능력을 기르는 데 기여한다.

휴리스틱 전략의 종류와 활용

폴리야는 문제해결에서 활용할 수 있는 다양한 휴리스틱 전략을 제시했다. 휴리스틱은 알고리즘과 달리 성공을 보장하지는 않지만, 문제해결의 방향을 제시하고 해결 가능성을 높여주는 유용한 전략이다.

주요 휴리스틱 전략

극단적인 경우 고려하기는 문제에서 변수의 값을 극단적으로 설정하여 패턴을 발견하는 전략이다. 예를 들어, "n각형의 대각선의 개수"를 구하는 문제에서 n=3, 4, 5인 경우부터 차례로 계산하여 일반적인 공식 \(\frac{n(n-3)}{2}\)를 발견할 수 있다.

규칙성 찾기는 주어진 조건이나 계산 결과에서 일정한 패턴이나 규칙을 발견하여 일반화하는 전략이다. 수열 문제나 조합 문제에서 특히 유용하다.

추론과 검증은 합리적인 추측을 한 후 그것이 맞는지 검증하는 전략이다. 수학에서는 귀납적 추론을 통해 일반적인 성질을 추측한 후 연역적으로 증명하는 과정이 이에 해당한다.

대칭성 이용하기는 도형이나 식의 대칭적 성질을 활용하여 문제를 간단히 해결하는 전략이다. 기하 문제나 함수 문제에서 자주 사용된다.

변수 치환하기는 복잡한 식이나 조건을 간단한 변수로 치환하여 문제를 단순화하는 전략이다. 특히 복잡한 방정식이나 부등식 문제에서 효과적이다.

휴리스틱 전략의 교육적 활용

휴리스틱 전략을 효과적으로 지도하기 위해서는 다음과 같은 원칙을 고려해야 한다. 첫째, 명시적 지도이다. 단순히 문제를 많이 풀게 하는 것보다는 각 전략의 특징과 활용 방법을 명확히 가르쳐야 한다. 둘째, 모델링이다. 교사가 문제해결 과정에서 사고 과정을 소리 내어 말하며 전략 사용법을 보여준다. 셋째, 반복적 연습이다. 다양한 문제에서 같은 전략을 반복적으로 사용해 보도록 한다. 넷째, 전략 간 비교이다. 같은 문제를 여러 전략으로 해결해 보고 각 전략의 장단점을 비교한다.

예를 들어, "계단을 한 번에 1계단 또는 2계단씩 오를 수 있을 때, n계단을 오르는 방법의 수"를 구하는 문제에서 교사는 다음과 같이 지도할 수 있다. 먼저 작은 경우부터 차례로 계산해 보게 한다(n=1일 때 1가지, n=2일 때 2가지, n=3일 때 3가지, n=4일 때 5가지). 그 다음 규칙성을 찾아보게 한다(피보나치 수열과 같은 점화식 발견). 마지막으로 이 방법을 다른 유사한 문제에 적용해 보도록 한다.

쇤펠드의 문제해결 모델

앨런 쇤펠드(Alan Schoenfeld)는 1980년대부터 문제해결 연구에 새로운 관점을 제시한 수학교육학자이다. 그는 폴리야의 4단계 모델을 발전시켜 문제해결에 영향을 미치는 네 가지 범주를 제시했다. 쇤펠드의 모델은 문제해결을 보다 종합적이고 체계적으로 분석할 수 있는 틀을 제공한다.

자원(Resources)

자원은 문제해결자가 가지고 있는 수학적 지식과 기능을 의미한다. 여기에는 사실적 지식, 개념적 이해, 알고리즘적 기능, 증명 기법 등이 포함된다. 자원은 문제해결의 기초가 되는 요소로, 충분한 자원이 없으면 문제해결이 불가능하다.

자원은 다시 여러 하위 범주로 나눌 수 있다. 사실적 지식은 공식, 정의, 정리 등의 명제적 지식이다. 예를 들어, 피타고라스 정리, 이차방정식의 해의 공식, 삼각함수의 기본 성질 등이 여기에 해당한다. 개념적 이해는 수학적 개념들 사이의 관계에 대한 이해이다. 단순히 공식을 암기하는 것이 아니라 그 공식이 왜 성립하는지, 언제 사용할 수 있는지를 아는 것이다. 알고리즘적 기능은 계산이나 작도 등의 절차적 지식이다. 증명 기법은 수학적 추론과 증명에 사용되는 방법들이다.

자원의 가용성(availability)과 접근성(accessibility)을 구분하는 것이 중요하다. 가용성은 해당 지식을 가지고 있는지의 문제이고, 접근성은 필요할 때 그 지식을 적절히 사용할 수 있는지의 문제이다. 많은 학생들이 필요한 지식은 가지고 있지만 문제 상황에서 그것을 적절히 활용하지 못하는 경우가 있다.

예를 들어, "정삼각형의 한 변의 길이가 a일 때 내접원의 반지름을 구하시오"라는 문제에서 학생은 정삼각형의 성질, 내접원의 성질, 삼각비 등의 자원을 가지고 있어야 한다. 그러나 이런 지식을 가지고 있더라도 문제 상황에서 어떤 지식을 언제 사용해야 하는지 파악하지 못하면 문제해결에 실패할 수 있다.

휴리스틱(Heuristics)

쇤펠드의 모델에서 휴리스틱은 폴리야의 개념을 보다 체계화한 것이다. 휴리스틱은 문제해결의 방향을 제시하는 일반적인 전략으로, 성공을 보장하지는 않지만 문제해결의 효율성을 높여준다.

쇤펠드는 휴리스틱을 방법론적 휴리스틱과 전략적 휴리스틱으로 구분했다. 방법론적 휴리스틱은 문제에 접근하는 일반적인 방법들이다. 예를 들어, "그림으로 그려보기", "특수한 경우 고려하기", "유사한 문제 생각하기" 등이다. 전략적 휴리스틱은 보다 구체적인 문제해결 기법들이다. 예를 들어, "변수 도입하기", "대칭성 이용하기", "귀납법 사용하기" 등이다.

휴리스틱의 효과적인 사용을 위해서는 언제 어떤 휴리스틱을 사용할지 아는 것이 중요하다. 이는 경험을 통해 습득되는 조건부 지식(conditional knowledge)이다. 또한 선택한 휴리스틱이 효과적이지 않을 때 다른 휴리스틱으로 전환하는 유연성도 필요하다.

통제(Control)

통제는 문제해결 과정에서 자신의 인지 활동을 모니터링하고 조절하는 메타인지적 활동을 의미한다. 이는 쇤펠드가 폴리야의 모델에 추가한 중요한 요소로, 효과적인 문제해결에서 매우 중요한 역할을 한다.

통제는 여러 하위 요소로 구성된다. 계획하기(planning)는 문제해결 전략을 수립하고 시간을 배분하는 활동이다. 모니터링(monitoring)은 문제해결 과정에서 진행 상황을 지속적으로 점검하는 활동이다. "지금까지의 접근이 효과적인가?", "더 나은 방법은 없는가?", "시간을 너무 많이 소비하고 있지는 않은가?" 등을 스스로 점검한다. 평가하기(evaluating)는 중간 결과나 최종 결과의 타당성을 판단하는 활동이다.

효과적인 문제해결자는 통제 능력이 뛰어나다. 그들은 막다른 길에 도달했을 때 빨리 인식하고 다른 방법을 시도한다. 반면 초보 문제해결자는 비효율적인 방법에 지나치게 오래 매달리거나, 잘못된 방향으로 가고 있다는 것을 인식하지 못한다.

예를 들어, 복잡한 기하 증명 문제에서 학생이 한 가지 방법으로 10분 이상 시도했지만 진전이 없다면, 효과적인 문제해결자는 이를 인식하고 다른 접근을 시도한다. 그러나 통제 능력이 부족한 학생은 계속 같은 방법만 반복하다가 시간을 낭비한다.

신념체계(Belief System)

신념체계는 수학과 수학 학습에 대한 개인의 믿음과 태도를 의미한다. 이는 쇤펠드가 특히 강조한 요소로, 문제해결 행동에 강력한 영향을 미친다.

수학에 대한 신념은 여러 측면을 포함한다. 수학의 본질에 대한 신념은 수학을 어떤 학문으로 보는가에 관한 것이다. 수학을 고정된 규칙들의 집합으로 보는 학생은 창의적 문제해결을 시도하지 않을 가능성이 높다. 반면 수학을 인간의 창조적 활동으로 보는 학생은 다양한 방법을 시도하고 새로운 접근을 두려워하지 않는다.

수학 학습에 대한 신념은 어떻게 수학을 배워야 하는가에 관한 것이다. "수학 문제는 5분 이내에 풀 수 있어야 한다", "수학은 타고난 능력이다", "수학 문제에는 항상 유일한 해법이 있다" 등의 잘못된 신념은 문제해결을 방해한다.

자기 효능감은 자신의 수학적 능력에 대한 믿음이다. 자기 효능감이 낮은 학생은 어려운 문제에 직면했을 때 쉽게 포기하는 경향이 있다.

실제 수업에서 교사는 학생들의 신념체계를 파악하고 개선하기 위해 노력해야 한다. 예를 들어, "이 문제는 여러 가지 방법으로 풀 수 있습니다", "처음에는 잘 안 풀릴 수 있지만 끝까지 시도해 보세요", "틀린 것도 배우는 과정입니다" 등의 메시지를 지속적으로 전달해야 한다.

문제해결 교육의 실제

문제해결 중심 수업의 설계

문제해결 중심 수업을 효과적으로 설계하기 위해서는 여러 요소를 고려해야 한다. 첫째, 적절한 문제 선정이다. 문제는 학생들의 수준에 맞되 도전적이어야 하고, 다양한 해결 방법이 가능해야 하며, 수학적으로 의미가 있어야 한다. 둘째, 충분한 시간 확보이다. 진정한 문제해결은 시간이 걸리므로 성급하게 답을 요구해서는 안 된다. 셋째, 적절한 발문과 피드백이다. 교사는 학생들이 스스로 사고할 수 있도록 도와주되 답을 직접 알려주어서는 안 된다.

문제해결 수업의 전형적인 절차는 다음과 같다. 문제 제시 및 이해 단계에서는 흥미롭고 도전적인 문제를 제시하고 학생들이 충분히 이해하도록 한다. 개별 또는 소집단 탐구 단계에서는 학생들이 스스로 문제해결을 시도하도록 한다. 교사는 순회하며 적절한 힌트를 제공한다. 전체 토론 단계에서는 학생들이 자신의 해결 방법을 발표하고 토론한다. 정리 및 확장 단계에서는 핵심 아이디어를 정리하고 유사한 문제나 확장 문제를 제시한다.

문제해결 능력 평가

문제해결 능력의 평가는 단순히 정답 여부만으로는 충분하지 않다. 문제해결 과정, 사용한 전략, 추론의 논리성, 의사소통 능력 등을 종합적으로 평가해야 한다.

포트폴리오 평가는 학생의 문제해결 과정을 지속적으로 기록하고 평가하는 방법이다. 학생들은 자신의 문제해결 과정을 글로 설명하고, 사용한 전략과 어려웠던 점, 배운 점 등을 반성적으로 기록한다.

루브릭(rubric)을 사용한 평가도 효과적이다. 문제 이해, 전략 수립, 실행, 반성 등의 각 영역에 대해 수준별 기준을 명확히 제시하여 평가한다.

문제해결 이론의 의의와 한계

문제해결 이론의 의의

문제해결 이론은 수학교육에 여러 중요한 기여를 했다. 첫째, 수학교육 목표의 재정립이다. 단순한 지식 전달에서 사고력 신장으로 수학교육의 초점이 이동했다. 둘째, 학습자 중심 교육의 이론적 근거를 제공했다. 학생들이 능동적으로 사고하고 탐구하는 것의 중요성이 강조되었다. 셋째, 메타인지의 중요성 부각이다. 자신의 사고 과정을 인식하고 조절하는 능력의 중요성이 인식되었다. 넷째, 과정 중심 평가의 필요성을 제시했다. 결과뿐만 아니라 과정을 평가하는 것의 중요성이 강조되었다.

문제해결 이론의 한계

그러나 문제해결 이론에도 한계가 있다. 첫째, 일반화의 어려움이다. 특정 영역에서 기른 문제해결 능력이 다른 영역으로 쉽게 전이되지 않는다는 연구 결과가 있다. 둘째, 기초 지식의 중요성이다. 문제해결에는 충분한 영역별 지식이 필요한데, 이를 소홀히 하면 오히려 학습 효과가 떨어질 수 있다. 셋째, 시간과 비용의 문제이다. 문제해결 중심 수업은 많은 시간과 자원이 필요하다. 넷째, 개인차의 문제이다. 모든 학생이 문제해결 방식에 적합한 것은 아니다.

현대 수학교육에서는 이러한 한계를 인식하고 문제해결을 다른 교수법과 조화롭게 활용하는 균형적 접근이 강조되고 있다. 문제해결의 가치를 인정하되, 기초 지식과 기능 학습도 소홀히 하지 않는 종합적인 접근이 필요하다.

문제해결 이론은 수학교육에서 사고력과 창의성을 기르는 핵심적인 이론적 틀을 제공한다. 폴리야의 4단계와 쇤펠드의 종합적 모델은 효과적인 문제해결 교육을 위한 중요한 지침이 되고 있으며, 앞으로도 지속적인 연구와 개선을 통해 수학교육의 질 향상에 기여할 것으로 기대된다.