[과학 산책] 미적분의 역사와 의미: 인류 문명을 바꾼 수학적 혁명

고등학교 시절 미적분을 가장 어려워했던 분들이 많을 겁니다.

그런데 미적분은 인류 문명을 바꾼 위대한 발명입니다. 뉴턴의 『프린키피아』가 과학혁명의 중심이 될 수 있었던 것도 바로 미적분의 힘 덕분이었습니다. 미적분이 없었다면 비행기, GPS, 전자공학, 인공지능 같은 현대 기술도 불가능했을 겁니다. 우리가 팔을 움직이고, 자동차가 달리고, 인공위성이 위치를 찾는 모든 과정이 결국 뉴턴의 법칙을 계산하는 미적분으로 설명됩니다.

미적분 탄생의 배경

뉴턴의 고민: 순간의 속도

17세기는 운동 법칙이 빠르게 드러나던 시대였습니다. 갈릴레오는 낙하 가속도를, 케플러는 행성의 궤도를 밝혔지만, '순간적 변화'를 설명할 언어는 아직 없었습니다. 뉴턴이 직면한 핵심 문제도 이것이었습니다. 평균 속도는 구할 수 있지만, 사과가 떨어지는 그 찰나의 속도는 평균으로는 알 수 없습니다.

 

거리를 아무리 잘게 나누어도 결국 평균일 뿐이었습니다. 이를 해결하기 위해 뉴턴은 변화 과정을 무한히 미세하게 쪼개는 방식, 즉 미분을 도입했습니다. 곡선의 한 점 기울기를 찾듯이, 시간의 한 점에서 속도를 정의한 것입니다. 이 고민은 고대 제논의 화살 역설에도 이어집니다. 한 순간만 보면 화살은 정지해 있지만 실제로는 날아갑니다. 이 모순을 풀어준 수학적 언어가 바로 미적분이었습니다.

라이프니츠의 도전: 곡선의 접선

독일의 라이프니츠는 철학과 수학을 넘나들며 지식을 하나로 통합할 보편적 언어를 꿈꾸던 사람이었습니다. 그가 집중한 문제는 오래된 기하학적 질문, 즉 곡선 위 한 점에서 접선을 어떻게 정의할 것인가였습니다.

프랑스의 페르마는 곡선 위 두 점을 매우 가깝게 잡아 잇는 직선을 생각했고, 두 점의 간격을 줄이면 접선에 가까워진다는 통찰을 남겼습니다.

 

라이프니츠는 이 생각을 더 밀어붙였습니다. 두 점의 간격을 무한히 작게 만든 직선이 바로 접선이라고 정의하고, 이런 무한히 작은 변화량을 다루는 계산 체계를 확립했습니다.

그에게 미분은 곡선의 순간 기울기를 구하는 도구였습니다.

두 천재의 놀라운 동시 발견

같은 시대, 다른 장소, 동일한 발견

17세기 후반, 놀라운 일이 일어났습니다. 영국의 아이작 뉴턴과 독일의 고트프리트 라이프니츠가 거의 동시에, 그러나 완전히 독립적으로 미적분을 발견한 것입니다. 뉴턴은 물리학적 문제에서, 라이프니츠는 기하학적 문제에서 출발했지만 놀랍게도 같은 수학적 도구에 도달했습니다.

 

이것은 단순한 우연이 아니었습니다. 당시 유럽의 지식인 사회에서는 페르마를 비롯한 여러 수학자들이 이미 접선과 순간 변화율에 대한 연구를 진행하고 있었습니다. 미적분의 아이디어는 이미 공기 중에 떠돌고 있었고, 시대가 그것을 요구하고 있었던 것입니다. 뉴턴과 라이프니츠는 그 아이디어들을 모아 체계화하고 완성시킨 사람들이었습니다.

100년간 이어진 우선권 논쟁

뉴턴과 라이프니츠는 서로 편지를 주고받으며 연구 내용을 공유했는데, 먼저 미적분 논문을 발표한 쪽은 라이프니츠였습니다. 그러자 뉴턴의 지지자들이 “라이프니츠가 뉴턴의 연구를 베꼈다!”며 강하게 비난했고, 라이프니츠 측도 맞받아쳤습니다. 이 논쟁은 두 사람이 세상을 떠난 뒤에도 영국과 독일 사이에서 거의 100년 동안 이어졌습니다.

오늘날 수학사학자들은 두 사람이 각자 독립적으로 미적분에 도달했다고 보고 있으며, 현대에서는 뉴턴과 라이프니츠를 미적분의 공동 창시자로 인정하고 있습니다.

다른 표기법, 같은 본질

흥미로운 점은 두 사람이 사용한 표기법이 달랐다는 것입니다. 뉴턴은 변화하는 양을 플럭시온이라 불렀고, y의 변화율을 y'로 표기했습니다. 라이프니츠는 무한히 작은 변화량을 dx, dy로 표기했고, 미분을 dy/dx로 나타냈습니다. 적분 기호로는 합을 의미하는 S를 길게 늘린 ∫ 기호를 사용했습니다.

오늘날 우리가 사용하는 것은 주로 라이프니츠의 표기법입니다. 라이프니츠의 표기법이 더 직관적이고 계산하기 편리했기 때문입니다. 특히 dy/dx라는 표기는 "y의 변화량을 x의 변화량으로 나눈 것"이라는 의미를 명확하게 드러냅니다.

미적분이란 무엇인가?

미분: 순간 변화율을 포착하는 마법

미분의 핵심은 어떤 양이 ‘지금 이 순간’ 얼마나 빨리 변하고 있는지를 파악하는 것입니다.

예를 들어 y가 x²로 정해져 있을 때, x를 아주 조금 바꾸면 y도 조금 변합니다. 이 작은 변화 비율을 들여다보면, x가 변하는 그 순간에 y가 얼마나 민감하게 반응하는지를 알 수 있습니다.

y = x²의 경우, x를 미세하게 움직일 때 y의 증가량을 비교해 보면, 그 순간 변화율은 항상 2x가 됩니다.
그래서 x가 1이면 변화율은 2, x가 2이면 변화율은 4입니다.

이처럼 미분은 복잡한 변화 과정 속에서 ‘순간의 기울기’를 정확히 잡아내는 도구입니다. 덕분에 물체의 운동, 전류 변화, 온도 변화처럼 시간·공간에 따라 값이 변하는 모든 현상을 수학적으로 다룰 수 있게 되었고, 과학과 공학 전반에 결정적 혁신을 가져왔습니다.

적분: 무한히 작은 것들을 쌓아올리기

적분은 미분과 반대 방향의 작업입니다. 미분이 "전체를 쪼개서 순간을 보는 것"이라면, 적분은 "순간들을 모아서 전체를 만드는 것"입니다.

가장 직관적인 예는 곡선 아래의 넓이를 구하는 것입니다. 곡선 y = f(x)가 있고, x가 a에서 b까지 변할 때 곡선 아래의 넓이를 구한다고 하겠습니다.

여기서 고대 그리스 수학자들의 아이디어가 등장합니다. 구분구적법이라고 불리는 방법입니다. 영역을 아주 작은 직사각형들로 쪼개서, 그 직사각형들의 넓이를 모두 더하는 것입니다.

 

x축을 n등분해서 각 구간의 폭을 Δx라고 하겠습니다. 각 구간에서 함수값 f(x)를 높이로 하는 직사각형을 만들면, 그 넓이는 f(x)·Δx입니다. 모든 직사각형의 넓이를 더하면:

여기서 n을 무한대로 보내면, 즉 Δx를 무한히 작게 만들면 근사값이 정확한 값에 다가갑니다. 라이프니츠는 이 무한히 작은 폭을 dx로 표기하고, 합을 의미하는 S를 길게 늘려 ∫로 표기했습니다.

이것이 바로 정적분입니다.

미적분학의 기본정리: 심장이 멎을 듯한 발견

미적분 역사에서 가장 놀라운 순간은 미분과 적분이 서로 역연산 관계라는 사실이 밝혀진 때였습니다. 처음엔 두 개념이 완전히 달라 보였습니다. 미분은 순간 변화율, 적분은 넓이를 구하는 거였으니까요. 그런데 놀랍게도 두 연산은 서로 반대 과정이었습니다. 함수를 적분한 결과를 미분하면 원래 함수가 나오고, 미분한 결과를 적분해도 원래 함수로 돌아옵니다.

 

예를 들어 f(x)=2x의 적분은 F(x)=x²이고, x²를 미분하면 다시 2x가 됩니다. 이게 미적분학의 기본정리입니다. 영국 수학자 제임스 그레고리가 발견했고, 뉴턴의 스승 아이작 배로가 증명했습니다. 뉴턴은 "심장이 멎을 듯한 충격"이었다고 말했습니다. 전혀 별개로 보이던 미분과 적분이 하나로 연결되면서 미적분학이 탄생한 겁니다.

초기의 논리적 허점과 극복

무한소의 딜레마

뉴턴과 라이프니츠의 미적분은 실제 계산에서 훌륭히 작동했고 자연 현상을 정확히 설명했습니다. 하지만 논리적 기반에는 큰 문제가 있었습니다. 핵심은 무한소(dx, dy)였습니다. "무한히 작은 양"이라 정의했지만, 그게 정확히 뭔지 불명확했습니다.

 

예를 들어 y=x²의 미분에서 dy/dx = 2x + dx까지 진행한 뒤, dx를 0으로 취급해 없애버립니다. 처음에는 0이 아니어야 나눗셈이 가능한데, 끝에서는 0처럼 다루는 겁니다. 명백한 모순이며, 이런 식이면 1×0=2×0이므로 1=2 같은 결론도 가능합니다.

 

많은 수학자와 철학자들이 이를 비판했습니다. 아일랜드 철학자 조지 버클리는 미적분을 "사라진 양의 유령"이라 부르며 논리적 기초가 불완전하다고 지적했습니다. 뉴턴도 이 문제를 의식해 프린키피아에서는 무한소 대신 기하학으로 설명했고, 라이프니츠는 무한소를 "그럴듯한 허구"라 인정하면서도 실용성을 이유로 계속 사용했습니다.

극한 개념의 등장

미적분의 논리적 기초가 확립된 것은 약 150년 뒤인 19세기였습니다. 프랑스의 코시와 독일의 바이어슈트라스가 극한 개념을 엄밀하게 정의하면서 무한소의 문제를 해결했습니다. 극한의 핵심 아이디어는 이렇습니다. dx를 "무한히 작은 수"라고 애매하게 정의하지 말고, "어떤 값에 한없이 가까워지는 과정"으로 이해하자는 것입니다. 예를 들어 dy/dx = 2x + dx에서, dx가 0으로 간다는 대신 다음과 같이 표현 하는 겁니다.:

극한 개념을 엄밀하게 정의하기 위해 등장한 것이 엡실론-델타 논법입니다. "임의로 작은 오차를 주면, 그에 대응하는 구간을 항상 찾을 수 있다"는 방식으로 극한을 정의합니다.

 

이렇게 해서 미적분은 논리적으로 탄탄한 기초 위에 서게 되었습니다. 무한소는 더 이상 "그럴듯한 허구"가 아니라, 극한이라는 엄밀한 개념으로 대체되었습니다. dx/dy라는 표기법은 여전히 사용되지만, 이제 극한을 간편하게 표현하는 기호일 뿐입니다.

프린키피아: 미적분으로 세상을 설명하다

라틴어로 쓰인 위대한 책

뉴턴의 프린키피아는 인류 역사상 가장 영향력 있는 과학 책 중 하나입니다. 정식 제목은 "자연철학의 수학적 원리"로, 1687년에 출판되었습니다. 이 책이 라틴어로 쓰인 이유는 당시 라틴어가 유럽 학계의 공용어였기 때문입니다. 라틴어로 쓰면 유럽 전역의 학자들이 읽을 수 있었고, 연구의 권위성도 높일 수 있었습니다.

 

흥미롭게도 프린키피아에는 미적분 기호가 거의 등장하지 않습니다. 뉴턴은 의도적으로 기하학적 방법으로 이론을 증명했습니다. 당시 수학자들에게 익숙한 방식을 사용해 더 많은 사람들이 이해할 수 있도록 한 겁니다. 하지만 책을 자세히 보면 곳곳에 미적분 아이디어가 숨어 있습니다. 특히 제1권 제1장의 보조정리들이 극한과 미적분의 기본 개념을 다룹니다.

 

보조정리 1은 극한 개념을 담고 있고, 보조정리 2는 직사각형으로 곡선 아래 면적을 근사하는 방법을 설명합니다. 오늘날 정적분과 리만 합의 관계와 같은 아이디어입니다. 보조정리 11에서 뉴턴은 무한소 비판에 답합니다. "사라지는 양의 극한 비율은 마지막 양의 비율이 아니라, 무한히 감소하는 양의 비율이 항상 접근하는 한계다." 극한 개념에 대한 정확한 설명입니다.

만유인력의 법칙: 천상과 지상을 하나로

프린키피아의 가장 위대한 업적은 만유인력의 법칙을 제시한 것입니다. 뉴턴은 놀라운 주장을 했습니다. "사과가 떨어지는 것과 달이 지구 주위를 도는 것은 같은 힘 때문이다." 고대 그리스 이래로 사람들은 천상과 지상이 서로 다른 법칙을 따른다고 믿었습니다. 하늘의 별과 행성들은 신성한 영역이고, 땅 위의 사물들과는 근본적으로 다르다고 생각했습니다. 하지만 뉴턴은 이 구분을 무너뜨렸습니다. 사과가 땅으로 떨어지는 것도, 달이 지구 주위를 도는 것도 같은 중력 때문입니다.

 

달이 떨어지지 않는 이유는 무엇일까요? 뉴턴의 답은 "달은 계속 떨어지고 있다. 다만 땅에 닿지 않을 뿐이다." 달은 관성에 따라 직진하려 하지만, 지구의 중력이 달을 계속 당깁니다. 이 두 가지가 균형을 이루면서 달은 끊임없이 지구로 "낙하"하지만 절대 지구에 도달하지 못합니다. 이것이 궤도 운동의 본질입니다. 이 설명을 수학적으로 정확하게 계산하려면 미적분이 필요했습니다. 순간적인 속도, 가속도, 힘의 관계를 다루어야 했기 때문입니다.

 

프린키피아는 과학사에 혁명을 일으켰습니다. 자연 현상을 수학으로 설명할 수 있다는 것을 보여줬고, 실험과 관찰을 통한 데이터를 기반으로 수학적 모델을 구축하는 방법론을 제시했습니다. 이것이 현대 과학의 기초가 되었습니다. 어떤 학자는 "서양과 동양이 근본적으로 달라지는 시점이 바로 이 책이 나온 시점이다"라고 말했습니다. 세상을 수학적으로 보려는 시도 자체가 뉴턴이 처음 한 것이었고, 그 수학적 방법의 핵심이 바로 미분과 적분이었습니다.

과학과 문명에 미친 영향

물리학의 혁명

미적분이 없었다면 근대 물리학은 탄생할 수 없었습니다.

뉴턴의 운동 법칙, 특히 F = ma는 미적분 없이는 완전히 이해할 수 없습니다. 가속도는 속도의 변화율이고, 속도는 위치의 변화율이기 때문입니다. 즉 속도는 위치의 미분, 가속도는 속도의 미분입니다.

 

뉴턴 역학은 19세기 전자기학으로 이어졌습니다. 맥스웰은 전기와 자기 현상을 설명하는 아름다운 방정식들을 만들었는데, 이 맥스웰 방정식은 모두 미분방정식입니다.

 

20세기에 들어서면 양자역학이 등장합니다. 슈뢰딩거 방정식, 하이젠베르크의 불확정성 원리 등 양자역학의 핵심 개념들도 모두 미적분학, 특히 미분방정식에 기반을 두고 있습니다.

아인슈타인의 상대성 이론 역시 마찬가지입니다. 시공간의 휘어짐을 설명하는 아인슈타인 장방정식은 매우 복잡한 미분방정식입니다.

 

한 과학자는 이렇게 말했습니다. "지금 이 순간 여러분이 고개를 돌리거나 손을 들 때에도 뉴턴의 법칙에 따라 움직이고 있습니다." 비행기는 10만 개의 부품이 한 치의 오차도 없이 뉴턴의 법칙에 따라 움직이기 때문에 날아갑니다. 오늘날 우리의 문명은 뉴턴의 법칙에 기반을 두고 있고, 그 법칙을 설명하고 계산하는 도구가 바로 미적분입니다.

수학의 발전

미적분은 수학 자체도 크게 발전시켰습니다.

미분방정식론이 탄생했습니다. 미분방정식은 미분을 포함한 방정식으로, 자연 현상의 변화를 표현하는 가장 강력한 도구입니다. 물체의 운동, 열의 전달, 파동의 전파, 인구의 증가 등 거의 모든 변화 현상을 미분방정식으로 모델링할 수 있습니다.

 

해석학이라는 수학의 한 분야가 탄생했습니다. 해석학은 극한, 연속, 미분, 적분 등을 엄밀하게 다루는 학문으로, 현대 수학의 뼈대를 이룹니다.

 

미적분학의 기본정리 발견 이후, 18세기에는 적분을 미분의 역연산으로 보는 관점이 지배적이 되었습니다. 이는 계산을 훨씬 간편하게 만들었지만, 동시에 새로운 문제도 낳았습니다. 어떤 함수들은 기존의 적분 정의로는 적분이 불가능했기 때문입니다.

전기공학의 혁명: 헤비사이드의 공헌

미적분이 실용 공학에 어떻게 적용되었는지 보여주는 훌륭한 사례가 올리버 헤비사이드의 업적입니다. 헤비사이드는 19세기 후반 독학으로 수학과 물리학을 공부한 영국의 천재 공학자였습니다.

 

첫째, 맥스웰 방정식을 현대적 형태로 정리했습니다. 원래 맥스웰이 제시한 전자기학 방정식은 20개가 넘었는데, 헤비사이드는 이를 오늘날 배우는 4개의 간결한 방정식으로 정리했습니다.

 

둘째, 연산자 미적분을 개발했습니다. 전기회로를 분석할 때 미분방정식을 풀어야 했는데, 이게 매우 어려웠습니다. 헤비사이드는 미분 연산자를 마치 대수적 변수처럼 다루는 방법을 고안했습니다. 이는 나중에 라플라스 변환으로 발전했습니다.

 

셋째, 임피던스 개념을 도입했습니다. 임피던스는 교류 회로에서 전압과 전류의 관계를 나타내며, 저항, 인덕턴스, 캐패시턴스를 하나로 통합해서 다룰 수 있게 해줍니다.

 

헤비사이드의 업적 덕분에 전기공학자들은 미적분을 실제로 사용할 수 있게 되었습니다. 전송선 이론, 필터 설계, 신호 처리 등 현대 전기전자공학의 기초가 모두 헤비사이드의 방법론에 기반하고 있습니다. 한마디로 헤비사이드는 "미적분을 전기공학에서 쓸 수 있게 만든 사람"입니다.

현대 기술 문명

미적분은 현대 기술 문명의 거의 모든 분야에 스며들어 있습니다.

GPS는 상대성 이론과 미적분 없이는 작동할 수 없습니다. 위성의 시계는 지상보다 빠르게 가기 때문에 상대론적 보정이 필요한데, 이 계산에 미적분이 사용됩니다.

 

AI와 딥러닝의 핵심 알고리즘인 경사하강법은 미분에 기반합니다. 손실 함수를 미분해서 그 기울기를 따라 최적값을 찾아가는 것입니다.

 

금융공학에서는 옵션 가격을 계산하는 블랙-숄즈 방정식이 미분방정식입니다. 최적화 이론은 기업의 생산 계획, 물류 관리 등에 필수적인데, 이 역시 미적분에 기반합니다.

 

반도체, LED, 레이저 등 현대 전자기기는 모두 양자역학에 기반하고 있습니다. 한 물리학자는 이렇게 말했습니다. "19세기와 20세기의 차이는 정확히 양자역학만큼입니다. 컴퓨터, LED, GPS, 레이저, 반도체, 이것들은 양자역학이 없으면 존재하지 않는 것들입니다." 그리고 양자역학의 수학적 기초가 바로 미분방정식입니다.

미적분, 계속 진화하다

20세기의 혁신: 르베그 적분

미적분학의 기본정리가 발견된 후, 18세기에는 적분을 미분의 역연산으로 보는 관점이 지배적이 되었습니다. 계산은 간편해졌지만, 새로운 문제도 생겼습니다.

 

어떤 함수들은 기존 적분 정의로는 적분이 불가능했습니다. 대표적인 예가 디리클레 함수입니다. x가 유리수이면 1, 무리수이면 0인 함수입니다. 그래프를 그릴 수조차 없습니다. 유리수와 무리수가 뒤섞여 있기 때문입니다. 기존 구분구적법으로는 이 함수의 적분을 정의할 수 없습니다.

 

20세기 초, 프랑스 수학자 앙리 르베그가 새로운 적분 개념을 제시했습니다. 핵심은 x축 대신 y축을 쪼개는 것입니다.

기존 방법은 x축을 여러 구간으로 나눴습니다. 르베그는 반대로 y축을 나누고, 각 y값을 만드는 x들의 "길이"를 측정했습니다. 디리클레 함수의 경우, y=1을 만드는 x들은 유리수 전체고, y=0을 만드는 x들은 무리수 전체입니다. 유리수 집합의 "길이"는 0입니다. 무리수가 압도적으로 많기 때문입니다. 따라서 디리클레 함수의 르베그 적분은 0입니다.

 

기존 적분 정의로는 이 함수의 적분이 아예 정의되지 않았습니다. 하지만 르베그 적분으로는 합리적으로 정의할 수 있습니다. 르베그 적분은 기존 방법으로는 불가능했던 함수들까지 다룰 수 있는 더 일반화된 개념입니다.

끝나지 않는 발전

한 수학 강의에서 교수는 이렇게 말했습니다. "수학 개념이라는 것은 어느 한 순간에 고정되지 않고 지금 이 순간에도 변화합니다. 20세기는 이랬는데 21세기 적분은 또 어떤 개념일까요?"

교과서에 있는 것은 어디까지나 과거의 어떤 시점에 대해 우리가 생각하는 것일 뿐입니다. 수학은 늘 변합니다. 수학은 다이나믹한 학문입니다.

 

뉴턴과 라이프니츠 시대에는 무한소로 설명했습니다. 19세기에는 극한으로 재정의되었습니다. 20세기에는 르베그 적분이 등장했습니다. 미적분은 400년 가까이 계속 진화해왔고, 앞으로도 계속 진화할 것입니다.

 

변화를 이해하는 인류의 지혜

이 세상에 변하지 않는 것은 없습니다. 물체는 움직이고, 온도는 변하고, 인구는 증가하고, 주가는 오르락내리락합니다. 우리는 그 변화를 어떻게 이해할 수 있을까요? 17세기, 두 천재가 거의 동시에 같은 답을 찾아냈습니다. 순간 변화율을 구하는 미분, 무한히 작은 것들을 쌓아올리는 적분. 그리고 이 둘이 서로 역연산 관계라는 놀라운 발견.

 

처음에는 논리적 허점이 있었습니다. 무한소라는 애매한 개념에 의존했고, 많은 비판을 받았습니다. 하지만 그럼에도 미적분은 작동했습니다. 자연 현상을 놀랍도록 정확하게 설명했습니다. 150년 후, 극한 개념으로 미적분은 논리적으로 탄탄한 기초 위에 서게 되었습니다.

 

뉴턴의 프린키피아는 자연 현상을 수학으로 설명할 수 있다는 것을 보여주었고, 그 핵심이 바로 미분과 적분이었습니다. 이 책 한 권이 서양과 동양의 운명을 갈라놓았다고 해도 과언이 아닙니다.

 

오늘날 우리가 사용하는 GPS, 스마트폰, 컴퓨터, 인터넷은 모두 미적분 없이는 존재할 수 없습니다. AI가 학습하는 것도, 자동차가 브레이크를 거는 것도, 날씨를 예측하는 것도 모두 미적분에 기반합니다. 미적분은 단순히 어려운 수학이 아닙니다. 변화를 이해하고 다루는 인류의 지혜이자, 현대 문명을 가능하게 한 위대한 발명입니다.