1997년, IBM의 딥블루가 세계 체스 챔피언인 카스파로프를 이겼을 때는 남의 나라 일이거니 하며 큰 관심을 두지 않았다. 그러나 2016년 바둑의 명인 이세돌이 인공지능이라는 딥러닝에게 바둑경기에서 패하면서 굉장한 사회적 이슈가 되어 ‘인공지능’과 ‘딥러닝’이란 용어가 매우 많이 퍼졌고 또한 익숙해졌다. ‘인공지능’ 또는 ‘딥러닝’이란 단어가 들어간 책을 검색하여 1년 내내 읽고 공부했다. 

인공지능이란 말을 처음 한 사람은 영국의 화폐에 그 얼굴이 있는 수학자 앨런 튜링이다. 그는 제2차 세계대전에서 독일의 암호를 해독해 연합국이 전쟁의 승리를 하는데 중요한 역할을 하였다. 전쟁이 끝난 후 튜링은 암호를 빨리 해독할 수 있는 기계를 생각하게 되었다. 암호해독에 있어 가장 중요한 것은 시간이었기 때문이다. 그러면서 ‘컴퓨터가 사람처럼 생각을 할 수 있을까?’ 하며 만든 가설이 ‘튜링 테스트’이다. 이는 사람이 질문을 하고 기계와 사람이 대답을 하는데 어느 대답이 기계가 한 것인지 사람이 한 것인지 구분하기 어렵다면 그 기계는 사람처럼 행동할 수 있는 인공지능을 갖고 있다고 생각한 것이다. 

인공지능 분야는 한마디로 아주 잘 예측하고, 또는 대답하고, 또는 행동하는 것이다. 무엇을 갖고 예측하고 대답하고 행동하는가? 그것은 과거의 또는 쌓인 데이터이다. 과거의 데이터는 개인에 빗대어 보면 의식적이든 아니든 자신이 저지른 반응 또는 행동이 수집되어서 모두 디지털화되어 저장되어 있는 것이다. 이러한 과거의 데이터에 기반하여 미래를 예측하는데 잘 맞지 않는 경우 피드백을 받아 다시 개선된 예측을 한다. 데이터가 많을수록 예측은 정확해진다. 그래서 인공지능에서는 신빙성 있는 데이터가 매우 중요하다. 데이터가 엉터리이면 그 결과 역시 엉터리가 된다. 그럼에도 데이터가 잘못된 것이라는 것을 속이고 마치 진실인 양 그 결과를 사용하면 큰 문제가 발생한다. 

과거의 데이터로 미래를 예측하는 데 수학이 사용되며, 특히 수치해석학은 수학 문제를 컴퓨터로 계산하게 하는 데 필요한 알고리즘을 개발하는 분야로 인공지능에 잘 응용될 수 있다. 인공지능을 현실에 적용하기 위해서는 컴퓨터가 알아들을 수 있는 효과적인 프로그래밍 언어가 필요하고, 이에 필요한 수학 문제나 과정을 프로그래밍하기 위해서는 알고리즘이 필요하다. 보다 정확한 결과를 얻기 위해서는 엄청나게 많은 사전 데이터가 필요한데 이것을 ‘빅데이터’라고 부른다. 무궁무진한 인터넷 검색과 컴퓨터 이용으로 관련 데이터는 엄청 많아졌고 앞으로도 계속 생길 것이다. 현재의 이런 빅데이터에 나중에 생긴 데이터를 피드백하여 사람이 정해주지 않아도 컴퓨터가 스스로 경험 또는 학습을 통해 점차 정확도가 높아질 수 있는 알고리즘인 머신러닝이 개발되었다. 

또한 이런 빅데이터를 저장하고 빅데이터의 연산을 매우 빠르게 계산할 수 있는 성능 좋은 컴퓨터 하드웨어도 개발되고, 가격도 저렴해짐에 따라 클라우드 서비스로 싸게 데이터를 저장할 수 있게 되어 응용이 현실화되었다. 즉 인공지능은 ‘수학과 알고리즘’, ‘빅데이터와 프로그램밍 언어’ 그리고 ‘우수한 성능의 컴퓨터 하드웨어’ 세 분야가 일체가 되어 그 가치를 발휘하게 되었다. ‘빅데이터’와 ‘우수한 성능의 컴퓨터 하드웨어’는 한때 사양의 길로 들어섰던 인공지능을 되살아나게 했다. 이로 인해 기계가 사람 수준의 영상을 분류하고 음성을 인식하고 또한 손으로 쓴 글씨도 인식하게 되었다. 그뿐 아니라 글자를 음성으로 변환하고 음성을 글자로 변환하는 것도 가능해졌다. 또한 여러 가지 돌발적인 사태에 가장 현명한 선택을 해야 하는 자동차의 자율주행도 점차 가능해지고, 무언가 찾고 싶을 때 아주 빠른 속도로 관련된 것을 찾아주는 검색 엔진도 크게 발전하였다. 

이러한 빅데이터를 사용하려면 컴퓨터가 읽을 수 있게 잘 정리되어야 한다. 그러나 현실에서 발생하는 대부분의 데이터는 바로 사용할 수 있도록 잘 정돈되어 있지 않다. 따라서 인공지능의 대부분은 마구잡이로 수집된 데이터를 가공하고 처리하여 잘 정리하는데 많은 시간과 인력이 필요하다. 잘 정리 정돈된 빅데이터의 분석을 통해 인공지능은 개개인의 성향을 파악할 수 있으며 그가 무엇을 원하는지 추측이 충분한 오차 범위 이내로 가능해진다. 이어지는 데이터가 계속 활용되면서 인공지능이라는 알고리즘은 점점 더 그 오차의 범위를 줄일 수 있어 심지어 자신의 생각과 아주 비슷하게 예측할 수 있다. 이러한 예측은 처음에는 놀랍고 긍정적인 면으로 생각하지만 우리 자신은 온라인에서 완전히 발가벗겨져 인간 개체로서의 존엄성이 훼손되고 현실세계에서 정보를 장악한 누군가에 의해 조종될 수 있어 조지 오웰의 소설 《1984》에서 나오는 ‘빅브라더 (Big Brother)’를 맞이하는 부작용이 충분히 생길 수도 있다. 그뿐 아니다. 동영상을 보여주는 유튜브의 출현으로 필요한 여러 정보를 영상으로 획득할 수 있게 되었다. 몇 건을 접속하다 보면 필요한 것만 알아서 제시해주는 것에 놀란 기억이 있을 것이다. 유튜브뿐 아니라 친구를 잘 찾아주는 페이스북, 광고를 제때에 잘 보여주는 구글, 음원을 찾아주는 멜론이나 스포티파이 등, 이는 개인의 소비 패턴과 누적 기록을 분석하여 개별 취향에 맞는 콘텐츠를 소비하도록 하는 것이다. 

이러한 제시가 긍정적인 효과를 줄 수도 있지만 이는 자신이 좋아하는 것만 보게 되어 마치 자신을 우물 안에 가두는 부정적인 효과를 발생할 수도 있다. 왜냐하면 자신의 관심 대상 밖의 것을 그만큼 접하기 어려워 폭넓은 생각을 하지 못해 생각이 좁아지기 때문이다. 과거의 전통적인 알고리즘은 사람이 입력을 주면 결과를 주었다. 이것을 규칙에 기반한 알고리즘이라 하여 인간이 사용하는 명령에 대해서만 효과를 발휘했다. 그러나 요즈음 인공지능이란 분야에서 사용하는 기계학습 알고리즘은 경험에 기반한 알고리즘으로 학습을 통한 경험을 피드백으로 제공받는 등 스스로 학습하여 입력을 개선해 더 좋은 결과를 얻는다. 즉 점점 똑똑해지는 것이다. 그래서 인공지능이라는 단어가 의미를 가진다. 

이 책에서는 이러한 인공지능에 관심을 갖고 공부하고자 하나 전혀 기초가 없는 학생을 위하여 한 학기에 걸쳐 할 수 있는 인공지능에 매우 필요한 기초적인 수학과 알고리즘을 맛보기로 소개하고자 한다. 그리고 이를 컴퓨터에서 다룰 개방형 프로그래밍 언어로는 ‘옥타브’를 사용한다. 왜냐하면 ‘옥타브’는 기존 상용 프로그램인 ‘매트랩’과 거의 같은 프로그램으로 다루기가 매우 편리할 뿐 아니라 무료로 사용할 수 있기 때문이다. 좀 더 인공지능에 흥미를 느끼면 ‘파이선(Python)’이나 ‘R’과 같은 개방형 프로그램을 이용할 것을 권장한다. 다루고자 하는 수학 분야는 선형대수학에서 행렬방정식과 행렬식, 그리고 고유치방정식과 선형변환을 다룬다. 또한 여러 개의 독립변수를 갖고 있는 다변수함수에 관련된 기초적인 지식과 다변수함수의 미분에 관한 기초적인 개념을 다루며 아울러 기초적인 확률과 통계를 다룬다. 또한 수학 문제의 수치적 해법인 알고리즘으로 최적의 해를 구하는 최소제곱법과 경사하강법을 소개한다. 

이 책에서는 수학에서 늘 사용하는 ‘정의’와 ‘정리’ 그리고 ‘예제’라는 단어를 사용한다. 정의란 약속이란 의미이고, 정리란 어떠한 가정 아래에서 나온 결과를 뜻한다. 그리고 예제란 정리의 실제적인 보기에 해당한다. 수학을 잘 하기 위해서는 반드시 정의를 정확히 따라야 한다. 마치 약속을 반드시 지켜야 신용 있는 사람이 되는 것처럼. 

이 책의 내용과 범위는 일반대학에서 15주 한 학기에 충분히 다룰 수 있을 정도로 매우 제한적이며 기초적이다. 그러므로 이 정도의 지식을 충분히 이해하고 좀 더 인공지능에 관심을 갖고 공부하고 싶다면 다음과 같은 수학 분야와 프로그래밍 언어를 좀 더 깊이 공부할 것을 권장한다. 

미분적분학, 선형대수학, 수치해석학, 확률과 통계, 파이선, R 

1 옥타브 사용하기
1.1 설치하기 ·2
1.2 변수와 출력 ·5
1.3 연산자와 자릿수 표현 ·6
1.4 수학함수 ·8
1.5 배열과 행렬 ·10
1.6 행렬방정식에 필요한 명령어 ·16
1.7 조건문과 반복문 ·18
1.8 M-파일 함수문 ·20
1.9 그래프 그리기 ·24

2 선형대수
2.1 연립방정식 ·32
2.2 행렬과 벡터 ·38
2.3 가우스 소거법 ·48
2.4 행렬식 ·54
2.5 고유치방정식과 거듭제곱방법 ·62
2.6 Rn 에서 Rn으로 가는 선형변환 ·69
[연습문제] ·75

3 함수와 수열
3.1 대응과 함수 ·82
3.2 일차함수와 이차함수 ·84
3.3 지수함수와 로그함수 ·87
3.4 삼각함수 ·89
3.5 활성함수 ·93
3.6 수열 ·95
3.7 공간에서의 직선과 평면 ·98
3.8 다변수함수와 벡터함수 ·103
[연습문제] ·106

4 미분
4.1 극한과 연속 ·110
4.2 미분계수와 도함수 ·112
4.3 도함수의 성질과 최대최소 ·116
4.4 도함수와 그래프의 모양 ·119
4.5 활성함수의 미분과 그래프 ·123
4.6 방정식의 수치해법 ·126
4.7 다변수함수의 편도함수 ·130
4.8 기울기벡터와 최대최소 ·134
[연습문제] ·140

5 확률과 통계
5.1 순열과 조합 그리고 확률 ·146
5.2 조건부확률과 베이즈 정리 ·151
5.3 이산확률분포와 통계 ·158
[연습문제] ·161

6 최소제곱법과 경사하강법
6.1 최소제곱방법과 직선 ·166
6.2 최소제곱방법과 곡선 ·172
6.3 경사하강법 ·176
[연습문제] ·182

7 인공지능
7.1 알고리즘은 무엇인가? ·186
7.2 인공지능과 기계학습 ·189
7.3 퍼셉트론과 딥러닝 ·192

연습문제 해답
2장 연습문제 해답 ·202
3장 연습문제 해답 ·204
4장 연습문제 해답 ·205
5장 연습문제 해답 ·207
6장 연습문제 해답 ·211

참고 문헌 ·213
찾아보기 ·214

지은이: 이규봉
서강대학교 수학과 졸업(이학사)
서강대학교 대학원 수학과 졸업(이학석사)
미국 버지니아 공과대학교(VPI&SU) 수학과 졸업(Ph. D.)
현재 배재대학교 AI·전기공학과 교수

배송정보

교환/반품 정보