경영자를 위한 AI 딥러닝
2026년 9월 1일 · 1주차

AI 시대의 시작: AI·머신러닝·딥러닝 한 번에 이해하기

첫 수업에서는 AI가 왜 모든 비즈니스의 필수가 됐는지 큰 그림을 봤어요. AI 에이전트가 일하고 사람이 지휘하는 미래의 회사 모습에서 출발해, AI·머신러닝·딥러닝의 차이와 80년에 걸친 딥러닝의 역사를 살펴봤어요. 마지막으로 딥러닝이 어떤 문제에도 쓰일 수 있는 이유, ‘만능 함수 근사기’를 배웠어요.

보충 표시는 교수님 자료와 필기에 없는데 이해를 위해 더한 내용이에요.

PART 1AI 네이티브회사 PART 2지금의 AIMoE·CoT·DeepSeek PART 3AI·ML·DL개념 구분 PART 4딥러닝 역사1943 → 2012 PART 5왜 딥러닝?만능 근사기 미래의 회사 모습 → 지금의 기술 → 기본 개념 → 역사 → 왜 지금 딥러닝인가
오늘 수업 한눈에 보기

용어 사전

이 노트에 나오는 줄임말이에요. 처음 보면 이 표로 돌아와서 확인하세요.

용어뜻
AI
Artificial 인공 + Intelligence 지능
사람처럼 판단하고 행동하는 컴퓨터 프로그램
ML
Machine 기계 + Learning 학습
데이터를 보고 스스로 규칙을 배우는 프로그램
DL
Deep 깊은 + Learning 학습
여러 층으로 쌓은 인공 신경망으로 배우는 머신러닝
AX
AI + Transformation 전환
회사 일하는 방식을 AI 중심으로 바꾸는 것
MAS
Multi 여럿 + Agent 일꾼 + System 체계
여러 AI 일꾼이 역할을 나눠 함께 일하는 구조
MoE
Mixture 섞음 + of Experts 전문가들
질문마다 필요한 '전문가' 부분만 골라 쓰는 AI 구조
CoT
Chain 사슬 + of Thought 생각
답을 내기 전에 생각을 한 단계씩 이어 가는 방법
LLM
Large 큰 + Language 언어 + Model 모델
엄청난 양의 글을 배운 대화형 AI (예: ChatGPT)
GPT
Generative 생성하는 + Pre-trained 미리 학습된 + Transformer (AI 구조 이름)
OpenAI가 만든 글 생성 AI 시리즈
CNN
Convolutional 합성곱 + Neural 신경 + Network 망
사진을 조각조각 훑어보며 특징을 찾는 신경망
GPU
Graphics 그래픽 + Processing 처리 + Unit 장치
작은 계산을 한꺼번에 수천 개 처리하는 칩
CPU
Central 중앙 + Processing 처리 + Unit 장치
컴퓨터의 두뇌. 복잡한 일을 차례대로 처리
TPU
Tensor (숫자 묶음) + Processing 처리 + Unit 장치
구글이 AI 계산 전용으로 만든 칩
SFT
Supervised 지도 + Fine-Tuning 미세 조정
정답 예시를 보여 주며 AI를 다듬는 학습
RL
Reinforcement 강화 + Learning 학습
잘하면 점수, 못하면 감점을 주며 배우게 하는 방법
SVM
Support 지지 + Vector 벡터 + Machine 기계
데이터를 두 무리로 가르는 가장 넓은 경계선을 찾는 옛 머신러닝 방법

1부. AI 네이티브 회사: 사람은 지휘자가 된다

1-1. 오케스트라 지휘자처럼 AI를 부리기

이 장에서 배울 것
여러 AI가 팀처럼 일하는 '멀티 에이전트 시스템'이 무엇인지, 왜 한 명보다 여럿이 나은지 알아봐요.

교수님은 수업을 지휘자 사진으로 시작했어요. 지휘자는 악기를 직접 연주하지 않아요. 대신 누가 언제 어떻게 연주할지 정하고 전체 소리를 맞춰요.

앞으로 회사에서 사람이 하는 역할이 이렇게 바뀐다는 뜻이에요. 일은 여러 AI가 나눠서 하고, 사람은 방향을 정하고 결과를 점검해요. 이것을 오케스트레이션(Orchestration, 지휘)이라고 불러요.

개념 카드

에이전트 Agent

💡개념
목표를 주면 스스로 계획하고, 도구를 쓰고, 결과를 확인하며 일을 끝내는 AI 일꾼이에요.

"에이전트(Agent)"는 원래 "대신 일해 주는 사람"이라는 뜻이에요. 부동산 중개인이나 여행사 직원을 생각하면 돼요.

보통 챗봇은 질문 하나에 답 하나를 해요. 에이전트는 큰 목표를 받아서 할 일을 스스로 쪼개고, 검색·계산·문서 작성 같은 도구를 직접 써요.

가장 중요한 차이는 점검하고 다시 고치는 고리예요. 결과가 부족하면 스스로 계획을 고쳐 다시 해요.

👀그림으로 먼저 보기
목표"자료 준비해 줘"계획할 일 목록실행도구 사용점검결과 확인완료일 끝!부족하면 계획부터 다시 고쳐요에이전트는 이 고리를 스스로 돌려요
목표 → 계획 → 실행 → 점검을 돌다가, 부족하면 다시 계획으로 돌아가요(분홍 점선).
❓이게 없으면?
Q큰 일을 AI에게 통째로 맡길 수 있을까?A챗봇만 있으면 사람이 일을 잘게 쪼개서 하나하나 시켜야 해요. 에이전트는 그 쪼개기와 확인을 스스로 해요.
⚙️어떻게 작동할까
1
목표를 받으면 할 일 목록(계획)을 세워요.
→
2
검색, 계산, 문서 작성 같은 도구로 하나씩 실행해요.
→
3
결과를 스스로 점검하고, 부족하면 다시 고쳐요.
🧑‍💼쉬운 비유: 믿음직한 신입 사원
비유AI
"회의 자료 준비해 줘"라는 지시↔에이전트가 받는 목표
자료 찾고 표 만들기↔도구를 써서 실행
오탈자까지 다시 보기↔스스로 점검하고 고치기
🔢숫자 예시
책 쓰기 앱의 총괄 에이전트
1명
일을 나누고 순서를 정해요
전문 에이전트
4명
작가 · 검토 · 편집 · 조사가 각자 맡은 일을 해요 (슬라이드 9쪽)
⚠️헷갈리기 쉬운 점
챗봇 = 대답
질문 하나에 답 하나. 다음 할 일은 사람이 정해요.
에이전트 = 일
목표 하나에 여러 단계를 스스로 진행해요. 같은 AI 모델을 써도 일하는 방식이 달라요.
개념 카드

멀티 에이전트 시스템 MAS · Multi-Agent System

💡개념
역할이 다른 여러 에이전트가 하나의 팀처럼 함께 일하는 구조예요.

"멀티(Multi)"는 여럿, "시스템(System)"은 짜임새라는 뜻이에요. AI 일꾼 여럿을 하나의 팀으로 짠 거예요.

AI 하나는 자기 실수를 스스로 잘 못 잡아요. 그래서 쓰는 역할과 검토하는 역할을 나눠요. 서로 확인하니 결과가 좋아져요.

이 팀을 이끄는 일을 오케스트레이션(Orchestration, 지휘)이라고 해요. 오케스트라 지휘자처럼 누가 언제 일할지 정해요.

👀그림으로 먼저 보기
총괄 에이전트일을 나눠요작가 에이전트조사 에이전트편집 에이전트검토 에이전트중요한 지점에서는 사람이 최종 승인해요
총괄이 일을 나누고, 전문 에이전트가 맡아 하고, 검토 에이전트(분홍)가 확인해요.
❓이게 없으면?
QAI 하나에게 다 맡기면 안 될까?A혼자 쓰고 혼자 검사하면 틀린 줄 모르고 넘어가요. 역할을 나눠 서로 확인해야 실수가 줄어요.
⚙️어떻게 작동할까
1
총괄(지휘) 에이전트가 일을 나눠요.
→
2
전문 에이전트들이 각자 맡은 일을 해요.
→
3
검토 에이전트가 평가하고, 사람이 중요한 지점에서 승인해요.
🏫쉬운 비유: 학교 조별 과제
비유AI
조장↔총괄 에이전트
자료 조사·발표 자료·발표 담당↔전문 에이전트
제출 전에 서로 검토하기↔검토 에이전트
🔢숫자 예시
인물 소개 정확도
66.0% → 73.8%
AI 하나 vs 여러 AI가 토론
종합 지식 시험 (MMLU)
63.9% → 71.1%
토론하면 7%p 넘게 올라요
체스 다음 수 맞히기
29.3% → 45.2%
가장 크게 오른 과제 (Du 외, 2023)
⚠️헷갈리기 쉬운 점
에이전트 하나
혼자 계획하고 혼자 실행해요. 단순한 일에 좋아요.
멀티 에이전트
역할을 나누고 서로 검토해요. 크고 복잡한 일에 좋아요.
사람 (지휘자) 목표 설정 · 승인 · 감독 총괄 에이전트 일 나누기 · 순서 정하기 조사 에이전트 작성 에이전트 편집 에이전트 검토 에이전트 결과 보고 일은 AI 팀이 나눠 하고, 사람은 방향과 승인을 맡아요
멀티 에이전트 시스템의 기본 구조 (강의 슬라이드 9–15쪽 내용을 단순화)
과제AI 혼자여러 AI가 토론
인물 약력 사실 맞히기66.0%73.8%
MMLU (여러 과목 상식 시험)63.9%71.1%
체스 다음 수 맞히기29.3%45.2%

출처: Du et al. (2023), "Improving Factuality and Reasoning in Language Models through Multiagent Debate" (강의 슬라이드 16쪽)

교수님은 앤드루 응(Andrew Ng)의 코딩 시험 결과도 보여 주셨어요. 같은 AI라도 혼자 한 번에 답하게 하면 GPT-3.5는 약 48%, GPT-4는 약 67%를 맞혔어요. 그런데 계획하기·도구 쓰기·스스로 검토하기 같은 에이전트 방식으로 일하게 하면, 더 오래된 GPT-3.5도 90%대까지 올라갔어요. 모델을 바꾸지 않고 일하는 방식만 바꿔도 성적이 크게 오른다는 뜻이에요.

핵심 정리
  • 에이전트는 계획·실행·점검을 스스로 하는 AI 일꾼이에요.
  • 여러 에이전트가 역할을 나누고 서로 검토하면 결과가 더 정확해져요.
  • 사람의 역할은 직접 연주자에서 지휘자로 바뀌어요.

1-2. AI 네이티브 회사의 핵심 원칙

이 장에서 배울 것
처음부터 AI를 중심으로 설계한 회사는 어떻게 일하는지, 수업에서 본 Y Combinator 영상의 핵심 단어로 정리해요.

수업에서는 미국 스타트업 육성 회사 Y Combinator(YC)의 다이애나 후(Diana Hu)가 발표한 "AI 네이티브 회사 만들기(Building An AI Native Company)" 영상을 함께 봤어요. ▶ youtu.be/EN7frwQIbKc

AI 네이티브(AI-Native)는 "태어날 때부터 AI와 함께한"이라는 뜻이에요. 기존 회사에 AI를 덧붙인 게 아니라, 처음부터 AI가 일하는 것을 전제로 조직을 짠 회사예요.

원칙뜻쉬운 예
조회 가능 (Queryable)회사의 모든 일과 기록이 남고, 누구든(특히 AI가) 찾아볼 수 있어야 해요.회의 내용, 고객 문의, 결정 이유가 전부 검색되는 회사
닫힌 고리 (Closed Loop)일한 결과가 다시 다음 일의 입력으로 돌아와서, 시스템이 스스로 나아져요.고객 불만 → AI가 원인 분석 → 매뉴얼 수정 → 같은 불만 감소
사람은 고리 위에 (Human-on-the-loop)사람이 모든 단계를 직접 하지 않고, 위에서 지켜보며 잘되는 것과 안되는 것을 통제해요.공장장이 생산 라인을 일일이 돌리지 않고 상황판을 보며 관리
코드로 된 회사 (Company as Code)업무 규칙과 절차를 AI가 읽고 실행할 수 있는 형태로 적어 둬요."환불은 이렇게 처리한다"가 문서가 아니라 바로 실행되는 절차
스스로 진화 (Self-Evolution)위 원칙이 갖춰지면 조직이 원하는 수준까지 스스로 개선돼요.지난달 실수를 이번 달 AI가 자동으로 반영
① 실행 ② 기록 ③ 분석 ④ 개선 AI가 도는 고리 결과가 다시 입력으로 사람 위에서 감독
닫힌 고리(Closed Loop)와 고리 위의 사람(Human-on-the-loop)
개념 카드

사람은 고리 위에 Human-on-the-loop

💡개념
AI가 일을 하고, 사람은 한 발 물러서서 감독과 최종 판단을 맡는 방식이에요.

"루프(loop)"는 일이 도는 고리예요. 사람이 그 고리 안에 있으면 매 단계를 직접 확인해요. 고리 위에 있으면 전체를 내려다보며 감독해요.

사람이 모든 단계에 끼면 AI가 아무리 빨라도 사람 속도에 맞춰져요. 반대로 사람이 아예 빠지면 사고가 나도 아무도 몰라요.

그래서 AI 네이티브 회사는 결과와 지표를 상황판에 모으고, 사람은 위험한 일만 골라 직접 판단해요.

👀그림으로 먼저 보기
고리 안(in-the-loop)AI 단계사람AI 단계사람AI 단계고리 위(on-the-loop)AI 단계AI 단계AI 단계사람은 상황판으로 전체를 보다가, 이상하면 멈춰요
위: 단계마다 사람이 확인(분홍)해서 느려요. 아래: AI는 쭉 진행하고, 사람은 위에서 감독(초록)해요.
❓이게 없으면?
QAI가 하는 일을 사람이 다 확인해야 할까?A다 확인하면 AI를 쓰는 의미가 없어요. 하나도 안 보면 위험해요. 위에서 감독하는 게 그 중간이에요.
⚙️어떻게 작동할까
1
AI가 정해진 절차대로 일을 해요.
→
2
결과와 지표가 상황판에 모여요.
→
3
사람이 이상한 점을 보면 멈추거나 방향을 바꿔요.
🚗쉬운 비유: 자율주행차의 운전자
비유AI
차가 스스로 달림↔AI가 일을 진행
운전자가 앞을 지켜봄↔사람이 상황판으로 감독
위험하면 운전자가 핸들을 잡음↔사람이 멈추거나 바로잡음
🔢숫자 예시
AI가 쓴 답장 초안
1,000통
고객 메일 전체
사람이 직접 승인
30통
환불·소송처럼 위험한 메일만
사람이 보는 비율
3%
나머지 970통은 AI가 처리해요
⚠️헷갈리기 쉬운 점
고리 안 (in-the-loop)
사람이 매 단계 직접 확인해요. 안전하지만 느려요.
고리 위 (on-the-loop)
사람은 한 단계 뒤에서 감독해요. 빠르고, 위험할 때만 개입해요.

필기에는 "사람이 이제 없어도 됨…"이라고 적혀 있어요. 정확히는 사람이 모든 단계에서 일할 필요가 없어진다는 뜻이에요. 감독하고 책임지는 사람은 여전히 필요해요.

교수님은 이렇게도 말씀하셨어요. "개인의 능력은 AI 덕분에 이미 상향 평준화됐다." 누구나 AI로 일정 수준의 글, 코드, 분석을 할 수 있게 됐어요. 그래서 이제 차이를 만드는 것은 AI를 조직으로 엮어서 부리는 능력이에요.

질문 상자

Q. 그럼 사람의 전문성은 쓸모없어지나요?

A. 아니에요. AI가 낸 결과가 맞는지 판단하고, 무엇을 시킬지 정하려면 그 분야를 아는 사람이 필요해요. 다만 전문성을 쓰는 곳이 '직접 하기'에서 '설계하고 검증하기'로 옮겨 가요.

핵심 정리
  • AI 네이티브 회사는 처음부터 AI가 일하는 것을 전제로 짠 조직이에요.
  • 모든 것이 기록·조회되고(Queryable), 결과가 다시 개선으로 돌아와요(Closed Loop).
  • 사람은 고리 위에서 감독하며 잘되는 것과 안되는 것을 통제해요.

1-3. 이 수업이 목표로 하는 것

이 장에서 배울 것
한 학기 동안 무엇을 배우고, 어떤 사람이 되는 게 목표인지 알아봐요.

교수님(오종훈 교수, KAIST 경영대학 겸직교수·aSSIST AI대학원장)은 수업 목표를 이렇게 정리했어요. (강의 슬라이드 39쪽)

  • AI를 '아는 사람'을 넘어 회사의 AX 리더가 되기. AX는 AI + Transformation(전환), 즉 회사 일하는 방식을 AI 중심으로 바꾸는 일이에요.
  • AI를 '쓰는 사람'이 아니라 딥러닝을 '소유하는 사람(owner)'이 되기
  • 에이전트 AI와 멀티 에이전트 시스템의 핵심 개념을 배워 자기만의 관점과 전략 갖기
  • Codex나 Claude Code 같은 도구로 바이브 코딩(말로 설명하면 AI가 코드를 짜 주는 방식) 체험하기
  • 자기 회사의 AX 프로젝트 기획하기
큰 주제배울 내용
경영자를 위한 딥러닝왜 딥러닝인가 · AI/머신러닝/딥러닝 · 뉴런과 신경망
AI 개발하기AI 프로그래밍 도구 · 딥러닝의 수학 · 실제 딥러닝 구현
최신 AI 기술이미지 AI(CNN) · 자연어 처리와 LLM · ChatGPT 그 이후
비즈니스 AI 전략비즈니스용 AI 개발 · AI 전환 전략 · 나만의 AI 갖기

미리 알면 좋은 것은 미분의 기초(연쇄 법칙 포함)와 평균·표준편차 같은 기초 통계예요. 코딩 경험은 있으면 좋지만 필수는 아니에요. 수업에서는 Python 3, TensorFlow 2, Keras라는 도구를 써요. (강의 슬라이드 42쪽)

핵심 정리
  • 목표는 AI 사용자를 넘어 AX를 이끄는 사람이 되는 거예요.
  • 딥러닝 원리 → 개발 도구 → 최신 기술 → 비즈니스 전략 순서로 배워요.
실무 관점

우리 팀 업무 하나를 골라 이렇게 질문해 보세요. ① 이 일의 기록이 검색 가능한가요? ② 결과가 다음 개선으로 돌아오나요? ③ 사람이 꼭 해야 하는 단계는 어디인가요? 셋 중 하나라도 "아니요"라면 거기가 AX를 시작할 지점이에요.

2부. 지금 AI는 어디까지 왔나

2-1. 세상을 바꾼 기술, 그리고 ChatGPT

이 장에서 배울 것
딥러닝이 증기기관·전기 같은 '세상을 바꾼 기술'에 왜 들어가는지, ChatGPT가 어떻게 배웠는지 알아봐요.

교수님은 세상을 바꾼 기술로 증기기관, 전기, 철도와 자동차, 컴퓨터, 인터넷, 휴대폰을 꼽고, 그 다음에 생성형 AI(딥러닝)를 놓았어요. 이런 기술은 특정 산업 하나가 아니라 모든 산업에 쓰인다는 공통점이 있어요.

시간 성능 기존 기술의 한계 기존 기술 · 다른 머신러닝 딥러닝 우리는 지금 여기! (ChatGPT)
기술 수명 주기: 기존 기술이 한계에 닿을 때 딥러닝이 그 위로 올라서고 있어요 (강의 슬라이드 22쪽)

교수님은 GPT-3와 ChatGPT의 차이를 이렇게 비유했어요. "GPT-3는 인터넷 글만 혼자 읽은 AI이고, ChatGPT는 학교에 가서 교육받은 AI다."

ChatGPT가 받은 교육학교 비유하는 일
지도 학습 (Supervised Learning)선생님이 모범 답안을 보여 줌사람이 쓴 좋은 답 예시를 따라 배워요
강화 학습 (Reinforcement Learning)친구·사회 경험으로 배우기사람이 더 좋다고 고른 답에 점수를 주며 다듬어요
생성 모델 (Generative Model)창의력 기르기없던 글을 새로 만들어 내요
대화 최적화말하는 법 배우기질문에 맞게 주고받는 대화를 잘하도록 맞춰요
핵심 정리
  • 딥러닝(생성형 AI)은 전기처럼 모든 산업에 쓰이는 기술이에요.
  • ChatGPT는 인터넷 글 학습 위에 '모범 답안'과 '점수 주기' 교육을 더한 AI예요.

2-2. 최근의 돌파구: MoE, CoT, 그리고 DeepSeek

이 장에서 배울 것
필기에 적힌 MoE와 CoT가 무엇인지, 중국 AI DeepSeek가 왜 화제가 됐는지 알아봐요.

교수님은 2024년을 "AI가 이렇게 빨리 발전한 적이 없던 해"라고 했어요. 생각하는 AI(OpenAI o1·o3), 글·그림·소리를 함께 다루는 AI(Gemini 2.0), 상업용 로봇(테슬라 Optimus), 애플과 ChatGPT의 제휴 같은 일이 한꺼번에 일어났어요. 기술적으로는 두 가지가 핵심이었어요.

개념 카드

전문가 혼합 MoE · Mixture of Experts

💡개념
AI 안을 여러 '전문가' 부분으로 나누고, 질문마다 필요한 전문가 몇 명만 불러 쓰는 구조예요.

"믹스처(Mixture)"는 섞음, "엑스퍼트(Experts)"는 전문가들이에요. 여러 전문가를 섞어 쓴다는 뜻이에요.

AI는 클수록 똑똑해요. 하지만 질문 하나마다 거대한 AI 전체를 다 돌리면 전기와 시간이 엄청나게 들어요.

MoE는 라우터(안내 데스크)가 질문을 보고 맞는 전문가만 불러요. 그래서 크기는 크게 유지하면서 계산은 적게 해요. DeepSeek이 비용을 줄인 핵심 방법 중 하나예요.

👀그림으로 먼저 보기
질문라우터안내 데스크전문가1전문가2전문가3전문가4전문가5전문가6전문가7전문가8질문마다 맞는 전문가 몇 명만 골라 계산해요 (분홍)
전문가가 8명 있어도, 이 질문에는 2명(분홍)만 일해요. 나머지는 쉬어요.
❓이게 없으면?
Q큰 AI를 싸게 쓸 수는 없을까?A질문마다 AI 전체를 돌리면 비용이 너무 커요. 필요한 부분만 쓰면 큰 AI도 싸게 돌릴 수 있어요.
⚙️어떻게 작동할까
1
질문이 오면 라우터(안내 데스크)가 질문을 봐요.
→
2
이 질문에 맞는 전문가 몇 명만 골라요.
→
3
뽑힌 전문가들만 계산해서 답을 합쳐요.
🏥쉬운 비유: 큰 종합병원
비유AI
병원 안내 데스크↔라우터
의사 수백 명↔전문가 부분 전체
배 아픈 환자는 내과 의사 한두 명만 만남↔질문마다 일부 전문가만 계산
🔢숫자 예시
DeepSeek-R1 전체 숫자(파라미터)
6,710억 개
AI가 가진 전체 크기
한 번에 쓰는 숫자
약 370억 개
질문마다 실제로 일하는 부분
일하는 비율
약 5.5%
370억 ÷ 6,710억
⚠️헷갈리기 쉬운 점
보통(밀집) 모델
질문마다 숫자 전체를 다 계산해요. 비싸요.
MoE 모델
일부 전문가만 계산해요. 싸요. 다만 전체 전문가는 메모리에 다 올려 둬야 해요.
질문 안내 데스크 전문가 1 전문가 2 ✓ 전문가 3 전문가 4 ✓ … 답
MoE: 질문마다 필요한 전문가만 골라 일을 시켜요
개념 카드

생각의 사슬 CoT · Chain of Thought

💡개념
AI가 답을 바로 내지 않고, 풀이 과정을 한 단계씩 써 가며 생각하게 하는 방법이에요.

"체인(Chain)"은 사슬, "소트(Thought)"는 생각이에요. 생각을 사슬처럼 하나씩 이어 간다는 뜻이에요.

어려운 문제를 한 번에 답하면 사람도 AI도 잘 틀려요. 중간 단계를 적으면 실수가 줄고, 어디서 틀렸는지도 보여요.

DeepSeek-R1은 강화학습(잘하면 점수를 주며 배우게 하는 방법)으로 이런 단계별 생각을 스스로 익혔어요.

👀그림으로 먼저 보기
바로 답생각의 사슬문제답: 찍기?문제3×4=1212−2=10답 10문제: 사과 3개 묶음이 4개, 2개를 먹으면 몇 개 남을까요?
위: 바로 답하면 찍기가 돼요. 아래: 단계를 이어 가면 답(초록)까지 확실하게 가요.
❓이게 없으면?
QAI가 어려운 문제에서 자꾸 틀리면?A중간 과정 없이 답만 내서 그래요. 풀이를 적게 하면 정확도가 올라가요.
⚙️어떻게 작동할까
1
문제를 작은 단계로 나눠요.
→
2
각 단계를 차례로 풀며 중간 결과를 적어요.
→
3
중간 결과를 이어서 최종 답을 내요.
✏️쉬운 비유: "풀이 과정을 쓰시오"
비유AI
시험지에 풀이 과정 쓰기↔AI가 생각 단계를 글로 적기
중간 계산 확인↔중간 결과 점검
채점자가 틀린 곳을 찾음↔어느 단계에서 틀렸는지 보임
🔢숫자 예시
1단계
12개
3개 묶음 × 4 = 12
2단계
10개
12 − 2 = 10
최종 답
10개
단계를 이으니 확실해요
⚠️헷갈리기 쉬운 점
MoE = 구조
AI의 어느 부분을 쓸지 정하는 설계예요.
CoT = 생각하는 방식
AI가 문제를 어떻게 풀지에 관한 방법이에요.

DeepSeek 충격 (2025년 1월)

중국 회사 DeepSeek가 내놓은 DeepSeek-R1은 미국 최고 수준 AI와 비슷한 추론 실력을 보이면서도 훨씬 적은 비용으로 만들었다고 발표했어요. 이 소식에 엔비디아 주가가 하루 만에 크게 떨어졌어요. 교수님은 이를 "중국 AI의 침공"이라고 소개했어요. (강의 슬라이드 31–34쪽)

DeepSeek가 내세운 점쉬운 설명
상대적으로 작은 크기본 모델 6,710억 파라미터. 15억~700억 크기의 작은 버전도 공개
구형·저사양 GPU 사용미국 수출 규제로 성능을 낮춘 H800 칩으로 학습
MoE 구조필요한 전문가만 써서 계산 절약
강화 학습으로 CoT 익히기정답을 맞히면 점수를 주는 방식만으로 스스로 단계별 추론을 익힘 (R1-Zero)
콜드 스타트정답 예시를 아주 조금만 먼저 보여 주고 바로 강화 학습 시작
증류 (Distillation)큰 모델의 풀이 방식을 작은 모델에게 가르쳐 작은 모델도 똑똑하게
학습 비용 약 1/10경쟁 모델보다 훨씬 싸게 만들었다고 주장
질문 상자

Q. DeepSeek는 정말 그렇게 싸게 만들었나요?

A. 흔히 말하는 "약 560만 달러"는 바탕이 된 DeepSeek-V3 모델의 마지막 학습 단계에 든 GPU 사용료예요. 그 전의 연구, 실험, 장비 구입 비용은 빠져 있어요. 그래서 전체 개발비는 이보다 훨씬 많을 것이라는 분석이 많아요. 정확한 총비용은 확인이 필요해요.

핵심 정리
  • MoE는 필요한 전문가만 불러 써서 큰 AI를 싸게 돌리는 구조예요.
  • CoT는 풀이 과정을 단계별로 쓰며 생각하게 하는 방법이에요.
  • DeepSeek-R1은 두 기술로 '적은 비용, 높은 추론 실력'을 보여 줬어요.

2-3. 1인 1AI 시대

이 장에서 배울 것
모든 사람이 자기만의 AI를 갖게 된다는 말이 무슨 뜻인지 알아봐요.

교수님의 예측은 이거예요. "모든 사람이 각자에게 특화된 AI를 하나 이상 소유하는 시대가 온다."

이 말이 낯설게 들릴 수 있어요. 1977년 컴퓨터 회사 DEC의 창업자 켄 올슨(Ken Olsen)은 "집에 컴퓨터를 둘 이유가 없다"고 말했어요. 지금은 모두 주머니에 컴퓨터(스마트폰)를 들고 다니죠. AI도 같은 길을 갈 거라는 뜻이에요.

실제로 지금도 코딩 없이 5분이면 나만의 AI를 만들 수 있어요. OpenAI의 GPTs(맞춤형 GPT) 기능이 그 예예요.

  • 직원 교육: 업무 매뉴얼을 대신하는 AI
  • 자녀 교육: 아이 수준에 맞춘 공부 도우미
  • 고객 응대: 우리 회사 상품만 아는 상담 챗봇

AI가 엉뚱한 답을 하면 "내 AI 고치기"도 할 수 있어요. 지시문을 다듬고, 참고 자료를 넣어 주면 돼요.

참고 자료를 찾아 보고 답하게 하는 방식을 RAG(Retrieval 검색 + Augmented 보강된 + Generation 생성)라고 불러요. (강의 슬라이드 35–37쪽)

핵심 정리
  • 개인용 컴퓨터처럼, 개인용 AI도 곧 당연해져요.
  • GPTs처럼 코딩 없이 나만의 AI를 만드는 도구가 이미 있어요.
실무 관점

내가 자주 받는 질문 10개와 그 답을 모아 맞춤형 GPT 하나를 만들어 보세요. 신입 교육이나 반복 문의 응대에 바로 쓸 수 있어요. 비용 면에서는 DeepSeek처럼 "작고 싼 모델로 충분한 일"과 "최고 모델이 필요한 일"을 나누는 것이 AI 예산을 아끼는 첫걸음이에요.

3부. AI, 머신러닝, 딥러닝은 무엇이 다를까

3-1. 세 단어의 관계

이 장에서 배울 것
AI, 머신러닝, 딥러닝이 서로 어떻게 포함되는지 알아봐요.

세 단어는 '큰 상자 안의 작은 상자' 관계예요. AI가 가장 크고, 그 안에 머신러닝이, 그 안에 딥러닝이 있어요.

인공지능 (AI) 사람처럼 행동하는 모든 프로그램 (예: 규칙 기반 전문가 시스템) 머신러닝 (ML) 데이터에서 배우는 프로그램 딥러닝 (DL) 깊은 신경망으로 배움
AI ⊃ 머신러닝 ⊃ 딥러닝 (강의 슬라이드 46쪽)
이름뜻예
인공지능 (AI)사람의 행동을 흉내 내는 컴퓨터 프로그램 전체. 사람이 규칙을 직접 넣은 것도 포함해요."열이 38도 넘고 기침하면 독감 의심"처럼 규칙을 넣은 진단 프로그램
머신러닝 (ML)사람이 규칙을 일일이 넣지 않아도 데이터를 보고 스스로 배우는 프로그램. 주로 통계를 바탕으로 해요.지난 메일 10만 통을 보고 스팸 고르는 법을 배우는 필터
딥러닝 (DL)사람 뇌의 신경망을 본떠 만든 머신러닝. 층을 깊게 쌓아 데이터로 스스로 규칙을 터득해요.사진 속 고양이 알아보기, ChatGPT, 알파고
개념 카드

전문가 시스템 Expert System

💡개념
전문가의 지식을 "이럴 때는 이렇게 한다"는 규칙으로 바꿔 컴퓨터에 넣은 AI예요.

1970~80년대에 유행한 AI예요. 의사나 기술자 같은 전문가를 인터뷰해서, 그 판단 방법을 규칙으로 옮겼어요.

규칙이 맞는 상황에서는 꽤 잘 작동했어요. 하지만 규칙에 없는 상황이 오면 아무것도 못 해요. 세상의 모든 경우를 규칙으로 적기는 불가능했어요.

그래서 사람이 규칙을 쓰는 대신, 데이터에서 규칙을 스스로 배우는 머신러닝이 나왔어요.

👀그림으로 먼저 보기
전문가인터뷰규칙 모음만약 A이면 B새 상황맞는규칙?있으면 → 답없으면 → 멈춤
맞는 규칙이 있으면 답을 내고, 없으면 멈춰요. 이것이 전문가 시스템의 한계예요.
❓이게 없으면?
Q전문가가 없는 곳에서도 전문가처럼 판단할 수 있을까?A전문가는 늘 곁에 있을 수 없어요. 그 판단 방식을 프로그램으로 옮겨 두려고 만들었어요.
⚙️어떻게 작동할까
1
전문가를 인터뷰해 규칙을 모아요.
→
2
"만약 A이면 B" 형태로 프로그램에 넣어요.
→
3
새 상황이 오면 맞는 규칙을 찾아 답을 내요.
📘쉬운 비유: 업무 매뉴얼대로만 하는 신입 사원
비유AI
두꺼운 업무 매뉴얼↔규칙 모음
매뉴얼을 찾아 그대로 따름↔맞는 규칙으로 답하기
매뉴얼에 없으면 멈춤↔규칙 밖 상황에 약함
🔢숫자 예시
MYCIN이 만들어진 때
1970년대
감염병 진단과 항생제 추천 프로그램
사람이 넣은 규칙
수백 개
의사의 지식을 옮겼어요
스스로 배운 규칙
0개
새 규칙은 사람이 직접 써야 해요
⚠️헷갈리기 쉬운 점
전문가 시스템
사람이 규칙을 써요. AI이지만 머신러닝은 아니에요.
머신러닝
데이터를 보고 규칙을 스스로 배워요.

필기에 "머신러닝은 최근까지도 잘 썼다"고 적혀 있어요. 맞아요. 딥러닝이 아닌 머신러닝(통계 모델)은 지금도 은행 신용 평가, 수요 예측처럼 데이터가 표로 정리된 곳에서 많이 쓰여요.

질문 상자

Q. 딥러닝은 사람의 뇌를 본떴다는데, 사람의 뇌와 똑같나요?

A. 아니에요. '신호를 받아 합치고, 일정 크기를 넘으면 다음으로 보낸다'는 아이디어만 빌려 왔어요. 실제 뇌는 화학 신호, 복잡한 연결, 적은 에너지 사용 등 훨씬 복잡해요. 딥러닝은 뇌에서 영감을 받은 수학 모델이라고 보면 돼요.

핵심 정리
  • AI ⊃ 머신러닝 ⊃ 딥러닝, 큰 상자 안의 작은 상자 관계예요.
  • 머신러닝은 데이터에서 스스로 배우고, 딥러닝은 그중 깊은 신경망을 쓰는 방법이에요.

3-2. 기존 프로그래밍과 머신러닝의 차이

이 장에서 배울 것
머신러닝이 기존 프로그램과 근본적으로 무엇이 다른지 그림 한 장으로 이해해요.
기존 프로그래밍 규칙 데이터 기존 프로그램 답 머신러닝 데이터 답(정답) 머신러닝 규칙
넣는 것과 나오는 것이 뒤바뀌어요 (강의 슬라이드 54쪽)

기존 프로그램은 사람이 규칙을 짜서 넣으면, 데이터를 받아 답을 내요.

머신러닝은 반대예요. 데이터와 정답을 같이 넣으면, 시스템이 그 사이의 규칙을 스스로 만들어 내요.

비유

기존 프로그래밍은 요리책을 주고 "이대로 만들어"라고 하는 것이에요. 머신러닝은 완성된 요리 사진 1,000장과 재료를 보여 주고 "요리법을 알아내 봐"라고 하는 것이에요.

예를 들어 스팸 메일 필터를 만든다고 해 봐요. 기존 방식은 "'무료', '당첨'이 들어가면 스팸"이라는 규칙을 사람이 계속 추가해야 해요. 머신러닝은 "이 메일은 스팸, 저 메일은 정상"이라고 표시된 메일 수만 통을 보고, 스팸을 가르는 규칙을 스스로 찾아요.

핵심 정리
  • 기존 프로그램: 규칙 + 데이터 → 답
  • 머신러닝: 데이터 + 답 → 규칙

3-3. 나의 첫 딥러닝: 구글 티처블 머신

이 장에서 배울 것
코딩 없이 딥러닝을 직접 만들어 보는 도구를 알아봐요.

"딥러닝 프로그래밍은 어려울까?" 교수님의 답은 "일단 해 보자(Just Do It!)"였어요. 수업에서는 구글의 티처블 머신(Teachable Machine)으로 첫 딥러닝을 만들었어요. 주소는 teachablemachine.withgoogle.com 이에요.

  1. 데이터 모으기: 노트북 카메라로 "손바닥", "주먹" 같은 사진을 종류별로 수십 장 찍어요.
  2. 학습시키기: '학습' 버튼을 누르면 AI가 사진들의 차이를 스스로 배워요. 안에서는 사진에 강한 CNN(합성곱 신경망)이 쓰여요.
  3. 써 보기: 카메라에 손을 비추면 AI가 "주먹 95%"처럼 맞혀요.
  4. 내보내기: 만든 모델을 코드나 웹사이트로 내보내 다른 곳에서 쓸 수 있어요.

이 과정이 바로 3-2장의 "데이터 + 답 → 규칙"이에요. 사진(데이터)과 이름표(답)를 주니, AI가 구분하는 규칙을 만들어 냈어요.

핵심 정리
  • 티처블 머신으로 코딩 없이 이미지·소리·자세 인식 AI를 만들 수 있어요.
  • 데이터 모으기 → 학습 → 사용 → 내보내기가 딥러닝 개발의 기본 흐름이에요.
실무 관점

회사에서 "AI 도입"을 말할 때, 규칙으로 충분한 일인지(전문가 시스템·자동화), 데이터에서 배워야 하는 일인지(머신러닝), 사진·글·소리처럼 복잡한 데이터를 다루는 일인지(딥러닝) 먼저 나눠 보세요. 셋은 필요한 데이터와 비용이 크게 달라요.

4부. 딥러닝의 역사: 80년의 긴 여정

4-1. 한눈에 보는 역사

이 장에서 배울 것
딥러닝이 처음 등장해서 겨울을 지나 다시 주인공이 되기까지의 큰 흐름을 봐요.
신경망의 겨울 (SVM 등이 주류) 1943뉴런 모델 1958퍼셉트론 1969한계 지적 1986역전파 1989LeNet 2009이미지넷 2012AlexNet 2016알파고 2022·24ChatGPT·노벨상
딥러닝 주요 사건 연표
핵심 정리
  • 신경망 아이디어는 80년 전(1943년)부터 있었어요.
  • 컴퓨터와 데이터가 부족해 오래 겨울을 겪다가 2012년에 폭발했어요.

4-2. 뉴런 하나로 계산하기: 퍼셉트론

이 장에서 배울 것
최초의 인공 뉴런과 퍼셉트론이 무엇이고, 왜 한계가 있었는지 알아봐요.

1943년, 신경과학자 워런 매컬럭(Warren McCulloch)과 논리학자 월터 피츠(Walter Pitts)가 뇌의 신경세포(뉴런)를 수학으로 흉내 낸 모델을 처음 발표했어요. 필기의 "맥클록과 핏즈 교수님?"이 이 두 사람이에요.

1958년, 심리학자 프랭크 로젠블랫(Frank Rosenblatt)이 이 모델을 바탕으로 퍼셉트론(Perceptron)을 만들었어요. 데이터를 보고 스스로 배우는 최초의 인공 신경망이에요.

개념 카드

퍼셉트론 Perceptron

💡개념
여러 입력에 각각 중요도를 곱해 더하고, 합이 기준을 넘으면 1, 아니면 0을 내는 인공 뉴런이에요.

1943년 매컬럭과 피츠가 뇌의 신경세포(뉴런)를 계산으로 흉내 내는 모형을 만들었어요. 1958년 로젠블랫이 이를 바탕으로 배울 수 있는 퍼셉트론을 내놓았어요.

입력마다 곱하는 숫자를 가중치라고 해요. "이 정보가 얼마나 중요한가"를 나타내요.

퍼셉트론은 틀릴 때마다 가중치를 조금씩 고쳐요. 사람이 규칙을 쓰지 않아도 예시만 보고 판단 기준을 배우는 거예요. 오늘날 딥러닝의 가장 작은 부품이에요.

👀그림으로 먼저 보기
날씨 좋음 = 1×3친구 감 = 1×2숙제 있음 = 0×1더하기합 = 5기준 4보다큰가요?간다출력 1
입력 × 가중치를 모두 더해(3 + 2 + 0 = 5) 기준 4와 비교해요. 5가 더 크니 "간다(1)".
❓이게 없으면?
Q사람이 규칙을 일일이 안 써도 기계가 판단할 수 있을까?A예시를 보고 중요도(가중치)를 스스로 조절하면 돼요. 퍼셉트론이 그 첫 시도예요.
⚙️어떻게 작동할까
1
입력마다 가중치(중요도 숫자)를 곱해요.
→
2
모두 더해서 기준값과 비교해요.
→
3
틀리면 가중치를 조금씩 고치며 배워요.
🧺쉬운 비유: "오늘 소풍 갈까?" 정하기
비유AI
날씨·친구·숙제↔입력
날씨가 제일 중요(3점)↔가중치
점수 합이 4점을 넘으면 감↔기준값과 비교해 출력
🔢숫자 예시
입력 × 가중치
3 + 2 + 0
1×3, 1×2, 0×1
합계
5
기준 4와 비교
출력
1 (간다)
5 > 4 이므로
⚠️헷갈리기 쉬운 점
퍼셉트론 (층 1개)
직선 하나로만 나눌 수 있어요. 그래서 XOR 같은 문제를 못 풀어요.
다층 신경망
층을 여러 개 쌓아 구불구불한 경계도 만들어요. 딥러닝의 시작이에요.
날씨 친구 숙제 더하기 Σ기준 넘나? 1 또는 0 ×3×2×1
퍼셉트론: 입력 × 중요도(가중치)를 더해 기준과 비교해요

퍼셉트론의 한계: 직선 하나로만 나눌 수 있어요

퍼셉트론 하나는 데이터를 직선 하나로 가를 수 있는 문제(선형 문제)만 풀 수 있어요.

1969년 마빈 민스키(Marvin Minsky)와 시모어 페퍼트(Seymour Papert)가 이 한계를 수학적으로 보여 주면서 신경망 연구는 한동안 힘을 잃었어요.

AND 문제: 직선 하나로 나뉨 ✓ ✕ XOR 문제: 직선 하나로 불가능 ✕
파란 점과 분홍 점을 직선 하나로 가를 수 있으면 선형 문제예요
질문 상자

Q. 퍼셉트론은 선형 문제밖에 못 푼다는데, 그럼 어떻게 해결했나요?

A. 퍼셉트론을 여러 층으로 쌓으면 돼요. 첫 층이 직선 여러 개를 긋고, 다음 층이 그 결과를 합치면 구부러진 경계도 만들 수 있어요. XOR도 층을 하나만 더하면 풀려요. 문제는 여러 층을 '어떻게 학습시키느냐'였는데, 그 답이 다음 장의 역전파예요.

핵심 정리
  • 1943년 매컬럭·피츠의 뉴런 모델 → 1958년 로젠블랫의 퍼셉트론
  • 퍼셉트론 하나는 직선으로 나뉘는 문제만 풀 수 있어요.
  • 층을 쌓으면 복잡한(비선형) 문제도 풀 수 있어요.

4-3. 여러 층 쌓기와 역전파, 그리고 긴 겨울

이 장에서 배울 것
여러 층 신경망을 학습시키는 방법(역전파)과, 그 뒤 신경망이 왜 다시 외면받았는지 알아봐요.
개념 카드

역전파 Backpropagation

💡개념
신경망이 낸 답의 오차를 뒤에서 앞으로 거꾸로 전달하며, 각 층의 가중치를 얼마나 고칠지 계산하는 학습 방법이에요.

"백(Back)"은 뒤로, "프로퍼게이션(Propagation)"은 퍼뜨리기예요. 오차를 뒤로 퍼뜨린다는 뜻이에요.

층이 하나면 어디를 고칠지 쉬워요. 층이 여러 개면 틀렸을 때 어느 층의 어느 숫자 탓인지 알기 어려워요. 역전파는 그 책임을 층마다 나눠서 계산해요.

1970~80년대에 폴 워보스, 데이비드 러멜하트 등이 다층 신경망을 학습시키는 방법으로 발전시켰어요. 지금도 거의 모든 딥러닝이 이 방법으로 배워요.

👀그림으로 먼저 보기
입력고양이 사진층 1층 2출력고양이 30%정답고양이① 앞으로: 입력 → 답② 거꾸로: 오차를 뒤로 보내며 층마다 "네 책임은 이만큼"
파란 화살표로 답을 내고, 정답과 비교한 오차를 분홍 화살표로 거꾸로 보내 고쳐요.
❓이게 없으면?
Q층이 많은 신경망은 틀렸을 때 어디를 고쳐야 할까?A고칠 곳을 모르면 배울 수가 없어요. 역전파가 층마다 고칠 양을 알려 줘요.
⚙️어떻게 작동할까
1
입력을 앞으로 보내 답을 내요.
→
2
정답과 비교해 오차를 구해요.
→
3
오차를 뒤로 보내며 층마다 가중치를 고쳐요.
🏫쉬운 비유: 조별 과제 점수가 낮을 때
비유AI
낮게 나온 점수↔오차
발표 → 자료 정리 → 조사 순으로 되짚기↔출력층부터 거꾸로 전달
각자 고칠 부분 찾기↔층마다 가중치 수정
🔢숫자 예시
신경망의 답
고양이 30%
고양이 사진을 넣었어요 (예시 숫자)
정답
고양이 100%
실제로 고양이예요
오차
70%p
이만큼을 거꾸로 보내 고쳐요
⚠️헷갈리기 쉬운 점
순전파 (앞으로)
입력에서 출력으로 계산해 답을 내요.
역전파 (거꾸로)
오차를 출력에서 입력 쪽으로 보내며 가중치를 고쳐요.

역전파 아이디어는 1974년 폴 워보스(Paul Werbos)가 박사 논문에서 처음 제안했어요. 1986년 데이비드 럼멜하트(David Rumelhart), 제프리 힌턴(Geoffrey Hinton), 로널드 윌리엄스(Ronald Williams)가 이를 널리 알렸고, 럼멜하트와 제임스 맥클렐런드(James McClelland)의 연구 모임이 여러 층 신경망 연구를 크게 키웠어요.

1989년 무렵에는 얀 르쿤(Yann LeCun)이 손글씨 숫자를 알아보는 깊은 신경망 LeNet을 만들었어요.

미국 은행에서 수표 숫자를 읽는 데 실제로 쓰였어요. 사진을 작은 조각으로 훑어 특징을 찾는 CNN의 시작이에요.

신경망의 겨울

하지만 1990~2000년대에는 신경망이 다시 외면받았어요. 이유는 세 가지예요.

  • 층을 깊게 쌓으면 학습이 잘 안 됐어요.
  • 데이터가 부족했고, 컴퓨터가 너무 느리고 비쌌어요.
  • 그 사이 SVM(서포트 벡터 머신) 같은 다른 머신러닝 방법이 더 안정적이고 성적도 좋았어요.
핵심 정리
  • 역전파는 오차를 거꾸로 보내 여러 층을 학습시키는 방법이에요.
  • LeNet(1989)은 실제로 쓰인 첫 깊은 신경망이에요.
  • 데이터·컴퓨터 부족과 SVM의 인기로 신경망은 오래 겨울을 맞았어요.

4-4. 2012년의 폭발: 이미지넷과 GPU

이 장에서 배울 것
딥러닝이 2012년에 갑자기 주인공이 된 이유와, 그 공로로 받은 노벨상 이야기를 알아봐요.

스탠퍼드의 페이페이 리(Fei-Fei Li) 교수는 "AI가 배우려면 데이터가 많아야 한다"고 생각했어요.

그래서 1,400만 장이 넘는 사진에 이름표를 붙인 거대한 사진 모음 이미지넷(ImageNet)을 만들었어요(2009년 발표). 2010년부터는 이 사진을 누가 더 잘 맞히는지 겨루는 대회가 열렸어요.

2012년 대회에서 힌턴 교수의 제자 알렉스 크리제브스키(Alex Krizhevsky)와 일리야 수츠케버(Ilya Sutskever)가 깊은 CNN인 AlexNet을 들고 나왔어요. 코딩을 잘하던 두 사람은 원래 게임용인 엔비디아(NVIDIA) GPU로 신경망을 학습시켰어요.

2012 이미지넷 대회오답률 (상위 5개 안에 정답이 없을 비율)
2등 (기존 방식)약 26%
AlexNet (딥러닝)약 15%

한 번에 오답률을 10%포인트 넘게 줄인 압도적인 차이였어요. 이후 이런 깊은 신경망 학습을 딥러닝이라고 부르는 것이 널리 퍼졌고, 힌턴은 '딥러닝의 대부'로 불리게 됐어요.

2024년에는 존 홉필드(John Hopfield)와 제프리 힌턴이 "인공 신경망으로 머신러닝을 가능하게 한 기초 발견과 발명"으로 노벨 물리학상을 받았어요. 일리야 수츠케버는 나중에 OpenAI를 공동 창업해 ChatGPT 개발을 이끌었어요.

비유

좋은 요리사(알고리즘)는 예전부터 있었어요. 하지만 재료(데이터: 이미지넷)와 큰 주방(계산 장비: GPU)이 없었어요. 2012년에 셋이 처음으로 한자리에 모인 거예요.

핵심 정리
  • 이미지넷(데이터) + GPU(계산) + 깊은 신경망(알고리즘)이 2012년에 만났어요.
  • AlexNet이 기존 방식을 크게 이기며 딥러닝 시대가 열렸어요.
  • 2024년 홉필드와 힌턴이 신경망 연구로 노벨 물리학상을 받았어요.
실무 관점

딥러닝의 역사는 "좋은 아이디어도 데이터와 장비가 갖춰져야 꽃핀다"는 교훈을 줘요. 회사에서 AI 프로젝트를 할 때도 알고리즘보다 먼저 쓸 수 있는 데이터가 쌓여 있는지, 계산 자원(클라우드·GPU) 예산이 있는지를 확인하세요.

5부. 왜 딥러닝인가: 만능 함수 근사기

5-1. 만능 함수 근사기

이 장에서 배울 것
딥러닝이 '어떤 문제에도' 쓰일 수 있는 이유를 한 개념으로 이해해요.
개념 카드

만능 함수 근사기 Universal Function Approximator

💡개념
신경망은 뉴런만 충분하면 거의 모든 입력→출력 관계(함수)를 비슷하게 흉내 낼 수 있어요.

"함수"는 무언가를 넣으면 무언가가 나오는 관계예요. "사진을 넣으면 → 고양이일 확률이 나온다"도 함수예요.

현실의 관계는 대부분 직선이 아니라 구불구불해요. 사람이 그 식을 직접 찾기는 거의 불가능해요.

신경망은 작은 조각(뉴런)을 많이 겹쳐서 어떤 곡선이든 따라 그려요.

1989년 조지 시벤코 등이 이것을 수학으로 증명했어요. 이것이 딥러닝이 여러 분야에서 쓰이는 이유예요.

👀그림으로 먼저 보기
입력출력분홍: 배우고 싶은 진짜 관계파랑: 뉴런 조각 10개로 흉내
조각이 많아질수록 파란 막대가 분홍 곡선에 점점 더 딱 맞아요.
❓이게 없으면?
Q구불구불한 현실의 관계를 식으로 쓸 수 있을까?A사람이 식을 찾기는 거의 불가능해요. 신경망은 데이터를 보고 그 관계를 스스로 흉내 내요.
⚙️어떻게 작동할까
1
뉴런 하나하나가 작은 계단·언덕 모양을 만들어요.
→
2
이런 조각을 많이 겹쳐 더해요.
→
3
조각이 많을수록 원래 곡선과 거의 똑같아져요.
🧱쉬운 비유: 레고 블록
비유AI
작은 네모 블록↔뉴런 하나
블록을 많이 쌓기↔뉴런을 많이 겹치기
둥근 공 모양 완성↔구불구불한 함수 흉내
🔢숫자 예시
사진 → ?
고양이 확률
이미지 분류도 함수예요
문장 → ?
다음 단어
ChatGPT가 배우는 함수예요
아미노산 배열 → ?
단백질 모양
알파폴드가 배운 함수예요
⚠️헷갈리기 쉬운 점
흉내 낼 수 있다
충분히 크면 어떤 함수든 표현할 수 있다는 뜻이에요.
쉽게 배운다 (아님)
실제로 배우려면 많은 데이터와 계산이 필요해요.

필기처럼 이 생각 자체는 오래전부터 있었어요. 하지만 그만큼 큰 신경망을 돌릴 컴퓨터가 없었고 너무 비쌌어요. 이제 그게 가능해지면서 어떤 응용 분야에도 쓸 수 있게 됐어요.

핵심 정리
  • 신경망은 거의 모든 비선형 관계를 흉내 낼 수 있는 만능 도구예요.
  • 예전엔 계산 장비가 비싸서 못 했고, 이제는 할 수 있게 됐어요.

5-2. 딥러닝은 어디서나 이긴다

이 장에서 배울 것
딥러닝이 바둑, 단백질, 음성, 그림에서 거둔 성과를 봐요.

알파고 (2016)

구글 딥마인드의 알파고(AlphaGo)는 2016년 이세돌 9단을 4대 1로 이겼어요. 바둑판을 사진처럼 보고 다음 수를 고르는 깊은 신경망을 썼어요. 처음 알파고는 사람 기보를 보고 배웠고(지도 학습), 후속작 알파고 제로는 사람 기보 없이 혼자 대국하며 배웠어요(강화 학습).

알파폴드: 50년 묵은 난제를 풀다

단백질은 아미노산이 줄줄이 이어진 사슬이 복잡하게 접혀서 만들어진 모양이에요. 이 모양을 알아야 약을 설계할 수 있어요. 하지만 순서만 보고 모양을 맞히는 일은 50년 가까이 풀리지 않은 문제였어요.

단백질 모양 맞히기 대회 CASP에서 딥마인드의 알파폴드(AlphaFold)는 2018년(CASP13) 1위를 했고, 2020년(CASP14)에는 실험으로 측정한 것과 거의 같은 수준까지 맞혔어요. 대회 공동 창립자 존 몰트(John Moult)는 "이건 엄청난 일"이라고 했어요.

이 공로로 딥마인드의 데미스 허사비스(Demis Hassabis)와 존 점퍼(John Jumper)는 2024년 노벨 화학상을 받았어요.

필기의 "인류의 학문 역사 최초로 비선형 문제를 제대로 풀 수 있게 되었다"는 말이 이런 뜻이에요. 사람이 식을 못 찾던 복잡한 관계를 딥러닝이 데이터로 배워서 풀어낸 거예요.

음성 인식과 그림 그리기

  • 음성 인식: 2016년 마이크로소프트는 전화 대화 받아쓰기에서 사람 전문 속기사 수준의 정확도에 도달했다고 발표했어요.
  • 그림 생성: OpenAI의 DALL·E는 "우주복 입은 곰"처럼 글로 설명하면 그림을 그려 줘요.
핵심 정리
  • 바둑(알파고), 과학(알파폴드), 음성, 그림까지 딥러닝이 사람 수준을 넘었어요.
  • 알파폴드는 단백질 구조 예측을 풀어 2024년 노벨 화학상으로 이어졌어요.

5-3. 왜 지금인가: 데이터, 알고리즘, 하드웨어

이 장에서 배울 것
딥러닝이 지금 이기고 있는 세 가지 이유를 알아봐요.
딥러닝의 승리 빅데이터 인터넷·스마트폰으로데이터가 폭발 알고리즘·도구 TensorFlow, PyTorch,Keras 등 무료 도구 하드웨어 GPU·TPU로병렬 계산
딥러닝이 이기는 세 가지 이유 (강의 슬라이드 75쪽)
개념 카드

그래픽 처리 장치와 병렬 계산 GPU · Graphics Processing Unit

💡개념
단순한 계산을 수천 개씩 동시에 처리하도록 만든 칩이에요.

GPU는 원래 게임 그래픽을 그리려고 만든 칩이에요. 화면의 점(픽셀) 수백만 개를 동시에 계산해야 했거든요.

딥러닝도 곱하기와 더하기를 수십억 번 해요. 계산 하나하나는 단순하지만 양이 엄청나요. 그래서 동시에 많이 계산하는 GPU가 딱 맞았어요. 이렇게 동시에 나눠 계산하는 것을 병렬 계산이라고 해요.

필기의 "조그만 CPU가 엄청 많이 있다"가 바로 이 뜻이에요. 큰 데이터, 좋은 알고리즘과 함께 GPU가 딥러닝이 이긴 이유 세 가지 중 하나예요.

👀그림으로 먼저 보기
CPU큰 코어큰 코어큰 코어큰 코어GPU복잡한 일을 차례대로단순한 계산 수천 개를 동시에
CPU는 똑똑한 일꾼 몇 명, GPU는 단순한 일꾼 아주 많이. (그림의 칸 수는 느낌만 보여 줘요.)
❓이게 없으면?
Q딥러닝 계산을 보통 컴퓨터로 하면?A하나씩 차례로 계산해서 너무 오래 걸려요. 동시에 수천 개를 계산해야 현실적인 시간 안에 끝나요.
⚙️어떻게 작동할까
1
큰 계산을 작은 조각 수천 개로 나눠요.
→
2
GPU 안의 작은 계산기(코어) 수천 개가 동시에 하나씩 맡아요.
→
3
결과를 한꺼번에 모아요.
🧮쉬운 비유: 덧셈 문제 1만 개
비유AI
수학 천재 몇 명↔CPU의 큰 코어
덧셈만 할 줄 아는 초등학생 수천 명↔GPU의 작은 코어
초등학생들이 나눠 풀면 훨씬 빨리 끝남↔병렬 계산
🔢숫자 예시
AlexNet 학습에 쓴 GPU
2장
2012년 이미지 대회 우승 모델
학습에 걸린 시간
5~6일
당시 CPU로는 훨씬 더 오래 걸렸어요
요즘 GPU 한 장의 코어
수천 ~ 수만 개
동시에 계산하는 작은 계산기
⚠️헷갈리기 쉬운 점
GPU
단순 계산을 동시에 많이 하는 데 특화됐어요. CPU보다 "더 똑똑한" 건 아니에요.
TPU
구글이 AI 계산만을 위해 따로 만든 칩이에요.

필기처럼 "커지면 커질수록 더 좋아진다"는 것도 중요한 특징이에요. 옛날 머신러닝은 데이터가 어느 정도 쌓이면 성능이 더 오르지 않았어요. 딥러닝은 데이터와 신경망 크기를 키울수록 성능이 계속 올라가요. (강의 슬라이드 72쪽)

핵심 정리
  • 데이터 폭발, 무료 개발 도구, GPU 병렬 계산이 딥러닝을 가능하게 했어요.
  • 딥러닝은 데이터와 모델을 키울수록 계속 좋아져요.

5-4. AI는 새로운 전기, 그리고 윤리

이 장에서 배울 것
AI가 모든 산업에 왜 필요한지, AI 윤리는 무엇을 다루는지 알아봐요.

앤드루 응은 2017년 "AI는 새로운 전기다(AI is the new electricity)"라고 말했어요. 약 100년 전 전기가 거의 모든 산업을 바꿨듯이, AI도 모든 산업을 바꿀 거라는 뜻이에요. 수업 앞부분의 '세상을 바꾼 기술' 목록과 같은 이야기예요.

교수님은 딥러닝을 배워야 하는 이유로 네 가지를 들었어요. (강의 슬라이드 74쪽)

이유설명
더 좋은 일자리데이터로 일하는 회사에서는 모든 직원에게 AI 이해력이 필요해요.
연구단백질 접힘처럼 복잡한 문제를 푸는 강력한 연구 도구예요.
개인 생산성회사 일과 집안일 모두에서 생산성을 높여요.
창업스타트업에게 AI는 판을 바꾸는 혁신의 필수 재료예요.

교수님이 함께 소개한 '디지털플랫폼정부' 발전 단계도 같은 흐름이에요. 디지털화 → 디지털 전환(클라우드 등) → AI 도입과 개인화 → 모든 부문에서 AI가 기본인 AI by Default 단계로 나아가요.

기술과 응용을 구분하기, 그리고 AI 윤리

교수님은 "기술과 응용을 구분하라"고 강조했어요. 딥러닝이라는 기술 자체와, 그 기술로 만든 감시 카메라·추천 시스템 같은 응용은 다른 문제라는 거예요.

질문 상자

Q. AI 윤리는 AI를 규제하는 건가요, 쓰는 사람을 규제하는 건가요?

A. 교수님의 질문 "AI를 위한 윤리인가, 사람을 위한 윤리인가?"가 바로 이 고민이에요. 기술(딥러닝 자체)보다는 그 기술을 어디에 어떻게 쓰는지, 즉 응용과 사용하는 사람의 책임을 따지는 쪽이 중심이에요.

예를 들어 유럽연합(EU)의 AI법(AI Act, 2024년 발효)은 AI를 위험도로 나눠요. 사람 점수 매기기 같은 용도는 금지하고, 채용·의료처럼 위험이 큰 용도는 엄격하게 관리해요. 필기처럼 이런 논의는 유럽에서 특히 활발해요.

핵심 정리
  • AI는 전기처럼 모든 산업에 스며드는 범용 기술이에요.
  • AI 윤리는 기술 자체보다 '어디에 어떻게 쓰는가'를 주로 다뤄요.
실무 관점

오늘의 결론(강의 슬라이드 79쪽): AI는 이제 모든 비즈니스의 필수예요. ChatGPT와 DeepSeek 같은 최신 AI의 두뇌가 딥러닝이고, 딥러닝은 만능 함수 근사기예요. 이 수업에서는 AI의 도움을 받아 나와 우리 회사를 위한 AI를 직접 만들어 볼 거예요. 교수님 말씀처럼 결국 AI는 나의 친구가 될 거예요. 새 AI 서비스를 도입할 때는 "이 기술로 무엇을 할 것인가(응용)"와 "누가 책임지는가"를 함께 정해 두세요.

수업 영상 모음

필기와 강의 슬라이드에 나온 유튜브 링크예요. 제목을 누르면 열려요.

▶
Y Combinator · 1-2 AI 네이티브 회사 · 슬라이드 12쪽
https://www.youtube.com/watch?v=EN7frwQIbKc
▶
(채널) · 슬라이드 80쪽
https://www.youtube.com/channel/UCgYEDLbAcP26PjuOGebu05A

오늘 수업 전체 요약

부한 줄 요약
1부AI 네이티브 회사에서는 여러 AI 에이전트가 일하고, 사람은 고리 위에서 지휘하고 감독해요.
2부ChatGPT, MoE·CoT, DeepSeek를 거치며 AI가 싸고 똑똑해져 '1인 1AI 시대'가 오고 있어요.
3부AI ⊃ 머신러닝 ⊃ 딥러닝이고, 머신러닝은 "데이터 + 답 → 규칙"을 스스로 만들어요.
4부1943년 뉴런 모델에서 시작해 긴 겨울을 지나, 2012년 이미지넷 + GPU로 딥러닝이 폭발했어요.
5부딥러닝은 만능 함수 근사기라서 어디에나 쓰이고, AI는 새로운 전기가 됐어요.

용어 색인

한글영어한 줄 뜻나온 장
오케스트레이션Orchestration여러 AI를 지휘해 하나의 일을 해내게 하는 것1-1
에이전트Agent계획·실행·점검을 스스로 하는 AI 일꾼1-1
멀티 에이전트 시스템Multi-Agent System (MAS)여러 에이전트가 역할을 나눠 함께 일하는 구조1-1
AI 네이티브AI-Native처음부터 AI를 전제로 설계한 조직·서비스1-2
조회 가능Queryable모든 기록을 찾아볼 수 있는 상태1-2
닫힌 고리Closed Loop결과가 다시 개선의 입력으로 돌아오는 구조1-2
고리 위의 사람Human-on-the-loopAI가 일하고 사람은 감독하는 방식1-2
AI 전환AI Transformation (AX)회사 일하는 방식을 AI 중심으로 바꾸는 것1-3
바이브 코딩Vibe Coding말로 설명하면 AI가 코드를 짜 주는 개발 방식1-3
지도 학습Supervised Learning정답이 붙은 예시로 배우는 방법2-1
강화 학습Reinforcement Learning점수(보상)를 받으며 시행착오로 배우는 방법2-1
전문가 혼합Mixture of Experts (MoE)필요한 전문가 부분만 골라 쓰는 AI 구조2-2
생각의 사슬Chain of Thought (CoT)풀이 과정을 단계별로 쓰며 추론하는 방법2-2
증류Distillation큰 모델의 실력을 작은 모델에게 옮기는 것2-2
검색 증강 생성RAG참고 자료를 찾아 보고 답하게 하는 방식2-3
인공지능Artificial Intelligence (AI)사람처럼 판단·행동하는 프로그램 전체3-1
머신러닝Machine Learning (ML)데이터에서 스스로 규칙을 배우는 프로그램3-1
딥러닝Deep Learning (DL)깊은 인공 신경망으로 배우는 머신러닝3-1
전문가 시스템Expert System사람이 넣은 규칙으로 판단하는 옛 AI3-1
티처블 머신Teachable Machine코딩 없이 딥러닝을 만드는 구글 도구3-3
퍼셉트론Perceptron입력×가중치의 합으로 0/1을 내는 인공 뉴런4-2
가중치Weight입력마다 곱하는 중요도 숫자4-2
선형 문제Linearly Separable Problem직선 하나로 가를 수 있는 문제4-2
역전파Backpropagation오차를 거꾸로 보내 여러 층을 학습시키는 방법4-3
합성곱 신경망Convolutional Neural Network (CNN)사진을 조각조각 훑어 특징을 찾는 신경망4-3
서포트 벡터 머신Support Vector Machine (SVM)두 무리를 가르는 가장 넓은 경계를 찾는 방법4-3
이미지넷ImageNet이름표 붙은 1,400만 장 이상의 사진 모음4-4
만능 함수 근사기Universal Function Approximator거의 모든 함수를 흉내 낼 수 있는 성질5-1
비선형Nonlinear직선이 아닌, 구불구불한 관계5-1
그래픽 처리 장치GPU단순 계산을 동시에 수천 개 하는 칩5-3
병렬 계산Parallel Computing일을 나눠 동시에 계산하는 것5-3
AI 윤리AI EthicsAI를 어디에 어떻게 쓸지에 대한 책임과 규칙5-4