#. AI, 머신러닝, 딥러닝 역사
- AI: 사람의 뇌, 인간의 지능이 할 수 있는 다양한 인지적인 창의적인 기능들 수행 ex) 이미지/영상을 보고 사물 판별, 언어이해
- AI 빙하기: 기술적 역량 부족
- 머신러닝: 기업에서 많은 소비자 데이터들을 어떻게 활용할 수 있을지 고민, 숨겨져있는 패턴 활용 ex) 패턴인식, XGboost
- 딥러닝: 연결기반, 컴퓨터 비전으로 이미지 판별 가능 ex) 알파고 대결
#. 딥러닝 - 인간의 뇌
인간 뇌의 학습과 기억 메커니즘을 모방한다
딥러닝 = Deep, 깊은 학습
딥러닝은 연결기반이며 연결을 통해서 학습을 강화한다
인간의 뇌) 이 과정을 딥러닝이 모방한다
뇌에서 인지자극 -> 뉴런에서 자극이 들어옴 -> 화학 물질을 분비 -> 전기신호로 바뀜 -> 다른 뉴런으로 연결 -> .. -> 다른 뉴런으로 연결 -> 학습할때마다 뉴런의 특정 연결부위의 연결성이 더 강화됨
#. 딥러닝 - 연결을 통한 학습 강화
여러층을 가진다, 층이 엄청 깊다
인풋층+ 심층 신경망(굉장히 많음) + 아웃풋층
심층 신경망이 히든레이어, 딥러닝의 핵심이며 굉장히 많다
갈색 화살표는 w, 가중치, 연결 파라미터이다
이 연결파라미터를 학습하는 메커니즘이 딥러닝의 학습 메커니즘이다
#. 딥러닝 학습
파라미터는 ~~ 수억개까지 있다 -> 학습해야할 파라미터가 너무 많다 -> 가중치값을 학습하는 특별한 학습법 (경사하강법 기반의 오차역전파) -> w값을 최적으로 학습해나가는, 최적의 가중치값을 찾아내는 함수
입력 데이터(x)가 주어졌을 때 답을 유추해 줄 수 있는 최적의 함수를 찾는 것
F(X) = W0 + W1*X1 + W2*X2 + W3*X3 + ...... + Wn*Xn
w값이 뭔지 입력데이터 기반으로 최적의 가중치 w값을 학습을 통해서 찾아낸다 -> 딥러닝이 학습하는 것은 바로 가중치 w값
#. 딥러닝 장단점
| 딥러닝 장점 | 딥러닝 단점 |
| 매우 유연하고 확장성 있는 모델 구성 ex) CNN, Transformer, Stable Diffusion, 강화학습 |
매우 많은 컴퓨팅 연산 필요 (GPU 등의 고가 H/W 필요) |
| 다양한 영역에서 확장되어 활용 ex) 영상, 음성, 자연어 인식, 생성형 AI등 다양한 영역의 최적화 문제 해결책 제시 |
지나치게 고차원의 최적화 유도 (정형데이터에서 큰 성능향상이 어려움) |
| 과거에는 최적화하기 어려운 문제들을 딥러닝 기반으로 모델링 수행 |
#. 스스로 Feature Extraction을 생성하는 딥러닝
기존 머신러닝: 피처를 생성하는 로직 + 뽑아내는 작업을 별도로 해야한다.
딥러닝: 원하는 결과값에 따른 피처들을 뽑아내서 스스로 학습한다.