딥러닝 분석: CNN·RNN·오토인코더·GAN
쉽게 말하면
딥러닝은 신경망 층을 아주 깊게 쌓은 거예요. 사진은 CNN이 작은 창을 미끄러뜨리며 선·모양을 찾아내고, 문장이나 주가처럼 순서가 있는 데이터는 RNN·LSTM이 앞의 내용을 기억하며 읽어요. 진짜 같은 그림을 만드는 GAN, 압축했다 되살리며 특징을 배우는 오토인코더도 있어요.
시험용 정의
딥러닝은 은닉층이 여러 개인 심층 신경망으로 데이터의 특징까지 스스로 학습하는 방법이다. 층이 깊어지면 오차를 뒤로 전하는 역전파에서 기울기가 0 에 가까워지는 기울기 소실이 생기는데, 시그모이드 대신 ReLU 활성화 함수, 배치 정규화, 잔차 연결로 줄인다. 대표 구조는 이미지용 CNN(합성곱 신경망), 순서 데이터용 RNN(순환 신경망)과 그 개선형 LSTM·GRU, 입력을 압축·복원하는 오토인코더, 생성자와 판별자가 경쟁하는 GAN(생성적 적대 신경망)이다. 요즘 언어 모형은 주의 메커니즘(어텐션)을 쓰는 트랜스포머를 바탕으로 한다.
비유로 이해하기
그림 감상으로 보자. 첫 층은 선과 점만 보고, 다음 층은 눈·코 같은 부분을, 더 깊은 층은 얼굴 전체를 알아본다. 층을 쌓을수록 더 복잡한 것을 알아보는 것이 딥러닝이다. 위조지폐범(생성자)과 경찰(판별자)이 서로 실력을 키우는 것이 GAN 이다.
자세히
기울기 소실과 활성화 함수
| 함수 | 출력 범위 | 특징 |
|---|---|---|
| 시그모이드 | 0 ~ 1 | 기울기 최대 0.25 라 층이 깊으면 기울기 소실 |
| tanh | -1 ~ 1 | 0 을 중심으로 해 시그모이드보다 낫지만 여전히 소실 |
| ReLU | 0 ~ ∞ | 양수 쪽 기울기 1 이라 소실이 적고 계산이 빠름. 음수 입력 뉴런이 죽는 문제 |
| Leaky ReLU | -∞ ~ ∞ | 음수 쪽에도 작은 기울기를 줘 죽은 뉴런 문제를 줄임 |
| 소프트맥스 | 0 ~ 1, 합 1 | 다중 분류 출력층에서 범주별 확률 |
CNN
- 합성곱층: 작은 필터(커널)를 이미지 위로 밀며(스트라이드) 곱해 특징 지도를 만든다. 가장자리를 0 으로 채우는 것이 패딩
- 풀링층: 영역의 최댓값(최대 풀링)이나 평균을 남겨 크기를 줄이고 위치 변화에 덜 민감하게
- 완전 연결층: 마지막에 특징을 모아 분류
- 같은 필터를 이미지 전체에 나눠 써서(가중치 공유) 변수 수가 적다
RNN·LSTM
- RNN: 이전 시점의 은닉 상태를 다음 시점 입력과 함께 써 순서를 기억. 문장, 음성, 시계열
- 먼 과거 정보는 기울기 소실로 잊는다 (장기 의존성 문제)
- LSTM: 셀 상태와 입력·망각·출력 게이트로 무엇을 기억하고 지울지 정해 긴 의존성을 학습. GRU 는 게이트를 줄인 단순형
생성·표현 학습
| 구조 | 어떻게 | 쓰임 |
|---|---|---|
| 오토인코더 | 인코더가 입력을 작은 잠재 표현으로 압축, 디코더가 복원. 복원 오차를 줄이며 학습 | 차원 축소, 잡음 제거, 이상 탐지(복원 오차가 크면 이상) |
| GAN | 생성자는 가짜를 만들고 판별자는 진짜·가짜를 가림. 서로 경쟁하며 학습 | 이미지 생성, 데이터 증강 |
| 전이학습 | 큰 데이터로 미리 학습한 모형의 층을 가져와 새 데이터로 미세 조정 | 데이터가 적은 이미지·텍스트 문제 |
시험에 이렇게 나와요
- 기울기 소실: 시그모이드에서 심함, ReLU 로 완화
- CNN: 합성곱(필터·스트라이드·패딩) + 풀링(최대·평균)
- RNN 장기 의존성 문제 → LSTM 게이트(입력·망각·출력), GRU
- 오토인코더: 압축·복원, 이상 탐지
- GAN: 생성자 vs 판별자
- 소프트맥스: 다중 분류 출력
출제기준 3과목 '딥러닝 분석'
확인 문제
Q1. 이미지에서 작은 필터를 옆으로 밀며 곱해 선·모서리 같은 특징을 뽑는 층은?
- 순환층
- 출력층
- 합성곱층
- 풀링층
정답 보기
3번 합성곱층
합성곱층이 필터로 특징 지도를 만들고, 풀링층은 그 크기를 줄인다. 둘을 쓰는 것이 CNN 이다.
Q2. RNN 의 장기 의존성 문제를 게이트 구조로 줄인 모형은?
- LSTM
- SOM
- CNN
- 오토인코더
정답 보기
1번 LSTM
LSTM 은 입력·망각·출력 게이트로 오래된 정보를 유지한다.
Q3. CNN 에서 영역의 최댓값만 남겨 특징 지도 크기를 줄이는 것은?
- 드롭아웃
- 배치 정규화
- 최대 풀링
- 패딩
정답 보기
3번 최대 풀링
최대 풀링이다. 영역에서 가장 큰 값만 남겨 크기를 줄인다. 패딩은 가장자리를 채우고, 드롭아웃은 학습 중 일부 노드를 끈다.
Q4. 가짜 데이터를 만드는 생성자와 진짜·가짜를 가리는 판별자가 경쟁하며 학습하는 모형은?
- k-NN
- RNN
- GAN
- LSTM
정답 보기
3번 GAN
생성적 적대 신경망(GAN)이다.
Q5. 층이 깊은 신경망에서 기울기 소실을 줄이는 활성화 함수로 가장 알맞은 것은?
- 항등 함수
- 계단 함수
- ReLU
- 시그모이드
정답 보기
3번 ReLU
ReLU 는 양수 쪽 기울기가 1 이라 기울기가 덜 사라진다.
Q6. 입력을 압축했다 복원하며 학습하고, 복원 오차가 큰 데이터를 이상으로 볼 수 있는 모형은?
- 오토인코더
- 나이브 베이즈
- 의사결정나무
- GAN
정답 보기
1번 오토인코더
오토인코더다. 정상 데이터로 학습하면 이상한 데이터는 잘 복원되지 않아 복원 오차가 크다. GAN은 생성자와 판별자가 경쟁하며 새 데이터를 만든다.
헷갈리기 쉬운 O·X
시그모이드 함수는 층이 깊어도 기울기 소실이 생기지 않는다.
정답 보기
X 기울기 최댓값이 0.25 라 층을 지날수록 작아진다.
CNN 은 같은 필터를 이미지 전체에 나눠 써서 학습할 변수가 적다.
정답 보기
O 가중치 공유다.
GAN 의 판별자는 새로운 가짜 데이터를 만들어 낸다.
정답 보기
X 만드는 것은 생성자, 판별자는 진짜와 가짜를 가린다.