Why Deep Learning? (딥러닝이란?)

Why Deep Learning?

Hand engineered features are time consuming, brittle, and not scalable in practice 

수작업으로 설계된 기능은 시간이 많이 걸리고 부서지기 쉬우며 실제로는 확장할 수 없음

Can we learn the underlying features directly from data?

데이터에서 기본 기능을 직접 학습할 수 있는가?

 

Low Level Features: Lines & Edges (선과 경계)

Mid Level Features: Eyes & Nose & Ears (코와 눈)

High Level Features: Facial Structure (얼굴들)

 

The Perceptron

The structural building block of deep learning

딥러닝의 구조적 구성요소

The Perceptron(퍼셉트론): Forward Propagation

퍼셉트론은 딥 러닝의 기본적인 구조적 블록 중 하나로 퍼셉트론은 하나 이상의 입력 신호와 하나의 출력 신호를 갖는 단순한 뉴런 모델이다. 퍼셉트론은 입력 신호의 가중합을 계산하고, 그 결과에 대한 활성화 함수를 적용하여 출력 신호를 생성한다.

 

입력 신호: 하나 이상의 입력 신호를 받고, 각 입력 신호는 가중치와 함께 연결된다.

가중치: 가중치는 입력 신호의 중요도를 조절한다. 가중치가 클수록 해당 입력 신호가 더 큰 영향을 미친다.

활성화 함수: 활성화 함수는 입력 신호의 가중합에 대한 출력 신호를 생성한다.

 

퍼셉트론의 동작

1. 입력 신호를 가중치와 함께 곱한다

2. 결과를 활성화 함수에 적용한다.

3. 활성화 함수의 출력 신호로 사용한다.

 

활성화 함수의 종류

시그모이드 함수: S자 모양의 곡선을 가지는 함수, 0과 1 사이의 값으로 제한한다.

하이퍼볼릭 탄젠트 함수: 시그모이드 함수와 유사한 모양으로 퍼셉트론의 출력 신호를 -1과 1 사이의 값으로 제한한다.

렐루 함수: 0보다 큰 입력 신호에 대해서는 입력 신호를 출력하고, 0보다 작은 입력 신호는 0을 출력하는 함수이다.

 

퍼셉트론의 활용

분류: 퍼셉트론은 입력 신호의 클래스를 분류하는 데 사용할 수 있다. 예를 들어, 퍼셉트론을 사용하여 이미지의 내용을 분류하거나, 텍스트의 감정을 분류할 수 있다.

회귀: 퍼셉트론은 입력 신호와 출력 신호 사이의 관계를 학습하여 예측하는 데 사용할 수 있다. 예를 들어, 페셉트론으로 날씨를 예측하거나, 주식 시장을 예측할 수 있다.

퍼셉트론의 동작을 두 단계로 설명

퍼셉트론의 구조와 동작

input -> weights(가중치) -> sum(입력 신호의 가중합은 입력 신호 각각에 가중치를 곱한 값을 모두 더한 ) -> non-linearity -> output

입력 신호는 가중치와 함께 연결되어 있어 가중치는 입력 신호의 중요도를 조절한다. 가중치가 클수록 결과에는 더 큰 영향을 미친다.

 

퍼셉트론의 동작을 세 단계로 설명

퍼셉트론의 공식: y = f(w1x1 + w2x2 + ... + wnxn)

y는 출력 신호

f는 활성화 함수

w1,w2,w3... wn는 가중치

x1, x2, x3... xn는 입력 신호