본문 바로가기
728x90

MIT5

RNN Applications & Limitations(RNN 응용 사례 및 한계) 지금까지 RNN의 기본인 작동원리와 아키텍처, 학습 방법, 적용 분야 등을 살펴보았습니다. 이 세션의 마지막 부분에서는 소프트웨어 랩에서 RNN을 실제로 활용하는 구체적인 예시를 살펴보겠습니다.뮤직 제너레이션먼저 RNN을 사용하여 멜로디를 생성하는 뮤직 제너레이션 과제를 다룬다면, RNN은 시퀀스 데이터에서 다음 요소를 예측하는데 효과적이며, 이를 활용하여 완전히 새로운 멜로디를 만들 수 있다. 실제 사례: 슈베르트의 미완성 교향곡 3번몇년 전 연구팀 RNN 모델을 클래식 음악 데이터로 학습시켰다. 유명 슈베르트는 두 악장으로 구성된 미완성 교향곡을 남겼다. 불행히도 그는 교향곡을 완성하지 못한 채 세상을 떠났다. 연구팀은 학습된 RNN모델을 사용하여 기존의 두 악장 정보를 바탕으로 미완성된 제3악장을 .. 2024. 6. 17.
Applying Neural Networks(신경망 적용) 신경망 적용의 예 내가 이 수업을 통과할 수 있을까?라는 문제이다. x1 = 수강하는 강의 수 x2 = 최종 프로젝트에 소요된 시간 초록색점은 Pass 빨강색점은 Fail 여기서 나는 수강하는 강의의 수가 4개이고 최종 프로젝트에 소요되는 시간은 5시간이다. 과연 이 수업을 통과할 수 있는지 신경망을 이용해서 결과를 찾아보자 다층 퍼셉트론의 신경망 구조를 사용해서 문제를 풀어보자 Predicted: 0.1 : 신경망이 예측한 값으로는 0.1이라고 했는데, 이 경우는 수업에 통과할 가능성이 10%라고 예측하는 것이다. Actual: 1 : 실제 값을 나타낸 것으로 수업 결과는 통과를 의미한다. 따라서, 신경망이 이 수업에 통과할 가능성이 낮다고 예측했지만, 실제 결과는 통과였다는 것을 보여줍니다. 왜 그런.. 2023. 12. 30.
Building Neural Networks with Perceptrons(퍼셉트론을 이용한 신경망 구축) 다중 출력 퍼셉트론 입력 데이터에 대한 여러 개의 출력을 생성하는 인공 신경망이다. 위의 이미지에서는 입력층은 3개 은닉층은 2개의 뉴런으로 구성되어 있으며, 각 뉴런은 3개의 가중치와 1개의 편향을 가지고 있다. 출력층은 2개의 출력 신호를 가지고 있다. z1, z2는 은닉층의 출력 신호이고 y1, y2는 출력층의 출력신호이다. 공식은 z1 = w1x1 + w2x2 + w3x3 + b1 z2 = w4x1 + w5x2 + w6x3 + b2 y1 = g(z1) y2 = g(z2) w1~6은 가중치를 나타냄 b1,b2는 편향을 나타냄 - 편향이란? 쉽게 설명드리자면 가중치 앞에 붙는 부호를 나타낸다. 가중치가 양수이면, 입력 신호가 뉴런의 출력에 더 큰 영향을 미치고 가중치가 음수이면, 입력 신호가 뉴런의 .. 2023. 12. 22.
The Perceptron(퍼셉트론) Importance of Activation Functions 활성화 기능의 중요성 활성화 함수의 목적은 네트워크에 비선형성을 도입하는 것이다. 만약 우리가 녹색과 빨간색 점을 구별하기 위해 신경망을 구축하기를 원한다면 어떨까? 사진의 왼쪽 선형 활성화 함수는 입력 신호의 가중합은 선형 함수이고 오른쪽은 비선형성은 활성화 함수는 비선형 함수이다. 선형성은 퍼셉트론이 선형 분류기임을 의미한다. 즉, 퍼셉트론은 입력 신호의 관계를 선형적으로 학습할 수 있다. 비선형은 퍼셉트론이 복잡한 관계를 학습할 수 있도록 한다. - 원을 뉴런 또는 노드라고 부른다. - 입력 신호가 뉴런에 보내질 때는 각각 고유한 가중치가 곱해진다. - 뉴런에서 전달받은 신호의 총합이 임계값를 넘을 때만 1을 출력한다. 이미지의 좌표 부.. 2023. 12. 21.
Why Deep Learning? (딥러닝이란?) Why Deep Learning? Hand engineered features are time consuming, brittle, and not scalable in practice 수작업으로 설계된 기능은 시간이 많이 걸리고 부서지기 쉬우며 실제로는 확장할 수 없음 Can we learn the underlying features directly from data? 데이터에서 기본 기능을 직접 학습할 수 있는가? Low Level Features: Lines & Edges (선과 경계) Mid Level Features: Eyes & Nose & Ears (코와 눈) High Level Features: Facial Structure (얼굴들) The Perceptron The structural bu.. 2023. 12. 18.
728x90