본문 바로가기
728x90

전체 글83

데이터 구조 데이터 구조 생각해보기- 전화번호부 정보는 어떻게 저장하면 좋을까?- 서적 정보는 어떻게 관리하면 좋을까?- 창고에 쌓인 수화물의 위치를 역순으로 찾을 때? 스택과 큐(stack & queue with list)스택(stack)- 나중에 넣은 데이터를 먼저 반환- Last In First Out(LIFO)- Data의 입력을 Push, 출력을 Pop이라고 - 스택 구조를 활용, 입력된 글자를 역순으로 출력word = input("Input a word: ")word_list = list(word)for i in range(len(word_list)): print(word_list.pop()) #하나씩 빼면서 출력#결과: 맨 마지막인 r부터 빠짐Input a word: naverrevan 큐 (Que.. 2024. 7. 2.
[PCCE 기출문제] 6번 / 가채점/ python 문제def solution(numbers, our_score, score_list): answer = [] for i in range(len(numbers)): if numbers[our_score[i]] == score_list[i]: answer.append("Same") else: answer.append("Different") return answer결과 (주석 처리는 설명! )# 입출력 예2 결과에서 0번째 리스트인 '3'이 Different가 찍히는 이유def solution(numbers, our_score, score_list): answer = [] for i in range(len(numb.. 2024. 6. 22.
Attention Is All you Need 주의(attention)는 트랜스포머(Transformer) 아키텍처의 기초 메커니즘으로, 많은 분들이 들어보셨을 것이다. 트랜스포머의 개념은 종종 매우 복잡한 다이어그램으로 제시되거나 복잡한 응용 프로그램에 배치되어 매우 난해하게 느껴질 수 있다. 그렇다면 어떻게 이것을 이해하기 시작해야 할까? 그러나 주의(attention)의 핵심 작업은 매우 직관적인 아이디어다. 이번 블로그에 마지막 부분에서는 이것이 왜 강력한지, 그리고 어떻게 트랜스포머와 같은 더 큰 신경망의 일부로 사용할 수 있는지 단계별로 분해하여 설명할 것이다.Intuition Behind Self-Atttention특히, 우리는 자기 주의(self-attention)에 초점을 맞출 것이다. 이는 입력 예제의 가장 중요한 부분에 주의를 기.. 2024. 6. 18.
RNN Applications & Limitations(RNN 응용 사례 및 한계) 지금까지 RNN의 기본인 작동원리와 아키텍처, 학습 방법, 적용 분야 등을 살펴보았습니다. 이 세션의 마지막 부분에서는 소프트웨어 랩에서 RNN을 실제로 활용하는 구체적인 예시를 살펴보겠습니다.뮤직 제너레이션먼저 RNN을 사용하여 멜로디를 생성하는 뮤직 제너레이션 과제를 다룬다면, RNN은 시퀀스 데이터에서 다음 요소를 예측하는데 효과적이며, 이를 활용하여 완전히 새로운 멜로디를 만들 수 있다. 실제 사례: 슈베르트의 미완성 교향곡 3번몇년 전 연구팀 RNN 모델을 클래식 음악 데이터로 학습시켰다. 유명 슈베르트는 두 악장으로 구성된 미완성 교향곡을 남겼다. 불행히도 그는 교향곡을 완성하지 못한 채 세상을 떠났다. 연구팀은 학습된 RNN모델을 사용하여 기존의 두 악장 정보를 바탕으로 미완성된 제3악장을 .. 2024. 6. 17.
[네이버 커넥트재단]AI 엔지니어 기초 다지기: 부스트캠스 AI Tech 수료 후기 수료 후기 제목 그대로 AI 기초가 아주 잘 담긴 강의이다. 목차 같은 경우는 데이터 분석부터 EDA, 피처 엔지니어, 하이퍼 파라미터, 벡터와 행렬, 경사하강법, 통계학, 딥러닝, 최적화, CNN, RNN 등등 기본으로 알고 넘어가야 되는 것들을 짧게 담겨 있다. 그리고 중간중간 있는 코드 빈칸 넣기는 한 번씩 집중력을 요구하는 부분이 있어 오히려 좋았다. 다양한 프로젝트그리고 처음이라 시작하기 어려운 '캐글'을 강사님과 함께 생각보다 쉽게(?) 맛보기 할 수 있어서 좋다.그리고 '클로바' 를 활용해서 아주 기초적인 프로젝트(?)를 할 수 있다.  수준 높은 강의와 강사님분들스펙이 훌륭한 대학원생이나 현업에 종사하고 계신 분들이 강의를 해주시는데 살짝 용어가 뒤로 갈수록 어려워지기는 하지만, 공부하면서.. 2024. 6. 17.
Backpropagation Through Time(BPTT): 역전파 알고리즘 Recall: Backpropagation in Feed Forward Models 역전파 알고리즘을 사용하여 RNN을 학습하는 방법을 설명하고, 텍스트 분류 문제에서의 예시를 설명하겠습니다. RNN학습 과정(복습... :) ) 1. 데이터 준비: 시퀀스 데이터를 입력 데이터와 출력 데이터로 준비한다. 2. 모델 정의: RNN모델의 구조와 가중치를 정의한다. 3. 순전파: 입력 데이터는 단어 벡터로 변환되고 RNN을 통과한다. RNN은 각 단어를 처리하면서 숨겨진 상태를 업데이트한다. 예) "나는 피자를 좋아한다." 4. 출력 계층: 텍스트 분류 문제의 경우 출력 계층은 입력 문장이 특정 클래스에 속할 확률을 계산한다. 예) "음식" 카테고리에 속할 확률 5. 오류 계산: 네트워크의 예측값과 실제 값 간.. 2024. 3. 25.
728x90