728x90
전체 글
544

[Paper] A Dual-Stage Attention-Based Recurrent Neural Network (DA-RNN)

A Dual-Stage Attention-Based Recurrent Neural Network (DA-RNN) Instroduction encoder-decoder networks의 문제는 sequence의 길이가 길어질수록 성능이 낮아지는 것이다. 위 문제를 해결하기 위해 attention based encoder-decoder network를 사용 하지만 time series prediction task에는 맞지 않음 time series prediction task를 목적으로 하는 모델인 dual-stage attnetion-based recurrent neural network (DA-RNN)을 제안 1 stage: 모든 time steps에서 이전 encoder hidden state를 참고하..

Deep Learning 2022.02.16

[NLP] Attention Mechanism

RNN 기반 seq2seq 모델의 문제 하나의 고정된 크기의 벡터에 모든 정보를 압축하려고 하니까 정보 손실이 발생 기울기 소실(vanishig gradient) 문제가 존재 Attention Idea 디코더에서 출력 단어를 예측하는 매 time step마다 인코더에서의 전체 입력 문장을 다시 한 번 참고 전체 입력 문장을 전부 참고하는 것이 아닌해당 시점에서 예측해야할 단어와 연관이 있는 입력 단어 부분을 좀 더 attention Attention function 더보기 Q = Query : 모든 시점의 디코더 셀에서의 은닉 상태 K = Keys : 모든 시점의 인코더 셀의 은닉 상태들 V = Values : 모든 시점의 인코더 셀의 은닉 상태들 1. 쿼리(Query)에 대해서 모든 키(Key)와의 유..

Deep Learning 2022.02.08

[PEP8] Whitespace in Expressions and Statements

Pet Peeves 대괄호, 중괄호, 소괄호 안의 공백 # Correct: spam(ham[1], {eggs: 2}) # Wrong: spam( ham[ 1 ], { eggs: 2 } ) 마지막 쉼표와 닫는 괄호 사이의 공백 # Correct: foo = (0,) # Wrong: bar = (0, ) 콤마, 세미클론, 콜론 앞의 공백 # Correct: if x == 4: print(x, y); x, y = y, x # Wrong: if x == 4 : print(x , y) ; x , y = y , x 슬라이스에서는 콜론의 양쪽 간격이 동일(단, 슬라이스의 parameter가 생략되면 공백도 생략) # Correct: ham[1:9], ham[1:9:3], ham[:9:3], ham[1::3], ham..

Python 2022.02.07

[PEP8] String Quotes

python에서 작은 따옴표 문자열과 큰 따옴표 문자열은 동일 문자열에 작은 따옴표 또는 큰 따옴표가 포함되는 경우 다른 하나를 사용하여 백슬래시 사용을 피해야한다. # https://www.kite.com/python/answers/how-to-put-quotes-in-a-string-in-python # -- 1 print('"abc"') # -- 2 print("'abc'") # -- 3 print("""a'b"c""") # -- backslash를 사용하는 경우 print("\"abc\"") print('\'abc\'') 삼중 따옴표로 묶인 문자열의 경우 항상 큰 따옴표를 사용 [reference] https://www.python.org/dev/peps/pep-0008/#string-quotes

Python 2022.02.07

[PEP8] Code Lay-out

들여쓰기 들여쓰기는 4개의 공백을 사용 # 올바른 예 # 괄호 기호에 맞춰 정렬 foo = long_function_name(var_one, var_two, var_three, var_four) # arguments를 구별하기 위해 들여쓰기를 추가 def long_function_name( var_one, var_two, var_three, var_four): print(var_one) # 다음과 같은 들여쓰기는 Hanging indent라고 부르며 level이 추가되어야 함 foo = long_function_name( var_one, var_two, var_three, var_four) # 잘못된 예 # vertical로 정렬이 안되어있으면 첫째 줄에 arguments를 작성하면 안됨 foo = lo..

Python 2022.02.04

[Gym] Gym 시작하기

Gym은 강화학습 알고리즘을 개발하고 비교하기위한 Toolkit입니다. 하지만 처음 강화학습을 접하는 저에게는 무슨 말인지 이해가 안갑니다. Installation 1. pip install python 3.5 이상이어야한다고 합니다. pip install gym ** Error ImportError: Cannot import pyglet. HINT: you can install pyglet directly via 'pip install pyglet'. But if you really just want to install all Gym dependencies and not have to think about it, 'pip install -e .[all]' or 'pip install gym[all]' ..

728x90