본문 바로가기

전체 글

(393)
Transformer 이해를 하기 위해 필요한 것들 [1화] "Attention is all you need", Transformer 모델을 처음으로 제시한 2017년 논문의 제목이다. [1706.03762] Attention Is All You Need (arxiv.org) 익살스러운 이름이지만, 2023년 11월 현재 97,503 건의 피인용수를 자랑한다. 저자들은 모두 구글 브레인 소속이었지만, 현재는 모두 (!) 퇴사하여 창업을 했다는 점도 인상적이다. Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The..
IROS 2023 키워드로 보는 트렌드 정리 뒤늦었지만, IROS 2023 키워드를 정리해봤다. IROS는 intelligent robot and system이라는 제목이 뜻하듯, 로봇과 관련된 연구를 종합적으로 발표하는 학회다. 학회 리뷰는 어떤 로봇 연구가 유행하는지, 어떤 방법의 연구가 유행하는지 확인할 수 있는 좋은 방법이다. 제대로 연구 결과물을 살펴보면 더 좋겠지만, 제목만 보고 키워드를 정리해보기로 했다. 1. 학회 전체 키워드 가장 큰 것은 Control, 로봇 제어다. 나로서는 제어를 전혀 할 줄 모르기에 좀 뜨끔하지만, 역시 로봇에는 제어가 꽃이구나 (난 뭐했지?). Learning이라는 키워드는 당연하게도 눈에 띄지만 의외의 포인트는 Multi이다. Multi가 쓰이는 부분은 좀 더 파헤쳐봐야 알 수 있을 것 같다. 2. Lea..
python 활용 투자 포트폴리오 [3화: VAA 전략 구현] 강환국의 "거인의 포트폴리오"에서 소개됐던 VAA 전략을 직접 python으로 구현해보기로 했다. 책에서 소개하기로는 가장 수익률이 높은 자산 배분방법인데, 계산이 조금 까다로워 python으로 작성하려니 시간이 좀 걸렸다. VAA 전략은 아래와 같다. 글이 많아 좀 헷갈리지만, 쉽게 말하면 공격형 자산배분 (변동이 큼)과 안전자산 (변동이 작음) 으로 투자처를 나누고, 모멘텀에 따라서 어디에 투자할지 교차하는 방법이다. 책의 말에 따르면 "흐름이 좋다" 싶으면 한 투자처에 몰빵, "앗 조금 안 좋은데" 싶으면 바로 안전자산으로 꽁무니를 빼는 것과 마찬가지이다. 코드는 github에 올려뒀다. JWAlmighty/investment (github.com) GitHub - JWAlmighty/investm..