본문 바로가기

분류 전체보기

(377)
Transformer 이해를 하기 위해 필요한 것들 [1화] "Attention is all you need", Transformer 모델을 처음으로 제시한 2017년 논문의 제목이다. [1706.03762] Attention Is All You Need (arxiv.org) 익살스러운 이름이지만, 2023년 11월 현재 97,503 건의 피인용수를 자랑한다. 저자들은 모두 구글 브레인 소속이었지만, 현재는 모두 (!) 퇴사하여 창업을 했다는 점도 인상적이다. Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The..
IROS 2023 키워드로 보는 트렌드 정리 뒤늦었지만, IROS 2023 키워드를 정리해봤다. IROS는 intelligent robot and system이라는 제목이 뜻하듯, 로봇과 관련된 연구를 종합적으로 발표하는 학회다. 학회 리뷰는 어떤 로봇 연구가 유행하는지, 어떤 방법의 연구가 유행하는지 확인할 수 있는 좋은 방법이다. 제대로 연구 결과물을 살펴보면 더 좋겠지만, 제목만 보고 키워드를 정리해보기로 했다. 1. 학회 전체 키워드 가장 큰 것은 Control, 로봇 제어다. 나로서는 제어를 전혀 할 줄 모르기에 좀 뜨끔하지만, 역시 로봇에는 제어가 꽃이구나 (난 뭐했지?). Learning이라는 키워드는 당연하게도 눈에 띄지만 의외의 포인트는 Multi이다. Multi가 쓰이는 부분은 좀 더 파헤쳐봐야 알 수 있을 것 같다. 2. Lea..
python 활용 투자 포트폴리오 [3화: VAA 전략 구현] 강환국의 "거인의 포트폴리오"에서 소개됐던 VAA 전략을 직접 python으로 구현해보기로 했다. 책에서 소개하기로는 가장 수익률이 높은 자산 배분방법인데, 계산이 조금 까다로워 python으로 작성하려니 시간이 좀 걸렸다. VAA 전략은 아래와 같다. 글이 많아 좀 헷갈리지만, 쉽게 말하면 공격형 자산배분 (변동이 큼)과 안전자산 (변동이 작음) 으로 투자처를 나누고, 모멘텀에 따라서 어디에 투자할지 교차하는 방법이다. 책의 말에 따르면 "흐름이 좋다" 싶으면 한 투자처에 몰빵, "앗 조금 안 좋은데" 싶으면 바로 안전자산으로 꽁무니를 빼는 것과 마찬가지이다. 코드는 github에 올려뒀다. JWAlmighty/investment (github.com) GitHub - JWAlmighty/investm..
[딥러닝] 마구잡이 개발에 지쳤다면... Google, EfficientNet (2019) 딥러닝은 참 묘하다. 똑똑한 것 같으면서도 단순해서, 더 많은 정답을 알려주기만 해도 (더 많은 데이터 확보), 학습 기간을 늘리기만 해도 (레이어 더 많이 쌓기) 성능이 좋아진다. 그 과정에서 더 많은 데이터를 확보하고, 레이어를 깊이 만들며 성능을 테스트 하는 것은 온전히 개발자의 몫이다. 그러다보니, 이것 조금 바꾸고 저것 조금 바꾸면서 성능을 확인해봐야 하는 것이 여간 번거로운 일이 아닐 수가 없다. 어느 정도 데이터 확보/레이어 변형을 해야 개선이 어느 정도 이뤄지는지 정량 모델이라도 있으면 좋으련만! 구글에서 2019년 발표한 EfficientNet은 그런 답답함을 어느 정도 해소해줄 수 있는 논문이다. 저자인 Mingxing Tan과 Quoc Le는 현재 모두 구글 브레인 소속 연구원인데, ..
한국전자전 KES 2023 관람 후기 - 약진하는 AR 제품들 한국전자전 2023 박람회에 다녀왔다. 코엑스에서 열렸기에, 몇 주 전 다녀온 헬스케어 박람회나 (관련 글) 로보월드의 (관련글) 경험이 고스란히 되살아나는 느낌이었다. 차이점이 있다면, 훨씬 더 사람이 많았고 언론의 관심도가 높았다는 것이다. 아무래도 CES를 표방하는 일반 소비재 전자제품을 소개하는 곳이기 때문일 테지만. 그리고 K-CES, 전자제품 박람회답게 두 회사의 부스가 웅장해진다. LG전자와 삼성전자다. 사실 별 기대를 하지 않고 갔었는데 막상 가보니 부스를 굉장히 잘 꾸며놨더랬다. 특히 LG는 자신의 제품들로 이뤄진 공간을 완전히 분리시키면서, "이 자식들... 꽤 하잖아?" 라는 생각까지 들게 했다. 내가 쓰는 가전 중 LG 제품이 하나도 없는 것은 차치하고서. 가장 눈에 띄었던 제품은 ..
python 활용 투자 포트폴리오 [2화: 백테스팅 시뮬레이션] 정해진 예산 범위에서 특정 방법으로 자산을 배분했을 때, 어느 정도의 수익률을 얻을 수 있는지 총 과정을 시뮬레이션하기 위한 코드를 짜보기로 했다. 전체 과정을 쉽게 풀어쓰면 (pseudo-code) 아래와 같을 것이다. 지난 글(링크)에서는 단순히 총 자산에 맞춰 종목을 구매한 뒤 최종 일자까지 보유함으로써 얻는 수익률을 AI ETF와 비교하는 것에 그쳤지만, 위 알고리즘에 해당하는 파트들을 명령어로 묶어두는 것이 다양한 백테스트를 실행하는 데 도움이 될 것이다. python 활용 투자 포트폴리오 [1화: AI ETF와 비교한 수익률 백테스팅] 데이터 분석을 어디에 쓰면 좋을까, 고민하다가 게임을 시작했고 (핑계에 가깝지만) 결과는 신통치 않다. 딱히 데이터 분석을 하고 있는지도 잘 모르겠는 것이다. ..
python 활용 투자 포트폴리오 [1화: AI ETF와 비교한 수익률 백테스팅] 데이터 분석을 어디에 쓰면 좋을까, 고민하다가 게임을 시작했고 (핑계에 가깝지만) 결과는 신통치 않다. 딱히 데이터 분석을 하고 있는지도 잘 모르겠는 것이다. 그러던 와중에 재테크 책인 강환국 "거인의 포트폴리오"를 읽게 되었다. 아하, 데이터 분석이 주목을 많이 받는 분야는 여기였구나! 싶었더랬다. 근데 보이는가? 23가지 전략이라니 많기도 하다. 다시금 python을 꺼내들지 않을 수가 없었다. 어떻게 23가지를 손으로 일일이 다 계산한담? 기존 시행착오에서 pykrx라는 모듈을 잘 써먹을 수 있겠거니 하고 정리해둔 바 있다. 2021년 1월 글이니 거진 3년이 다 되어가는 글이다. 이럴 때 글로 적어두길 참 잘했다 싶다. Python를 활용한 코스피 재무 데이터 확인 방법 3 + 1가지 "데이터를 ..
2023 로보월드 관람기: 트렌드 파악하기 일산 킨텍스에서 열린 로보월드에 다녀왔다. 전반적인 느낌은 지난 번 헬스케어 박람회와 유사했다고 생각된다 (관련 글). 기술은 무차별적이고, 참여자의 수는 늘어나며, 저마다 기계적으로 자신을 소개하는 환경에서, 관람객인 나마저 지독한 매너리즘에 빠져드는 느낌. 2023 국제 병원 및 헬스테크 박람회 (KHF, 코엑스) 방문 후기 (tistory.com) 2023 국제 병원 및 헬스테크 박람회 (KHF, 코엑스) 방문 후기 박람회를 다녀와서 이렇게 혼란스러운 경험은 처음이었다. 이번에 헬스테크 박람회를 다녀온 이유는, 디지털 헬스케어 산업의 현황을 알고 싶었기 때문이다. 어떤 기업이 잘 하고 있고, 디지털 mech-literacy.tistory.com 하지만 두 번의 박람회에서 유사한 느낌을 느꼈다는 점에..
피파온라인4 켠왕 - 데이터센터로 월드클래스 진입장벽 넘기 프로, 월드클래스, 챌린지로 이어지는 랭킹 중에서, 유달리 프로 1부 ~ 월드클래스 3부의 진입장벽을 넘기가 힘들다. 내가 이번 생에 해왔던 게임을 통틀어서도 월드클래스 2부 정도가 최선일 것이다 (2016년 정도가 아닐까). 실력이 그래도 조금씩이나마 상승하고 있음을 감안하면, 전체 유저 평균 실력 상승률과 꼭 부합하는 실력을 가진게 아닐까 싶을 정도이다. 어쨌거나, 왜 그렇게 진입장벽에 가로막히기만 하는지 데이터를 확인해볼 필요가 있다. 방금만 하더라도 두 판 내리지고는 빡종을 한 참이다. 뭐가 문제일까? 이번에는 피파 데이터분석실을 사용해봤다. 데이터만 봤더니, 가관이다. 정녕 티어를 올리고자 하는 사람의 데이터가 맞나, 싶을 정도이다. 이따금씩 하는 사람만 못한 게 아닐까? 구체적으로 뭐가 가관이..
메타와 Ray-Ban의 선글라스: 또 실패하게 될 웨어러블 제품 메타에서 레이밴 손을 잡고 카메라 내장 선글라스를 출시했다. 10월 17일 이후 구매 가능하며, 가격은 최소 299 달러, 한화로 약 40만원 정도 한다. 299 달러 제품은 그냥 스마트 안경테이지만, 329달러 제품은 선글라스이다. 안경을 맞추는 사람은 299 달러 제품을 사면 된다. Ray-ban | Meta Wayfarer Sunglasses in Black and Clear - RW4006 | Ray-Ban® US Check out the Ray-ban | Meta Wayfarer at ray-ban.com Shop Ray-ban | Meta Wayfarer sunglasses with Black Injected frame and Clear lenses. Prescription available ..