본문 바로가기

트렌드 한눈에 보기/학계 트렌드

(110)
예제와 함께 단숨에 이해하는 Lyapunov Stability [2/2] 1편에서 이어집니다. 예제와 함께 단숨에 이해하는 Lyapunov Stability [1/2] 0. 배경 "단숨에"라는 부사와 [1/2]라는 편명이 조화롭지 않다는 것은 알고 있다. 하지만, Lyapunov를 단숨에 이해하기는 불가능하다. 혹시 너무 직관적으로 이해하고 있다면, 제대로 이해하지 못했 mech-literacy.tistory.com 1편을 쓴 지 17일이 지났는데, 이제서야 2편을 쓰는 이유는 오늘에서야 Lyapunov를 이해했기 때문이다. 이해라기 보다는 계산 방법을 깨달았다는 수준에 그치겠지만, 여튼 내가 사용할 수 있기까지 2주가 넘는 시간이 걸렸다. 이게 뭐라고... 싶지만, 막상 알고보니 이거 참 유용하다. 예제를 활용한 Lyapunov stability 계산법, 정확히는 Maxim..
예제와 함께 단숨에 이해하는 Lyapunov Stability [1/2] 0. 배경 "단숨에"라는 부사와 [1/2]라는 편명이 조화롭지 않다는 것은 알고 있다. 하지만, Lyapunov를 단숨에 이해하기는 불가능하다. 혹시 너무 직관적으로 이해하고 있다면, 제대로 이해하지 못했다는 증거일 테다. 하지만 한 번 이해하고 나면, 이름에서 오는 간지와 더불어 나 이제 완전한 공학도로 거듭났구나 하는 뽕맛도 느낄 수 있다. 게다가 웬걸, 한 번 이해하고 나면 아 이런 간단한 거구나! 하는 상쾌함도 다가온다. 이에 간단한 예제 (보행 상황에서 Lyapunov stability 확인) 와 함께 Lyapunov stability를 설명하는 글을 작성해봤다. 나처럼 이야기 좋아하는 사람들은 본격적인 리야푸노프 튜토리얼 자체보다는 그 개개인에 대한 역사를 좀 더 흥미로워한다. 사실 리야푸노프..
[Bayesian 1차] 모르면 모른다 말하는 Deep Learning - "What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision?" 저자인 Alex Kendall은 2017년 SegNet이라고 하는 Encoder-Decoder 구조를 발표하면서 해당 분야의 선두주자로 뛰어오른 바 있다. 잘 감이 안오겠지만, 생성형 AI (Generative AI)의 두 분야가 1) Encoder/Decoder 구조 2) Generative Adversarial Network (GAN) 라고 생각하면 된다. 그 중 천하통일을 하고 있는 것이 Encoder/Decoder 구조인 것이다. 다른 저자인 Yarin Gal 역시 젊은 나이에 해당 분야에서 두각을 나타내며 현재는 영국 Oxford의 교수를 하고 있다. 2020년부터 200여개 가까운 연구결과물을 발표했으니, 성과가 상당하다. Encoder/Decoder 구조를 더 잘 이해할 수 있으면 좋겠지만,..
[2023 ver.] tensorflow에서 GPU를 사용하는 방법 Windows 개발 환경은 하루가 멀다 하고 바뀌기 때문에, 종이 책으로 공부하는 것은 절대로 추천하지 못한다. 심지어 인터넷 자료들조차도 라이브러리 업데이트 속도를 따라가지 못하는 경우가 허다하다. 아래 자료가 가장 최신 (2023년 11월 기준)으로, Windows 11 / Tensorflow 2.10 이하 / python 3.9 이하에서 GPU를 사용하는 방법을 정리한 것이다. pip로 TensorFlow 설치 pip로 TensorFlow 설치 Learn the latest in machine learning, generative AI, and more at WiML Symposium 2023Register 이 페이지는 Cloud Translation API를 통해 번역되었습니다. Switch to English..
Transformer 를 Classification/Regression에 사용하려면 어떻게 해야 할까 [2화] Transformer 이해를 하기 위해 필요한 것들 [1화] (tistory.com) Transformer 이해를 하기 위해 필요한 것들 [1화] "Attention is all you need", Transformer 모델을 처음으로 제시한 2017년 논문의 제목이다. [1706.03762] Attention Is All You Need (arxiv.org) 익살스러운 이름이지만, 2023년 11월 현재 97,503 건의 피인용수를 자랑한다. mech-literacy.tistory.com Transformer 를 통해 번역기 모듈을 만든다면 모르겠지만, Regression 혹은 Classification에 Transformer를 적용하기 위해서는 약간의 시행착오가 필요하다. Transformer의 구조..
Transformer 이해를 하기 위해 필요한 것들 [1화] "Attention is all you need", Transformer 모델을 처음으로 제시한 2017년 논문의 제목이다. [1706.03762] Attention Is All You Need (arxiv.org) 익살스러운 이름이지만, 2023년 11월 현재 97,503 건의 피인용수를 자랑한다. 저자들은 모두 구글 브레인 소속이었지만, 현재는 모두 (!) 퇴사하여 창업을 했다는 점도 인상적이다. Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The..
IROS 2023 키워드로 보는 트렌드 정리 뒤늦었지만, IROS 2023 키워드를 정리해봤다. IROS는 intelligent robot and system이라는 제목이 뜻하듯, 로봇과 관련된 연구를 종합적으로 발표하는 학회다. 학회 리뷰는 어떤 로봇 연구가 유행하는지, 어떤 방법의 연구가 유행하는지 확인할 수 있는 좋은 방법이다. 제대로 연구 결과물을 살펴보면 더 좋겠지만, 제목만 보고 키워드를 정리해보기로 했다. 1. 학회 전체 키워드 가장 큰 것은 Control, 로봇 제어다. 나로서는 제어를 전혀 할 줄 모르기에 좀 뜨끔하지만, 역시 로봇에는 제어가 꽃이구나 (난 뭐했지?). Learning이라는 키워드는 당연하게도 눈에 띄지만 의외의 포인트는 Multi이다. Multi가 쓰이는 부분은 좀 더 파헤쳐봐야 알 수 있을 것 같다. 2. Lea..
[딥러닝] 마구잡이 개발에 지쳤다면... Google, EfficientNet (2019) 딥러닝은 참 묘하다. 똑똑한 것 같으면서도 단순해서, 더 많은 정답을 알려주기만 해도 (더 많은 데이터 확보), 학습 기간을 늘리기만 해도 (레이어 더 많이 쌓기) 성능이 좋아진다. 그 과정에서 더 많은 데이터를 확보하고, 레이어를 깊이 만들며 성능을 테스트 하는 것은 온전히 개발자의 몫이다. 그러다보니, 이것 조금 바꾸고 저것 조금 바꾸면서 성능을 확인해봐야 하는 것이 여간 번거로운 일이 아닐 수가 없다. 어느 정도 데이터 확보/레이어 변형을 해야 개선이 어느 정도 이뤄지는지 정량 모델이라도 있으면 좋으련만! 구글에서 2019년 발표한 EfficientNet은 그런 답답함을 어느 정도 해소해줄 수 있는 논문이다. 저자인 Mingxing Tan과 Quoc Le는 현재 모두 구글 브레인 소속 연구원인데, ..
STM "No Rule to make Target" 오류 해결 방법 "No Rule to make target" error (st.com) "No Rule to make target" error community.st.com After importing a project, how fix *** No rule to make target `all'. error (st.com) After importing a project, how fix *** No rule to make target `all'. error community.st.com STM에서는 참 다양한 문제들이 발생하고, 모르는 사이에 조금씩 조금씩 해결되곤 한다. 왜 해결되는지, 왜 문제가 발생한 것인지 알지 못하고 넘어가게 되니 답답할 따름이다. 한참 삽질을 한 오류 중 하나는 위 글들과 같이 디버깅을 하고자 했..
custom dataset을 활용한 CNN, LSTM 튜토리얼 인터넷에 검색해보면, CNN과 LSTM 튜토리얼은 잔뜩 나온다. 하지만, 죄다 기존의 데이터셋을 활용해서 진행하는 튜토리얼들이다. CNN과 LSTM을 쓸 줄 알게 된다는 점에서 그런 튜토리얼들이 나쁜 것은 아니지만, 결국 실제 사용해보기 위해서는 데이터셋을 구축하는 방법부터 진행해야 한다. 시계열 예측 | TensorFlow Core: 기존 데이터셋을 활용하는 튜토리얼 시계열 예측 | TensorFlow Core 시계열 예측 컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요. 이 튜토리얼에서는 TensorFlow를 사용한 시계열 예측을 소개합니다. Convolutional/Recurrent Neural Network(C www.tensorflow.org custom datase..