본문 바로가기

전체 글

(393)
휴대폰 쳐다보는 습관 고치기: 3일차 다시금 생각을 하는 삶을 살고 싶다고 말한 현재, 가장 크게 바꿔야 하는 습관은 휴대폰을 보는 습관이다. 정확히 1년 전에도 똑같은 말을 하며 글을 올린 바 있다. 휴대폰 쳐다보는 습관 고치기: 2일차 (tistory.com) 휴대폰 쳐다보는 습관 고치기: 2일차 이틀 동안 휴대폰을 왜 쳐다보고 있는지에 대한 다양한 가설을 세워봤다. 1) 하는 일이 막혀서: 집중을 한참 하다가도 휴대폰을 보고 싶다는 갈망이 샘솟는 걸 느낄 때가 있다. 2) 하는 일이 재미 mech-literacy.tistory.com 무슨 이유에서인지, 휴대폰을 보는 이유가 "휴대폰을 보고 싶기 때문" 이라는 수준의 사고에서 그쳤다. 믿기지 않을 정도로 얕은 수준의 사고 방식인데 현재는 좀 더 명확한 사고의 흐름이 가능하다. 휴대폰을 ..
생각하며 살기를 멈추었던 이유 뭔가를 쓰는 습관은 내게 굉장한 일이다. 내가 뭔가 쓰기 위해서는 신경을 곤두세우지 않으면 안된다. 말이 되는 문장인지, 감정에 치우진 것은 아닌지 검토하는 것도 물론 한 몫을 한다. 연필로, 펜으로 쓰는 것은 그나마 쉬운 줄 알고 노트에 이 글을 쓰다가, 그마저도 만만치 않다는 것을 깨닫고 다시금 블로그에 접속하여 글을 옮겨 담는다. 신경을 곤두세우지 않으면 안되는 본질적인 이유는, 내 머리로 생각하며 살기를 멈췄기 때문이다. 조금만 빈 틈이 보이면 유튜브 시청, 넷플릭스 시청. 아이패드로 그리는 그림 실력도 꽤나 많이 늘었다고 생각된다. 아무 생각도 하지 않으면서, 보이는 대상을 그림으로 잘 옮겨담았는지만 신경쓰면 되기 때문이다… 아무튼 내 상황을 직시하기에 너무 머리 아파하는 탓이다. 인지부조화인 ..
[딥러닝 공부] 2일차: Transformer를 공부하기 전에 훑어보는 LSTM (이론편) RNN (Recurrent Neural Network)이란, 아래 하나의 그림으로 표현이 가능하다. recurrent 라는 말이 의미하듯 (재현하다, 재발하다), 연속적인 데이터가 들어올 때, 동일한 블록을 거쳐서 연속적인 Output을 내놓는 형태의 Neural Network라고 할 수 있겠다. 연속적인 Output의 대표적인 예시가 언어의 문장 구조이기에 번역 등의 업무에 많이 쓰이지만, 이미지 해석 등의 영역에도 충분히 쓰일 수 있다. 하지만 단순한 RNN 블록으로는 한계가 있었는데, 바로 문장이 길어질수록 초반에 들어온 정보를 잘 기억하지 못한다는 것이다. 이런 현상이 나타나는 이유는 Gradient Vanishing 문제와 연관이 있다고 하는데, 상세한 내용은 아래 논문(링크)을 참고하면 좋을 ..