전체 글 117

Data Science Introduction [1]

저는 아직 Data Scientist가 정확히 어떤 배경지식이 필요하며 필드에서 어떤 역할을 하는지에 대해 알지 못 합니다. 그래서 저는 인터넷에 돌아다니는 방대한 지식들을 바탕으로 공부하려 합니다. 오늘부터 공부하는 모든 내용들을 이곳 블로그 [ Data Science ] 카테고리에 정리할 것이고, 그로인해 스스로 동기부여를 할 수 있기를 기대하고 있습니다. 작심삼일로 끝나지 않기를... 가장 먼저 data scientist들에게 가장 핫하고 많은 고수들이 모여든다고 하는 "Kaggle"을 중심으로 시작하겠습니다. (Kaggle 가입만 해놓고 미뤄둔게 몇 달인지 모르것네) 먼저, 간단하게나마 데이터 사이언스의 개념에 대해서 살짝 정리 해보겠습니다. Wikipedia에 따르면 Data science is..

Batch Normalization?

Batch Normalization : Accelerating Deep Network Training by Reducing Internal Covariance ShiftBatch Normalization은 ICML 2015에 publish된 논문에 소개된 방법으로 쉽게 말하면 전체적인 모델의 학습 과정을 안정화시켜 학습 속도를 향상시키는 방법입니다. 모델을 학습하다보면 Gradient Vanishing / Exploding 같은 문제들이 발생하는데 이러한 원인으로 'Internal Covariance Shift'를 들 수 있습니다. Internal Covariance Shift는 Network가 깊어지면서 값들의 변화 폭이 커지는, 그래서 각 층의 input들의 distribution이 달라지는 현상이라..

머신러닝/Vision 2018.10.23

Recurrent Neural Networks ?

이번 포스트에서는 Recurrent Neural Networks(RNN)에 대해서 간단히 알아보도록 하겠습니다. 포스트 내용의 대부분은 colah's blog에 있는 "Understanding LSTM Networks" 글을 참고하였으며, 개인 공부의 목적으로 한글로 정리하였습니다. Introduction Recurrent Neural Networks는 CNN과 더불어 많이 활용되고 있는 알고리즘입니다. Wikipedia에는 다음과 같이 소개하고 있습니다 "A recurrent neural network (RNN) is a class of artificial neural network where connections between nodes from a directed graph along a seque..

머신러닝/Vision 2018.09.30

LaTeX 활용해서 논문쓰장

대학원 졸업을 앞두고서 이제야 LaTeX를 활용하다니... 요즘 스스로 부족함을 너무 많이 느낀다. 어쨌든, 연구원이든 학생이든 논문을 많이 쓰는 사람이라면 Word가 익숙하지도 않고 정말 많은 불편함을 느껴봤을 것이다. 그래서 나 같은 사람들을 도와주기 위해서 똑똑하신 분들께서 친절히 LaTeX라는 것을 만들어 주셨다. 간단히 말하면 LaTeX는 문서 편집 언어이고, 뭐 길게 설명드리는 것은 제 설명 능력이 부족하기 때문에 직접 체험해보시라고 step-by-step으로 LaTeX로 논문쓰기에 들어가 보겠습니다. [ LaTeX 시작하기 ] 예~전에는 컴파일 프로그램과 에디팅 환경을 다 설치해서 사용했던 것 같은데..., 정말 편한 온라인 LaTeX 에디터가 있습니다. Overleaf와 ShareLaTeX..

추천 시스템 2018.09.18 (6)

Collaborative Filtering

Recommendation Reference : here 추천 시스템은 우리의 삶에 아주 밀접하게 존재하며, 추천 시스템을 활용하는 서비스를 쉽게 찾을 수 있습니다. 우리들은 페이스북에서 알 수도 있는 사람을 친구로 "추천"받고, 아마존에서 우리가 필요로 할지도 모르는 상품들을 "추천" 받고, 넷플릭스를 통해 영화를 "추천" 받으며, 애플 뮤직을 통해서 우리가 좋아할 만한 음악들을 "추천" 받습니다. 넘처나는 정보들 속에 어쩌면 우리는 추천 없이는 정말 필요로하는 것을 찾기 힘든 세상에 살고 있는지도 모릅니다. 그렇다면 우리에게 꼭 필요한 추천 시스템의 구조는 어떻게 되어 있길래 이렇게 우리를 잘 알고 추천을 해줄 수 있는지 추천 시스템의 내부에 대해 자세히 알아보도록 하겠습니다. What is Coll..

추천 시스템 2018.09.15

Convolutional Neural Networks ? [2]

해당 글은 Adit Deshpande의 블로그에 게제되어 있는 "A Beginner's Guide To Understanding Convolutional Neural Networks Part 2"를 개인 공부 목적으로 한글로 재작성한 것 입니다. 원문을 읽으시는게 문맥상이나 모든면에서 훨씬 이해가 쉬울 수 있습니다. Introduction 이번 포스트에서는 이전에 대략적으로 개념만 이해한 ConvNets에 대해서 조금 더 자세히 알아보겠습니다. 모든 개념이 깊게 들어갈수록 복잡하기 때문에 모든 내용을 이번 포스트에 담지는 못 합니다. 따라서, 다양한 참고 자료의 링크들을 추가로 작성할테니 참고하시면서 읽으시면 도움이 될 것 같습니다. Stride and Padding 자, 이전 포스트에서 알아봤던 fil..

머신러닝/Vision 2018.09.06

Convolutional Neural Networks ?

해당 글은 Adit Deshpande의 블로그에 게제되어 있는 "A Beginner's Guide To Understanding Convolutional Neural Networks"를 개인 공부 목적으로 한글로 재작성한 것 입니다. 원문을 읽으시는게 문맥상이나 모든면에서 훨씬 이해가 쉬울 수 있습니다. IntroductionConvolutional neural networks, CNN은 AI, 특히 Deep Learning이 다시 관심을 받고 이렇게 발전할 수 있게 만들어준, 그 만큼 기본적이고 중요한 모델이다. 2012년에 ImageNet competition(computer vision 분야의 올림픽이라 할 수 있는 큰 대회)에서 Alex Krizhevsky에 의해 사용되었고, 이미지 분류 오류율을..

머신러닝/Vision 2018.09.05