uncertainty 2

[Paper] Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles

DeepMind에서 작성한 논문 "Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles" 논문에 대한 정리입니다. Neural Networks에서 불확실성 (Uncertainty)은 아직 완전히 해결되지 않은 문제입니다. 모델의 불확실성을 예측하는 데 있어서 Bayesian NNs (distribution을 weight로서 학습하는 모델)가 현재 가장 좋은 성능을 보이고 있습니다. 하지만, Bayesian NNs은 계산 복잡도가 높고 학습 절차도 수정이 필요합니다. 본 논문에서는 불확실성을 예측하는데 Bayesian NNs을 대체할 수 있도록 구현이 쉽고, 쉽게 병렬화 가능하며 계산 복잡도도 낮은 (낮은 수의 hyperpar..

논문 리뷰 2019.04.17

불확실성 (Uncertainty)

본 포스트는 Eric Jang의 블로그 게시글을 번역하였습니다. 전문 번역가가 아닌 개인적인 공부 목적이기 때문에 이해가 안가시는 부분은 원문을 읽으시면 도움이 될 것 같습니다. 불확실성(Uncertainty)은 AI safety, risk management, portfolio optimization, scientific measurement, 그리고 insurance와 같은 분야에서 자주 언급이 됩니다. 예를 들어 보면, "기계학습(머신러닝) 모델이 무엇을 모르는지를 스스로 알기를 원한다" "AI가 환자의 증상과 조치에 대해 추천을 할 때, 그것이 어느정도로 신뢰 가능한 정보인지를 우리에게 알려줄 책임이 있다" "Scientific calculations에서 significant figures는 측정..