목차 Setting up your Machine-Learning Application Train/Dev/Test set train set : 모델을 훈련하는데 사용한다. dev set : 훈련된 모델을 검증하는데 사용한다. test set : 잘 작동하는지에 대한 평가로서 사용한다. dev set은 valid set이라고 부르기도 한다. 이 세개의 set에 대한 비율을 설정해 줘야한다. 비율을 정하는건 데이터의 양에 따라 달라지는데 데이터가 1000~10000개 정도의 적당한 데이터셋에서는 train : dev : test = 8 : 1 : 1 혹은 = 6 : 2 : 2 정도로 사용한다 혹 데이터가 굉장히 많아 1,000,000개 정도의 데이터가 있다면 dev, test set은 훈련이 아니라 검증의 용..
목차 Deep Neural Network 저번에는 Shallow Neural Network를 살펴봤는데, 이젠 좀 더 깊게 만들어보자 $$ L = 4 (#Layers) $$ $$ n^{[l]} = #units in layers l $$ $$ a^{[l]} = activation in layer l $$ $$ a^{[l]} = g^{[l]}(z^{[l]}) $$ Forward propagation in Deep Neural Network Building Blocs of Neural Network $$ Layer l : w^{[l]}, b^{[l]} $$ $$ Forward => Input: a^{[l-1]}, Output: a^{[l]} $$ $$ z^{[l]} = W^{[l]}a^{[l-1]} + b^{..
목차 Shallow Nueral Network 각 layer를 구분하기 위해 $$ a^{[l]} $$ 윗첨자를 붙여 구분한다. 각각의 유닛을 구분하기 위해 $$ a_{u} $$ 아랫첨자를 붙여 구분한다. 하나하나의 unit을 살펴보면 하나하나가 이렇게 구성되어있다. 하나하나의 unit이 각각 로지스틱 회귀를 구성하고 있다. Vectorizing 이것들을 벡터로 나타내면 다음과 같다. 이 하나하나의 훈련예제(training example)들을 한번에 계산 해 볼 것이다. 각각의 훈련예제는 윗첨자 (m)으로 구분한다. $$ z^{(m)} $$ Activation Function 입력을 변환해주는 함수 sigmoid function $$ A^{[l]} = \sigma(Z^{[l]}) $$ $$ a = \fra..
목차 Neural Network Basics Binary Classification -> 이진 분류 뭐가 맞다 아니다 => 1, 0으로 나타낼 수 있는것을 구별하는것 이런 이진분류를 한번 해보도록 하자. 일단 첫번째로 입력과 출력이 필요하다. 이런 하나의 입력과 출력을 training set이라 하고 $$ (x, y) \to x \in \mathbb{R}^{nx}, y \in {1, 0}$$ 라고 말할 수 있다. 이진분류를 이미지로 나타내면 training set은 어떻게 구성될까? 먼저 이미지가 어떻게 표현되는지 알아야 한다. 이미지는 $$ n \times m$$행렬로 이루어져 있고 빨강, 초록, 파란색의 3원색이 각각 어떤 값을 갖고 있는지를 저장한다. 이를 훈련예제로 옮기면 각각의 행렬을 하나의 열..
