6.multinomial.md

Multinomial 개념

Softmax

• 0 ~ 1 사이의 값
• 전체의 Sum이 1 (확률로서의 의미를 지닌다.)

hypothesis = tf.nn.softmax(tf.matmul(X, W) + b)

One-hot Encoding

가장 큰 값만 1.0, 나머지는 0으로 선택 분류. (argmax)

Logistic cost function vs. Cross Entropy

cost = tf.reduce_mean(-tf.reduce_sum(Y * tf.log(hypothesis), axis = 1))
optimizer = tf.train.GradientDescentOptimizer(learning_rate=0.1).minimize(cost)