웨이트초기화를 잘하자.

2020. 8. 15. 00:35딥러닝

여러분은 웨이트의 값을 설정할때 어덯게 설정하시나요?????

필자는 웨이트와 바이어스를 설정하는 것이 항상 정해진 코드(개념)인줄 알았습니다. 하지만 오늘 강의를 듣고 나니 제 생각이 틀렸더라구요 (웃음)

저는 이전까지

W = tf.Variable(tf.random_normal([784, 10]))
b = tf.Variable(tf.random_normal([10]))

방법대로 초기값을 설정했었습니다. 

 하지만 이렇게 하면 문제가 생기더 군요..............

바로 웨이트의 처음 초기값이 '0'이 되게 되면 학습을 하게 되면 웨이트가 0 이기 때문에 학습이 되지 않는다는점.........

 

 

여러분은 알고 계셧나요???

 

 

'딥러닝' 카테고리의 다른 글

딥 뉴럴 넷의 첫번쨰 문제(학습이 안된다.)_Relu의 탄생  (0) 2020.08.15
딥러닝의 기본 개념  (0) 2020.08.12
퍼모먼스의 측정  (0) 2020.08.11
Logistic Classificaiton  (0) 2020.08.11
Classification  (0) 2020.08.10