웨이트초기화를 잘하자.
2020. 8. 15. 00:35ㆍ딥러닝
여러분은 웨이트의 값을 설정할때 어덯게 설정하시나요?????
필자는 웨이트와 바이어스를 설정하는 것이 항상 정해진 코드(개념)인줄 알았습니다. 하지만 오늘 강의를 듣고 나니 제 생각이 틀렸더라구요 (웃음)
저는 이전까지
W = tf.Variable(tf.random_normal([784, 10]))
b = tf.Variable(tf.random_normal([10]))
방법대로 초기값을 설정했었습니다.
하지만 이렇게 하면 문제가 생기더 군요..............
바로 웨이트의 처음 초기값이 '0'이 되게 되면 학습을 하게 되면 웨이트가 0 이기 때문에 학습이 되지 않는다는점.........
여러분은 알고 계셧나요???
'딥러닝' 카테고리의 다른 글
딥 뉴럴 넷의 첫번쨰 문제(학습이 안된다.)_Relu의 탄생 (0) | 2020.08.15 |
---|---|
딥러닝의 기본 개념 (0) | 2020.08.12 |
퍼모먼스의 측정 (0) | 2020.08.11 |
Logistic Classificaiton (0) | 2020.08.11 |
Classification (0) | 2020.08.10 |