딥러닝 기초 이론/밑바닥부터 시작하는 딥러닝 이론
7.수치미분과 기울기
nosungmin
2023. 1. 22. 20:25
1번식
1번 식에 h를 10^-4로 설정하고 2번 식으로 근사시킨다.
3번 식
하지만 3번식이 성립함으로
4번식으로 미분계수를 근사시킬수가 있는데 4번식이 오차가 더 적음으로 4번식을 사용한다.
아래에서 기하학적으로 그 이유를 알아보자.
위의 그래프에서 파란 선은 2번식의 기울기, 붉은 선은 4번식의 기울기인데 초록 선과의 거리가 위의 그래프를 보다싶이 붉은 선이 더 가깝다!
<일변수 미분 vs 다변수 미분>
위 식에서 Dv는 방향이다.
<방향미분>
위 식에서 f(x)는 상수로 취급한다. 쎄타를 변수로 취급한다.
위의 식이 인공지능에서 쓰이는 아주 중요한 미분정리이다.