인공지능/이론 (3) 썸네일형 리스트형 Gradient Descent 공식 유도 Gradient Descent 알고리즘의 공식을 수학적으로 유도해보자. 먼저 Loss Function과 Cost Function의 의미를 정의하고 출발하겠다. Loss Function은 정답과 예측값의 일치정도를 나타내는 함수이다. 정답과 예측값이 완전히 동일하다면 그 값은 0이 나올 것이며, 값이 다를 경우 미묘한 차이에는 시큰둥하다가 차이가 커지면 커질수록 값이 무한대로 나아가게끔 과민반응할 것이다. 식은, $$ L(y, h(x)) = \frac{1}{2} (h(x)-y)^{2} $$ 을 사용할 것이다. $h(x)$는 Hypothesis Function이며 예측값을 구하는 함수이다. 식을 보면 MSE(Mean Squared Error) Loss Function에 $\frac{1}{2}$을 붙인 형태인.. 인공지능, 머신러닝, 딥러닝 인공지능부터 차례로 정리하자면, [인공지능] 1. 인공지능은 말 그대로 인간에 의해 인위적으로 형성된 지능을 뜻한다. [머신러닝] 2. 머신러닝은 기계학습이란 뜻으로 말 그대로 기계가 학습함을 뜻한다. 기계라는 대상이 인위적인 방법에 의해 학습이라는 지능적 형태를 갖추게 되므로 머신러닝이라는 정의 자체가 인공지능의 부분집합으로써 포함된다고 볼 수 있다. 예를 들어 테트리스를 매우 잘하는 인공지능 프로그램을 만들었다고 하자. 그런데 그 테트리스 AI는 수 억 번 게임을 되풀이해도 실력이 전혀 늘지도 않고 줄지도 않는다. 이런 경우가 바로 인공지능의 범주에는 포함되지만 머신러닝의 범주에는 들어가지 못하는 것이다. 반대로 그 테트리스 AI가 게임을 반복하며 계속 학습해서 점점 실력이 증진된다면 그 알고리즘은 .. 지도학습 vs 비지도학습 머신러닝(기계학습)에는 지도학습과 비지도학습이 있는데 현재 연구결과나 산업에서 많이 활용되어지고 있는 학습은 지도학습이다. 비지도학습은 지도학습에 비해 마이너하긴하지만 산업적가치와 실현가능성 측면에서 잠재력이 매우 뛰어나 반드시 번창하게 될 분야이다. [지도학습] 지도학습은 특징들과 정답이 있어야한다. 특징은 feature라고 부르며 정답은 label이라 부른다. 오토바이 사진을 보여주면 기계는 바퀴 수, 배기구 위치, 핸들 모양, 안장 모양 등의 특징(feature)들을 파악할텐데 여기에 그 사진이 오토바이라는 정답(label)을 함께 제공한다. 정답을 통하여 올바르게 예측할 수 있게끔 지도해간다는 뜻에서 지도학습이라 부르는데, 이렇게 여러번 반복하여 지도학습시켜주면 점점 올바르게 예측할 확률이 올라가.. 이전 1 다음