[기계학습] Iterative Optimization & Gradient Descent
·
기계학습
Vector CalculusChain Rule합성함수의 도함수를 구하는 공식Gradient정의: 다변수 스칼라 함수의 도함수해석: 스칼라장의 최대 증가율의 방향, 편미분들의 집합 ▶ 벡터Jacobian정의: 다변수 벡터 함수의 도함수해석: 그라디언트의 집합 ▶ 행렬 Iterative Optimization (반복 최적화)ML as an Iterative Optimization 기계학습에서 해야 할 일을 식으로 정의하면, 주어진 비용함수 \( J(\underline{θ}) \)에 대해 \( J(\underline{θ}) \)를 최소로 하는 최적해 \( \hat{\underline{θ}} \)​을 찾는 것즉 기계학습은 조건을 충족하는 최적의 파라미터 \( \hat{\underline{θ}} = argmin_..
[기계학습] Intro
·
기계학습
기계학습이란?컴퓨터가 데이터로부터 학습하여 원하는 결과를 얻을 수 있도록 하는 알고리즘이나 수학적 모델을 개발하는 인공지능의 한 분야예를 들어 손글씨 인식을 학습시키고자 하는 경우Task T: 손글씨 인식Performance measure P: 오차율 혹은 정확도Training experience E: 손글씨 데이터P를 통해 T의 성능을 평가하고, 이를 E를 통해 원하는 수준까지 향상시키는 것이 목적아래와 같은 블랙박스를 설계하는 과정이라고 볼 수 있음 기계학습의 종류지도 학습 (Supervised Learning)입력(input)과 출력(output)이 모두 주어진 문제. output을 target 혹은 label이라고도 함회귀 (Regression)연속된 형태로 분포하는 출력 (continuous o..