수학(Mathematics)21 [벡터 미적분학] 벡터 미적분학이란? 1. Vector Calculus(벡터 미적분학) Machine Learning에서는 Gradient(기울기) 개념을 자주 사용한다. Gradient는 가장 가파른 경사의 방향을 향하기 때문에, 머신러닝 모델에서 학습을 수행하기 위해 필수적이다. 이러한 Gradient를 다루기 위해 가장 기초가 되는 도구가 Vector Calculus로, 머신러닝에서 필수적이다. 2. Objective Function(목적함수) Machine Learining은 결국 Objective function를 최적화하는 작업이다. 이러한 최적화 작업의 일반적인 메뉴얼은 아래와 같다. (아래 ⅰ ~ ⅲ의 과정은 모든 Machine Learning 분야에서 동일하며, 목적함수만 목적에 따라 바뀐다.) 1) 항상 초기 자료에는 노이.. 2023. 5. 15. [연속확률변수] 지수확률변수 (Exponential Random Variable) 3. Exponential Random Variable(지수확률변수) 3.1. PDF PDF가 𝜆>0의 범위에서 다음과 같은 Continuous random variable을 Exponential Random Variable이라 부른다. 3.2. CDF Exponential Random Variable의 CDF: F(x)는 다음과 같다. 이에 대한 증명은 아래와 같다. 3.3. Expectation Exponential Random Variable의 Expectation은 다음과 같다. 이에 대한 증명은 아래와 같다. 3.4. Variance Exponential Random Variable의 Variance는 다음과 같다. 이에 대한 증명은 아래와 같다. 2023. 5. 15. [연속확률변수] 정규확률변수 (Gaussian/Normal Random Variable) 1. Unit Normal Random Variable(표준정규확률변수) 1.1. PDF Normal distribution에서 𝜇=0 이고, 𝜎=1 인 Unit normal distribution의 PDF는 다음과 같다. 위 f(x)가 실제로 PDF인지의 증명과정은 아래와 같다. 1.2. Expectation Unit normal distribution의 Expectation과 증명과정은 아래와 같다. 1.3. Variance Unit normal distribution의 Expectation과 증명과정은 아래와 같다. 2. Normal (Gaussian) Random Variable(정규확률변수) 2.1. PDF Normal Random Variable의 PDF는 다음과 같다. X가 이러한 PDF.. 2023. 5. 15. [연속확률변수] 균일확률변수 (Uniform Random Variable) 1. Uniform Random Variable(균일확률변수) 확률변수 X의 Probability density function이 다음과 같이 주어지면, X를 구간 (a,b)에서 Uniform random variable이라 한다. X가 (a,b)의 어떤 특정한 부분구간에 포함될 확률은 그 부분구간의 길이와 같다. 1.1. PDF 확률변수 X의 Probability density function이 다음과 같이 주어지면, X를 구간 (a,b)에서 Uniform random variable이라 한다. X가 (a,b)의 어떤 특정한 부분구간에 포함될 확률은 그 부분구간의 길이와 같다. 1.2. CDF Uniform Random Variable의 CDF는 다음과 같다. 이에 대한 증명은 아래와 같다. 1.3. .. 2023. 5. 15. [연속확률변수] 기댓값과 분산 (Expectation and Variance) 1. Expectation(기댓값) 유도하는 전체적인 흐름은 dicrete random variable과 같다. Definition 1) Continuous Random Variable의 기댓값은 다음과 같이 정의한다. Lemma 2.1) Non-negative random variable Y에 대해 다음이 성립한다. Lemma 2.1의 증명은 아래와 같다. 이때 범위가 (-∞,∞)이 아니라 (0,∞)인 이유는, Y가 non-negative random variable이기 때문에, (-∞,0) 에서는 값이 0이다. Proposition 2.1) X가 확률밀도함수 f(x)를 가진 연속확률변수이면, 임의의 실숫값 함수 g에 대해 다음이 성립한다. 이 proposition 2.1은 Lemma 2.1을 이용하여.. 2023. 5. 14. 이전 1 2 3 4 5 다음
