Spaces

Spaces

함수 공간(Function Space)

---

• 함수의 집합. 각 공간의 한 점은 함수다.

  

  • 참고

    

    

  ref. https://freshrimpsushi.github.io/posts/various-function-space/

  https://freshrimpsushi.github.io/posts/relationship-between-l2-space-and-l1-space/

Metric Space (거리기준 공간)

---

거리공간$(\mathcal{X}, \rho)$은 공간 $\mathcal{X}$와 distance metric(거리기준) $\rho$의 쌍 $(\mathcal{X}, \rho)$ 이다.

• distance metric의 조건

  

  cf. https://freshrimpsushi.github.io/posts/metric-space/

• 거리공간 예시

  1번째와 2번째는 공간만 바뀐것 확인 가능

  4번째는 $L_{2}(\mathbb{R})$이라고 함.

  

Vector Space (벡터공간)

---

벡터들간의 덧셈 연산과 스칼라에 의한 곱 연산이 다음 8가지 조건을 만족하는 공간을 말한다.

첫 번째 공간 이외에 2,3,4와 같이 다양한 공간들이 벡터공간이다.

a = (a1, a2, ... ) 인 벡터일 때,

$l_{1}(a) = \Sigma_{i=1}^{\infty} |a_{i}| < \infty$

cf. https://freshrimpsushi.github.io/posts/definition-of-vector-space/

https://freshrimpsushi.github.io/posts/l1-space/

Normed Vector Space (벡터공간, 노름)

---

https://freshrimpsushi.github.io/posts/norm-in-linear-algebra/

노름 벡터 공간$(\mathcal{F}, ||.||)$은 벡터공간과 노름에 대한 쌍이다.

노름은 아래 조건을 만족하는 함수다.

• 예시

  

$||.||_{\infty}$ 맥시멈 놈은 단순하게 최댓값만 취하는 노름이다

노름이면, Distance Metric이다

• Inner Product Space (벡터공간, 내적)

  내적공간$(\mathcal{F}, \left\langle .,. \right\rangle)$은 벡터공간과 내적의 쌍이다.

  내적함수는 어떤 실수를 반환하는 함수이다.

  $\left\langle .,. \right\rangle$의 의미는 $\left\langle .,. \right\rangle(f,q) \rightarrow \mathbb{R}$

  (f,g)를 받아 실수를 반환한다는 것이다.

  • inner product의 조건

    

  • Inner product space 예시

    cf. https://freshrimpsushi.github.io/posts/inner-product-space/

    

    첫 번째 예시는 가장 익숙한 유클리디안 내적공간이다. x, y는 열벡터이다.

    두 번째 예시는 PSD(positive semidefinite) A에 관련해 $x^TAy$ 내적연산을 한 실수값에 대한 공간이다.

    PSD

    

    https://stanford.edu/~shervine/l/ko/teaching/cs-229/refresher-algebra-calculus

    예시 - https://m.blog.naver.com/PostView.naver?isHttpsRedirect=true&blogId=sw4r&logNo=221157302215

    세 번째와 네 번째 예시는 l2과 L2 함수공간에서의 내적공간이다. L2에서 f, g는 어떤 pdf로 설정할 수 있다.

    마지막은 두 행렬의 각 원소곱을 합친 것이고, 이것이 두 행렬의 내적공간에 대한 정의이다.

  • 내적

    내적은 노름이고, 거리 지표임을 내포한다.

    따라서, 우리가 자연스럽게 사용한, 실수공간에서의 내적, l2 노름, 유클리디안 거리는 여러 다른 방안 들 중에서의 한 선택이었다.

    다양한 내적, 노름, 거리들의 방안들이 있다.

    

    코시슈바르츠 부등식은 어떤 가능한 내적에 있어 위가 성립함.

    또한 L2 노름에서도 코시슈바르츠 공식이 성립한다.

  • 정규직교기저(Orthonormal basis)

    L2의 는 2번과 같다

    

References

---

• https://www.youtube.com/watch?v=2BHjV2CobFo&list=PLRCdqbn4-qwrecUfMtAEhGOfLsnJh_lXY