[강의내용] 7.8(p399)-7.9

●n개의 평면의 데이터들의 최소제곱근사직선(least squares line of best fit)과 오차를 최소로 하는 m차 근사다항식을 구하는 방법을 살펴보았습니다.
●직교기저(orthogonal basis)와 정규직교기저(orthonormal basis)의 정의
●R^n이 영벡터를 포함하지 않은 직교집합은 항상 일차독립입니다.
●W로의 정사영에서 W의 기저를 정규직교기저{v1,...,vk}로 잡고 이들을 열로 하는 행렬 M을 생각하면 M^{T}M=I이므로 proj_W b=proj_col(M) b=MM^{T}b가 됩니다.
●따라서 proj_W b=(b*v1)v1+(b*v2)v2+...+(b*vk)vk=proj_v1 b + proj_v2 b +...+ proj_vk b가 됩니다.
●특히, b가 W의 원소이면 b=proj_W b 이므로 b=(b*v1)v1+(b*v2)v2+...+(b*vk)vk로 표현할 수 있습니다.
●P가 어떤 부분공간 위로의 정사영을 표현하는 행렬이면 tr(P)=rank(P)가 됩니다.
●[Gram-Shumidt Process] 영공간이 아닌 임의의 부분공간은 정규직교기저를 같습니다.
●기저 {w1,...,wk}를 G-S process로 직교기저 {v1,...,vk}를 얻은 경우
(1) span{w1,...,wj}=span{v1,...,vj}
(2) {v1,...,vj} ; span{w1,...,wj}의 직교기저
(3) vj⊥{w1,...,wj-1}
●영벡터를 포함하지 않은 W의 직교집합은 일차독립이므로 W의 기저로 확장할 수 있고 따라서 G-S process를 이용해 (정규)직교기저까지 확장할 수 있습니다.

[주의사항]

●Section 7.9에서는 정규직교기저의 여러가지 특징을 설명하고 있으므로 정규직교기저가 아니면 성립하지 않은 명제들이 많습니다.
●영벡터를 포함하는 집합은 직교집합은 될 수 있지만 정규직교집합은 될 수 없습니다.
●G-S process의 기하적 의미를 잘 이해하시기 바랍니다.

[읽기과제]

●Ex5,7(p400-402) 최소제곱근사다항식 구하는 문제

[TF 문제 정답]

●7.8  D2 A(A^{T}A)^{-1}A^{T}b / (A^{T}A)^{-1}A^{T}b / b-A(A^{T}A)^{-1}A^{T}b / ||b-A(A^{T}A)^{-1}A^{T}b|| / (A^{T}A)^{-1}A^{T}
●7.9  D3 영벡터를 얻는다 D4 AA^T 는 col(A)로의 정사영 D5 (a)same (b) col(P)의 기저들을 열로 만든 행렬 (c)no D6 TFF(영공간을 제외하면 T)T