질문의 의도가 정확히 파악되지는 않습니다만...

일단 위의 문제는 이번 학기에서는 다루지 않은 section(아마 책이 개정되면서 해당 section이 삭제된 것 같습니다)과 관련된 내용이어서,

과거의 기출문제에 있으나 딱히 걱정하지 않으셔도 되는 것 같습니다. 그래도 궁금하시다면, 아래 링크된 pdf파일을 참고하시기 바랍니다.

http://blogfile.paran.com/BLOG_446431/201005/1273944643_Rotations.pdf

회전변환에 대한 내용은 선형대수학개론에서 주로 다루게 될 내용이지만, 간단히 답변을 달아두겠습니다.

보통 점을 변환하는 것과 함수의 그래프를 변환하는것은 서로 반대 (예를 들면, 점을 x축으로 +1 만큼 움직이는 건 (x,y)를 (x+1, y) 로 움직이면 되지만,

 그래프를 x축으로 +1 만큼 움직이려면 f(x,y)를 f(x-1,y)로 바꾸어야 하죠)로 보입니다. 헷갈린다고 하신 부분이 아마 이부분이 아닐까 싶은데요,

평행이동변환을 예로 설명을 드릴게요. 만약 점 (x,y)가 x축으로 a, y축으로 b만큼 평행이동한다면 그 점의 좌표는 (x+a, y+b)가 됩니다.

그래프의 평행이동은 상황이 조금 다릅니다. 그래프 f(x,y) = 0 의 각 점을 x축으로 a, y축으로 b만큼 움직여서 만든 그래프를 g(x,y) = 0 이라고 합시다.

그럼 어떤 점 (x,y)가 f(x,y)=0 위에 있을 때, (x+a, y+b)는 g(x,y)=0 위에 있어야 합니다. 따라서 다음과 같은 결과를 얻습니다.

" g( x+a, y+b ) = 0        if and only if        f ( x, y ) = 0 "

여기서 g( x+a, y+b ) = f(x,y) 로 둔다면 위의 문장을 만족하게 되고, 여기서 x를 x-a로, y를 y-b로 치환하면, g(x,y) = f( x-a, y-b ) 를 얻습니다.

흔히 점을 변환할 때랑 그래프를 변환할 때, 변환의 방향이 서로 반대로 되는 것처럼 보이는 이유는

그래프의 평행이동이 점을 직접 움직이는게 아니라 "해당 함수의 그래프를 만족하는 점이 x+a, y+b가 되도록 함수를 조정하여 재정의하는 것"이기 때문입니다.

마지막으로, 좌표축을 직접 변환하는 것은 xy좌표계를 x축을 a만큼, y축을 b만큼 움직여서 새로운 XY좌표계를 얻었다고 할 때,

X = x+a, Y = y+b가 됩니다. 이것을 그대로 대입하시면 좌표축을 이동한 것에 대한 변환식도 모두 얻으실 수 있습니다.

회전변환에 대해서도 모두 같은 이야기가 성립합니다.

이 부분은 여기에 적기엔 다소 불편한 면이 있어서 혹시 더 궁금하시다면 연락하시고 찾아오시길 바랍니다^^