(1)P(cosx,sinx),Q(sinx,cosx)

(2)f(x)=(cosx-a,sinx+a)*(sinx+a,cosx-a)
=2sinxcosx+2a(cosx-sinx)-2a^2

(3)令cosx-sinx=t,根据题意,x∈[0, π],
t=√2cos(x+π/4)∈[-1,1],
由t^2=(cosx-sinx)^2=1-2sinxcosx,所以2sinxcosx=1-t^2)
所以f(x)=h(t)=-t^2+2at-2a^2+1 ,对称轴为:t=a
所以,当a<=-1时,g(a)=h(-1)=-2a-2a^2;
当-1<a<1时,g(a)=h(a)=1-a^2;
当a>=1时,g(a)=h(1)=2a-2a^2.