역함수가 아니고 전치를 구하고 싶으신 것 같네요.(*A)[0][1]과 (*A)[1][0]을 생각해봅시다. 그러면 i=0, j=1일 때 두 개가 바뀌겠죠? 그런데 i=1, j=0일 때 한 번 더 바뀝니다. 그래서 안 변하는 겁니다. i > j일 때만 바꾸면 될 거 같네요.