마지막 COM 오류(SetErrorInfo/GetErrorInfo) 디버깅하기


이 글은 다음 사이트에 올라온 글을 참고한 것이다.

Debugging the last COM Error (SetErrorInfo/GetErrorInfo)

COM은 컴포넌트들 간의 오류 메시지를 주고받기 위하여 API들을 사용하는데, 이 API들이 오늘 얘기할 ole32!GetErrorInfo/ole32!SetErrorInfo이다. Visual Studio 역시 동일한 목적으로 이 API들을 사용하고 있으며, 이 글에서도 이 API들에 대해서 중점적으로 설명할 것이다.

우선 마지막 오류 값을 설정하는 API들은 근본적으로 그리 좋은 방식이 아니라는 점을 밝혀두고 싶다. 이 API들의 기원을 보면 일반적인 C 방식의 프로그래밍에서부터 우리가 쉽게 접할 수 있었는데, 도스용 C 프로그래밍을 할 때에도, 오류가 발생하면 언제나 오류 값이 프로그램의 어딘가에 있는 변수에 마지막 오류 값으로 저장되곤 했다.

* 참고 : 디버깅 중에는 Watch 창에서 @err,hr 을 입력하여, 마지막 오류 값에 대한 정보를 얻을 수 있다.

하지만, 이러한 방식은 오류 값이 시시 때때로 변한다는 문제점과 동기화 문제에 있어서 프로그래머에게 잘못된 정보를 제공하는 경우가 많기 때문에, 이 정보는 아주 기초적인 정보만을 제공한다는 점과 완전히 신뢰해서는 안된다는 점을 미리 알아둘 필요가 있다. 이에 대한 예로는 [디버깅 전쟁 이야기] 현재 폴더의 위치와 상대 경로의 위험성를 참고하도록 한다.

어찌되었든간에, 이 API들을 사용하는 코드를 디버깅한다치면, 다음과 같은 두가지 질문을 할 수 있겠다.

1. 지금 얻을 수 있는 정확한 마지막 오류 값은 무엇인가?
2. 마지막 오류 값이 변경되는 시점에 중단점을 활성화시킬 수 있을까?

정답!

1. Last Error = (IErrorInfo*)*(DWORD*)(272 + *(DWORD*)(@tib+3968))
2. '272 + *(DWORD*)(@tib+3968),x' 를 평가한다. 이 값을 이용하면 현재 스레드에 대한 마지막 오류 값을 저장한 주소를 알려줄 것이다. 그리고 그 주소에 데이터 중단점을 설정하도록 한다.

당연하게도, 마지막 오류 값의 기본 원리는 누구나 접근할 수 있는 공간에 오류 값을 설정하는 방식이므로, 질문에 대한 답 역시, 해당 위치를 알 수 있다면 상당 부분 해결되었다고 볼 수 있다.

우선, @tib는 현재 스레드의 정보 블록이 위치한 메모리 위치를 말해주는 디버거가 제공하는 슈도-레지스터이다. TIB, 또는 TEB(Thread environment block)는 운영체제가 스레드에 대한 정보(예외 처리 함수나 TLS(Thread local storage) 변수등)를 보관하는 창고이다. 다음은 winternl.h에서 가져온 TEB의 정의이다.

typedef struct _TEB {
    BYTE Reserved1[1952];
    PVOID Reserved2[412];
    PVOID TlsSlots[64];
    BYTE Reserved3[8];
    PVOID Reserved4[26];
    PVOID ReservedForOle;  // Windows 2000 only
    PVOID Reserved5[4];
    PVOID TlsExpansionSlots;
} TEB;
이 중에서 유심히 살펴봐야 할 부분이 ReservedForOle 포인터이다. 이 값은 모든 OLE 데이터를 가리킨다(마지막 오류 값 포함). 그리고 '3968'이 TEB 내에서의 'ReservedForOle'를 가리키는 값이다(직접 계산해 보면 알 수 있다). 이 값은 '&((_TEB*)0)->ReservedForOle'와 같은 식으로 쉽게 알 수 있다.

이제 마지막 오류 값이 어디에 저장되는지를 알아야 하는데, 이 값을 얻기 위해서 다음과 같은 코드를 작성하였다.

      CComPtr pError;
      pError.Attach(new CMyError());

      SetErrorInfo(NULL, pError);
이 프로그램을 실행시킨 다음, OLE 데이터의 주소를 메모리 창에 드롭한 다음, OLE가 'pError' 값을 어디에 저장되어 있는지를 확인해본다. 내 컴퓨터에서는 272 바이트 떨어진 곳에 마지막 오류 값을 저장하고 있었다.

마지막으로 하나만 더 언급을 하자면, 왜 {,,ole32}_SetErrorInfo@8과 같은 방식으로 중단점을 설정하지 않았는가라고 묻는다면, COM은 여러분이 교차 스레드 호출이 있을 시마다 이 오류 값을 내부적으로 업데이트하기 때문이다. 이 경우에는 SetErrorInfo API를 호출하지 않는다.