Пока сделал так:
X++:
client server static int getLastError()
{
int err;
err = DLL::lastDLLError();
return err ? err : #ERROR_FILE_OPERATION; //SHiSHok, server site call returns 0
}ну и в WinAPI::formatMessage добавил обработку #ERROR_FILE_OPERATION
по крайней мере теперь есть реакция на ненормальное завершение файловых операций.