Хм... а у меня как-то просто через COMVariant всё получилось..
X++:
static void Job_TestExcelConvertFormula(Args _args)
{
COM xlApp; // Excel.Application
COMVariant cv;
;
xlApp = new COM('Excel.Application');
cv = xlApp.ConvertFormula('$A$1:$B$20', 1, -4150);
info(cv.bStr()); // R1C1:R20C2
cv = xlApp.ConvertFormula('R1C1:R20C2', -4150, 1);
info(cv.bStr()); // $A$1:$B$20
}