Используйте вместо HTML Document контрол ActiveX "Microsoft Web Browser"
В нем можно делать навигацию по страничкам не переключаясь на внешние окна (на его основе сделан хелп в трешке). Создать нужную страничку можно так
X++:
Com com;
;
html.Navigate('about:blank');
com = html.document();
com.Write(ComVariant::createFromStr(
'<html><body>' +
'<a href=http://www.microsoft.com/BusinessSolutions target="_self">Должнo открыться в этом же окне на АХ-форме</a>' +
'</body></html>' ));