А что значит "без успеха"? Для запуска программы из инсталлятора Inno Setup используется директива [Run]: http://www.jrsoftware.org/ishelp/index.php?topic=runsection

Параметры для запуска regasm можно найти здесь: https://msdn.microsoft.com/ru-ru/library/tzat5yw6(v=vs.110).aspx

"Так же интересует вопрос как сделать тихую установку в Inno Setup"

См. Setup Command Line Parameters