AbilityCash не будет нуждаться в инсталляторе. В реестр всё равно будет записываться немного информации, но это всё нейтральные данные: например, положение окна программы из прошлого сеанса. Не думаю, что в этом есть какая-то секретность.
 
И, конечно, с флешки тоже всё должно нормально запускаться.