Вам шашечки, или ехать?  
Когда нужен - запустил, поработал - остановил.
Не понимаю в чем проблема?

Для использования с веб UI можно запускать просто по даблклику по parity.exe - откроется консоль (можно ее свернуть)
Для использования с мистом запускаем как описано тут.
Для закрытия нажать Ctrl+C в консоли.

Парити - консольный клиент с поддержкой веб UI, т.е. это полноценная нода сети
Мист - всего лишь графическая надстройка над консольными клиентами geth/eth, сам по себе он бесполезен.
Когда мы запускаем мист - он автоматом запускает geth если ранее не была запущена другая нода.
Парити значительно быстрее синхронизируется с сетью чем geth/eth и база занимает меньше места.

Связку мист+парити можно использовать вместо связки браузер+парити.
Иначе парити можно использовать только через консоль.