То есть такая транзакция будет висеть в мемпуле какое то время, затем удалится из мемпула и комиссия с биткоинами которые пересылали вернется на кошелек или она опять пойдет в мемпул автоматически и так до тех пор пока не обработается.
Нет. Она будет висеть в мемпуле какое то время, а потом просто пропадет, и биткоины вместе с комиссией вернутся на кошелек. А вот КОГДА пропадет, это уже другой вопрос. Может и через 2 дня пропасть, а может и месяц висеть в мемпуле. От многих условий зависит.
Например .если в твоей ноде эта транзакция лежит в мемпуле, то твоя нода будет постоянно ее транслировать, таким образом увеличивая время которое она проведет в сети. Поэтому первым делом при желании именно отмены (а не RBF или CPFP ) нужная транзакция удаляется из собственного мемпула. Например командой
removeprunedfunds