Формула такова для каждого ордера. Думаяю можно использовать и для среднего расчета тоже, только циферки подставляй.

покупаем биток за 98$ по курсу 117000 98/117000=0.00083761
fee_maker = 0.01
fee_taker = 0.18
pribil = 0.60

здесь все в долларах
buy_fee = 98/0.18*100 = 0.17640
все затраты на покупку = 98 + 0.17640 + 0.60(pribil) = 98.78640000

sell_fee_formula = 1 - 0.01/100 = 0.9999
результат 98.78640000 / 0.9999 = 98.79627963
sell_fee = 98.79627963 / 0.01 *100 = 0.00988

Курс продажи равняется 98.79627963 / 0.00083761 = 117950