Выход транзакции со скриптом, содержащим OP_RETURN, считается невалидным, поэтому список UTXO при этом не увеличивается.
Почему же невалидным? Вполне себе валидный, то есть разрешенный правилами консенсуса. Этот выход нельзя потратить, поэтому его можно считать уже потраченным, то есть действительно можно не хранить в базе непотраченных выходов.