Про идею в целом.
Идея реально классная и своевременная.
Я бы, как пользователь, такой фильтр использовал бы.

Но нужно рассматривать ситуацию с современным инфополем глобально.

Начнем с того, что все медиа ресурсы кому-то принадлежат.
Также смею предположить, что крупные медиа находятся в руках определенных групп, которых видимо несколько.
Как следствие эти ресурсы работают в интересах этих групп и мы видим как определенный контент всячески поощряется а другой контент зажимается и блокируется.

Давайте предположим что мы создаем некий фильтр, который сами же и должны настроить.

Тут мы получаем первую проблему - подавляющее преобладание контента для мух над контентом для людей, как вы и отметили.
Может получится так, что в определенный момент времени на определенном ресурсе контента для человека не будет вообще.
В этом случае обучение Фильтра будет затруднено тем, что мы не можем указать на контент который для нас Правильный, а только на тот который Не правильный.

Далее. Так как маловероятно, что получится внедрить фильтр в конкретные соцсети или медиа, он видимо должен быть некой надстройкой в браузере или на устройстве, возможно по принципу блокировщика рекламы

По поводу настройки фильра на базе чужого уже сформированного, согласен что это не вариант.
Во первых на примере: смотрю видео определенного автора, скажем на тематику здорового питания, и большенство этих видео мне подходят.
Но при этом у этого же автора есть и дичайшие заблуждения, так же для примера, наклейка на телефон, экранирующая излучение.
Соответсвенно если я применю его настройки фильтра, то и его ошибки внесу в свой конфиг.

И второй момент. Я бы не хотел, чтобы мои "настройки" были доступны кому-то кроме меня. И даже сильно бы этого опасался.

Предварительно такой фильтр может базироваться на ИИ. Что тащит за собой серьезную инфраструктуру и разработку.
И тут мы приходим к маркетингу. Кто будет оплачивать это удовольствие?
Инвестиции от владельцев медиа любых типов врядли возможны, ввиду прямого конфликта потенциального продукта с их интересами.