bakasabo, какие-то фильтры все-таки должны быть, иначе смысл использования ИИ сводится к нулю, когда он начнет выдавать ответы, что 2+2=5, такой ИИ и школьник сможет сделать. ИИ должен думать, а не тупить, иначе это будет не искусственный интеллект, а искусственная тупежка, на которую спроса не будет вообще, ведь тупости в мире и так выше крыши. Мошенники вроде умудряются интегрировать в выдачу поисковиков, которые выдает Алиса или Гемини, что-то свое, возможно и ссылки на фиш или вредоносы под другим соусом, тут простор для деятельности большой. Особенно у ИИ не стоит запрашивать никакие платежные данные, а то мало ли кто-то додумается и получит ложные.
Не уверена, что ИИ сможет научиться думать, потому что этот процесс до конца и человеком не познан, что уж говорить про его систематизацию и оформление в виде технологии. По поводу правдивой и неправдивой информации - тут вопрос в том, какого рода эта информации. Если обратиться к терминологии Канта, к его синтетическим и аналитическим суждениям, то станет ясно, что синтетические суждения базируются на неких априорным знаниях, на том, к чему логическим путем способен прийти каждый человек. И эти суждения очень сложно подделать. Это касается примера с 2+2=5. Это классический пример синтетического суждения. Понятие пятерки не содержится ни в понятии двойки, ни в понятии плюса. Но человек, разложив это суждения на атомарные факты (тут уже подключился Рассел), способен определить ложность данного суждения и прийти к правильному ответу. Поэтому в такого рода суждений ИИ не будет ошибаться, и ему нельзя будет просто скормить фейковую инфу.
А вот что касается аналитических - апостериорных суждений, то есть тех, которые базируются на эмпирии, то тут как раз разворачивается огромнейшее поле для фейков, ведь в конце концов все их можно свести к проблеме интерпретации. Но мы это и без ИИ наблюдаем: соцсети и интернет в целом уже давно прекрасно справляются с ролью распространителя таких фейков. И потому реальность, в которой мы живем, настолько информационно искажена.