Почему ИИ не всегда находит фальшивые отзывы — и что с этим делать

Параллельно Европарламент в своём исследовании 2026 года отметил: генеративный ИИ резко усложнил задачу. Теперь поддельные отзывы можно создавать массово, и они выглядят естественнее. А в академической среде уже появились ИИ-инструменты для проверки peer-review отчётов на дублирование (об этом писала Nature). Но все эти системы объединяет общая слабость — они ищут статистические аномалии, а не истинность.

Почему это вообще интересно

Проблема фальшивых отзывов касается каждого, кто хоть раз покупал что-то онлайн. По разным оценкам, до трети отзывов на популярных площадках могут быть ненастоящими. Мы тратим время, деньги и нервы, полагаясь на чужой опыт, который может быть сфабрикован. ИИ-детекторы обещают очистить информационный шум, но пока не могут отличить искренний отзыв новичка от искусно написанного фейка. Понимание их ограничений помогает не доверять слепо рейтингам и знать, на что обращать внимание самому.

Как это работает простыми словами

Представьте, что вы учите компьютер отличать подделку от правды. Сначала вы показываете ему тысячи настоящих и фальшивых отзывов, помеченных экспертами. Компьютер запоминает характерные признаки: например, у фейков часто слишком эмоциональный язык, мало деталей, странное время публикации (все отзывы выходят за час). Это похоже на то, как опытный продавец на рынке по интонации понимает, что покупатель врёт.

Но современные модели идут дальше: они смотрят не только на текст, но и на поведение аккаунта — как часто пользователь пишет, на какие товары, есть ли связи с другими подозрительными профилями. Гибридная модель из University of East London как раз объединяет оба подхода. Она анализирует, совпадает ли эмоциональный тон с оценкой (восторженный текст при 2 звездах — подозрительно, верно?), и проверяет длину, повторяемость фраз, аномалии в датах.

Что это реально умеет

Модель University of East London показала высокую точность на двух крупнейших платформах — Amazon и Yelp. Она способна находить:

• Массовые накрутки, когда десятки однотипных отзывов публикуются в короткий промежуток времени.
• Отзывы с неестественным эмоциональным дисбалансом — восторг при низкой оценке или злость при высокой.
• Тексты, скопированные или перефразированные из других источников.
• Аккаунты, которые пишут только положительные или только отрицательные отзывы на одни и те же товары.

Европейский парламент подтвердил, что такие системы уже способны повысить detectability (обнаруживаемость) подделок, хотя генеративный ИИ усложняет задачу. Nature сообщила о запуске первого ИИ-инструмента для проверки peer-review отчётов на дублирование — значит, технология уже применяется в ответственных областях.

Что пока НЕ умеет

Главное ограничение: ИИ ищет статистические аномалии, а не правду. Если мошенник напишет один хорошо стилизованный отзыв, не похожий на другие, без явных ошибок и с нормальным тоном, модель может его пропустить. Исследователи прямо указывают: система опирается на признаки вроде эмоционального тона и длины — то есть лучше работает там, где есть выраженные следы манипуляции.

Вторая проблема — зависимость от обучающих данных. Модель тренировали на отзывах с Amazon, Yelp и TripAdvisor. Если перенести её на другой сайт (нишевый магазин или российский маркетплейс), точность упадёт. Паттерны мошенничества там могут быть другими. Обзор 2026 года подчёркивает: переносимость на новые платформы ограничена.

Третье: ИИ не понимает контекст. Он не знает, действительно ли покупатель получил товар, был ли у него такой опыт. Ложные срабатывания возможны, когда искренний отзыв случайно похож на шаблон фейка (короткий восторженный текст от новичка). И наоборот, хорошо замаскированный фейк может пройти незамеченным.

Сколько стоит и когда появится

В открытых источниках нет данных о коммерческой стоимости внедрения такой модели или сроках её промышленного развёртывания. University of East London опубликовала научную работу, а не коммерческий продукт. Однако подобные алгоритмы уже используются крупными платформами (Amazon, Google Maps) в закрытом режиме. Можно ожидать, что через 1–2 года гибридные модели станут доступны как сервис для малого бизнеса или плагины для CMS.

Может ли это появиться в России

Прямой информации о внедрении этой конкретной модели в России нет. Однако российские маркетплейсы (Wildberries, Ozon, Яндекс.Маркет) уже применяют собственные алгоритмы для борьбы с накрутками, часто на основе машинного обучения. Они тоже сталкиваются с теми же ограничениями: хорошо написанные единичные фейки трудно отловить. Вероятно, со временем гибридные подходы, подобные описанному, будут адаптированы и у нас, но точные сроки неизвестны.

Что это изменит через несколько лет

Через 3–5 лет мы, скорее всего, будем видеть на сайтах не просто рейтинг, а «индекс доверия» к отзыву, рассчитанный ИИ. Платформы начнут скрывать или помечать подозрительные отзывы автоматически. Это повысит качество информации, но не решит проблему полностью — мошенники будут адаптироваться, писать более естественные тексты и использовать новые схемы. ИИ-детекторы и генераторы фейков вступят в гонку вооружений.

Для обычного человека главный вывод: не стоит слепо верить ни одному отзыву, даже если он выглядит правдоподобно. Лучше смотреть на профиль автора, дату, соотношение положительных и отрицательных отзывов в целом. И помнить, что идеальный алгоритм, который отличает правду от лжи со 100% точностью, пока существует только в фантастике.

А вы доверяете отзывам в интернет-магазинах? Делитесь в комментариях, попадались ли вам очевидные фейки.

Подпишитесь на «Мир меняется» — главные события мира коротко, понятно и без информационного шума.

#технологии #искусственныйинтеллект #вмире #события