Ученые из Чикагского университета разработали нейросеть, которая генерирует фальшивые обзоры. Алгоритм создает настолько правдоподобные рецензии, что отличить их от реальных невозможно. ИИ не только детально описывает выдуманные походы в ресторан, но и дополняет их деталями «из жизни» и полезными рекомендациями. Об этом сообщает интернет-издание Nano News Net.
Алгоритм-рецензент базируется на рекуррентных нейронных сетях (RNN). Этот метод глубокого обучения позволяет быстро и с высокой точностью обучать ИИ на существующих образцах. Исследователи из Чикагского университета предоставили нейросети тысячи реальных отзывов на рестораны и отели, найденных в Сети.
После изучения материала нейросеть научилась генерировать выдуманные обзоры. В интервью Business Insider профессор компьютерных наук и автор исследования Бен Чжао рассказал, что алгоритм не только пишет правдоподобные рецензии, но и успешно проходит автоматизированный тест на плагиат.
Отличить фальшивую рецензию от настоящей можно только с помощью статистических методов — для этого текст нужно прогнать через специальный алгоритм. Однако Бен Чжао считает, что скоро нейросети усовершенствуются настолько, что смогут обмануть даже другие машинные системы.
Ученый также предполагает, что распространение сгенерированных обзоров подорвет всю индустрию рецензий. Тысячи компаний платят пользователям небольшие деньги за написание положительных и отрицательных отзывов. Нейросети позволят свести траты к нулю и автоматизировать процесс. Люди полностью утратят доверие к сайтам с обзорами, так как установить их подлинность будет невозможно.
Своей работой Чжао хочет привлечь внимание к проблемам ИИ. Ученый уверен, что рутинное применение алгоритмов для создания фальшивого контента несет людям реальную угрозу.
По информации https://stimul.online/news/falshivye-obzory-ot-iskusstvennogo-intellekta/
Обозрение "Terra & Comp".
