Американские ученые разработали алгоритм, распознающий сообщения интернет-троллей и ботов. Система искусственного интеллекта (ИИ) может определять особенности контент-содержания, характерные для таких сообщений.
«Контентно-ориентированные функции системы», пишут авторы в Science Advances, способны работать без вмешательства человека, однако меняющиеся тактика и стратегии троллей требуют, чтобы ИИ постоянно обучался.
Команда Мейсама Ализаде из Принстонского университета (США) отмечает, что их исследование было основано на конкретном, особенно распространенном типе поста в социальных сетях. В общей сложности они проанализировали 7,2 млн сообщений — как троллей, так и обычных пользователей.
После обучения системы по множеству данных ИИ научился определять тексты троллей: алгоритм учитывает объемы постов, их содержание и ключевые слова.
Тесты показали, что ИИ может не только находить посты троллей, но и вычислять их в других социальных сетях.
По словам ученых, легче всего обнаружить венесуэльских троллей — сложнее китайских и русских.
Алгоритмы поиска на основе контента, говорят авторы работы, безусловно, дают шанс противодействовать потоку фейковых сообщений на разных платформах. «Алгоритм можно использовать, чтобы оценить в реальном времени, сколько троллей на платформе и о чем они говорят», — говорит соавтор исследования Джейкоб Шапиро.
При этом разработчики системы признают, что «выявление троллей не идеальное, но оно может заставить их действовать более креативно или даже вовсе прекратить свою кампанию».
