Эксперт Денис Ефремов рассуждает о том, что новая программа с ИИ мгновенно определит мошенников в чатах:
Эта тема интересна сразу в нескольких аспектах. Начнем с того, что мошенничество как таковое в цифровой среде вышло на новый уровень. Если раньше мошенники обзванивали людей и выявляли легковерных граждан вручную, то сейчас это делают так называемые роботы и на слух человеку бывает сложно определить, с человеком или роботом он общается. Сейчас системы синтеза речи очень продвинуты.
Однако мошенничества осуществляются по неким алгоритмам – это не разговор на свободную тему, а четкая последовательность фраз. Реакция робота на слова пользователя определенным образом алгоритмизировала. И если раньше мошенники были ограничены количеством людей, которые готовы были обзванивать других, то сейчас в мошенничество ничем не ограничено, потому что роботы могут звонить десяткам тысяч людей одновременно.
С одной стороны, это серьезная угроза. При таком уровне оснащения мошенников их целевой аудиторией ставятся самые широкие массы населения. И, безусловно, мошенники найдут всех легковерных граждан (в первую очередь – людей пожилого возраста или граждан, плохо владеющих инструментарием современных технологий). Это действительно тревожно. Однако так как эти роботы действуют по алгоритму, его можно вычислить и на этот алгоритм можно обучить нейросеть, которая будет выявлять мошенников.
На любое действие есть противодействие, всегда идет своего рода состязание между инструментами нападения и защиты. То, что появилась тема распознавания мошенников, очень здорово.
Наверняка вы знаете, что есть цифровые сервисы, которые подключаются к телефону и позволяют вычислять телефоны мошенников, которые вам звонили. Это делает, например, «Яндекс», «Тинькофф» и так далее. И хотя газета пишет об установке софта на конечные устройства, на мой взгляд, такие нейросети нужно устанавливать централизованно, на уровне операторов сотовой связи. Они могут себе позволить очень мощную, продвинутую защиту – и у них будет гораздо больше информации для обучения и дообучения своих нейронных сетей, потому что они к себе аккумулируют огромные потоки информации, огромный трафик.
Многие уже знают, что качество работы нейросети зависит от обучающей выборке, на которых это нейросеть была натренирована. То есть, чем больше вариантов она успела рассмотреть, тем более точным будет ее прогноз и оценка. С этой точки зрения у операторов сотовой связи гораздо больше выборка, чем у конкретных людей. То же самое справедливо и для социальных сетей, потому что через них тоже проходит огромное количество трафика. Так же обстоят дела и для систем мгновенного обмена сообщениями – например, Telegram. Если системы будут выявлять мошеннические действия на уровне серверов, эффективность, качество и скорость работа таких систем будут несопоставимы выше, чем у систем на конечных устройствах пользователей.
В любом случае это хорошая идея – это давно пора было сделать. И если мы чуть расширим тему, можно будет кое-что еще добавить. Наверняка многие уже слышали про генеративные нейросети – про то, как искусственный интеллект создает тексты, рисунки и так далее. Так вот, если раньше было очень интересно и перспективно создавать системы, которые генерируют контент, то сейчас мы видим огромное количество стартапов, которые вычисляют контент, генерируемый нейросетями. А раз мы можем вычислять это, мы можем вычислять и мошенников – технологии позволяют.