От фишинга к фримиуму: новая эра социальной инженерии, нацеленная на ИИ-инструменты сотрудников

От фишинга к фримиуму: как изменилась социальная инженерия в эпоху ИИ

Социальная инженерия больше не ограничивается фишинговыми письмами, поддельными вложениями и звонками от «службы безопасности». Модель атаки изменилась: теперь злоумышленнику не всегда нужно напрямую выходить на сотрудника, пугать его или заставлять срочно что-то сделать.

Сегодня сотрудник сам ищет удобный инструмент для работы, сам находит ИИ-сервисы, сам загружает туда данные и сам становится источником риска для компании. Именно в этом и заключается главный сдвиг: если раньше сотрудников учили не переходить по ссылкам и не открывать подозрительные письма, то теперь этого уже недостаточно.

Фримиум — это модель, при которой пользователь получает бесплатный доступ к функциям платного цифрового продукта. В контексте ИИ это могут быть сайты-агрегаторы, Telegram-боты и другие сервисы, которые обещают быстрый и удобный доступ к нескольким нейросетям сразу, часто без регистрации и без очевидных ограничений.

Для сотрудника это выглядит как удобный рабочий инструмент: не нужно разбираться в официальных сервисах, оплачивать подписки, проходить регистрацию или работать на иностранном интерфейсе. Можно просто открыть сайт, вставить данные и получить результат.

Именно в этом удобстве и заключается проблема.

Раньше злоумышленник пытался попасть внутрь компании через человека: отправлял письмо, имитировал контрагента, создавал ситуацию срочности, заставлял открыть вложение или передать данные. Основная задача была в том, чтобы сотрудник ошибся под давлением или из-за невнимательности.

Теперь всё устроено иначе. Сотруднику не нужно ничего присылать — он сам пойдёт искать решение своей задачи. Он сам найдёт ИИ-сервис, сам решит, что это удобно, и сам загрузит туда информацию, которая может быть чувствительной для бизнеса.

То есть атака строится не на страхе, а на пользе. Не на принуждении, а на желании работать быстрее и эффективнее.

Проблема в том, что в ИИ-сервисы могут попадать самые разные данные компании:

• договоры и приложения к ним;
• код продуктов и фрагменты разработок;
• маркетинговые стратегии;
• финансовые данные;
• технические задания;
• сведения о средствах защиты;
• сетевые схемы, адреса, таблицы доступа;
• описания внутренних проблем и незакрытых рисков.

Сотрудник при этом часто не воспринимает такие действия как угрозу: для него это всего лишь способ быстрее подготовить письмо, проверить документ, оформить таблицу, оптимизировать код или структурировать информацию.

Но с точки зрения безопасности это уже передача внутренних данных во внешний неконтролируемый сервис.

По смыслу вебинара ключевой риск здесь не только в самой передаче данных, но и в доверии, которое формируется у пользователя к такому сервису.
Человек может несколько раз воспользоваться инструментом без видимых последствий, получить хороший результат и привыкнуть к нему. После этого он начинает загружать всё больше информации и уже не воспринимает сервис как потенциально опасный.

Дальше данные могут:

• сохраняться на сторонних серверах;
• использоваться для последующей таргетированной атаки;
• попадать в нелегальный оборот;
• использоваться конкурентами;
• становиться основой для дальнейшего фишинга или разведки.

Речь идёт не только о прямом взломе. Даже если злоумышленник не получил пароль или доступ сразу, он может собирать контент постепенно, чтобы потом использовать его точечно и более эффективно.

Одна из главных мыслей — классические СЗИ не всегда готовы к таким сценариям.
Если сотрудник заходит на внешне легитимный сайт и вручную вставляет туда данные, то это не выглядит как типовая вредоносная активность. Здесь нет исполняемого файла, нет явного вредоносного вложения, нет классического фишинга. Трафик может идти по HTTPS, сам сервис может выглядеть обычным и не вызывать подозрений.

В такой модели защите сложнее увидеть контекст: не факт, что система поймёт, что именно сотрудник отправил наружу и насколько это критично для компании.

Поэтому проблема уже не сводится к блокировке вредоносных файлов или ссылок. Это вопрос контроля поведения, понимания контекста и выстраивания новых правил работы с ИИ-инструментами.

Какие сценарии защиты обсуждались

Мы выделяем несколько подходов к защите:

1. Разрешённые списки сервисов
Один из вариантов — определить, какими ИИ-сервисами в компании пользоваться можно, а какие должны быть запрещены. Это может быть:

• собственная развернутая инфраструктура;
• одобренные корпоративные инструменты;
• ограниченный список проверенных внешних сервисов.

Проблема такого подхода в том, что новые сервисы появляются постоянно, а сотрудники могут искать обходные пути, если одобренный инструмент покажется им неудобным или недостаточно функциональным. Значит, одних только белых списков недостаточно: их нужно постоянно поддерживать, обновлять и сопровождать.

2. Адаптация DLP и инструментов контроля
Ещё один вариант — использовать решения, которые могут лучше понимать контекст передаваемых данных и отслеживать такие сценарии. Но и этот путь скорее помогает реагировать на последствия или выявлять рискованные действия, чем полностью предотвращать их в моменте.

3. Новый awareness
Основной акцент в вебинаре сделан именно на этом.

Если раньше awareness строился вокруг реакции на угрозу извне, то теперь его задача — научить сотрудников правильно пользоваться самими инструментами. Не просто «не переходите по ссылкам», а:

• какие данные можно загружать в ИИ-сервис;
• какие нельзя;
• как выбирать инструмент;
• почему бесплатный и удобный сервис не означает безопасный;
• что любая информация, отправленная во внешний ИИ, может стать доступной третьим лицам.

Если сервис для пользователя полностью бесплатен и непонятно, как он зарабатывает, значит товаром могут быть сами данные пользователя.

Что нужно объяснять сотрудникам

Людей нужно учить не только распознавать атаку, но и осознанно работать с новыми цифровыми инструментами.

Сотрудники должны понимать, что нельзя:

• вставлять код собственных приложений;
• описывать архитектуру инфраструктуры;
• загружать коммерчески чувствительные документы;
• передавать финансовые или юридические данные;
• обсуждать внутренние проблемы безопасности компании;
• использовать внешние нейросети для анализа закрытой информации.

Иначе сотрудник, который просто хочет ускорить свою работу, становится источником серьёзной угрозы для организации.

Главный сдвиг: теперь нужно защищать не только сотрудника, но и от сотрудника

Сотрудники не становятся злоумышленниками в прямом смысле, но могут стать угрозой для компании просто потому, что стремятся работать быстрее и удобнее.

Это не попытка навредить. Наоборот — чаще всего речь идёт о желании быть полезным, закрывать задачи быстрее и использовать современные инструменты. Но именно поэтому традиционная логика защиты перестаёт работать: нельзя просто запретить всё или рассчитывать, что пользователь сам догадается, где проходит граница допустимого.

Теперь задача ИБ — сделать так, чтобы сотрудники пользовались такими инструментами осознанно и в рамках безопасной модели.

Почему этого нельзя решить только продуктами

Безопасность компании — это не только закупка решений и установка новых средств защиты. Во многих случаях важнее системный подход: объяснение правил, обучение сотрудников, выстраивание внутренней экспертизы и понятного процесса использования новых технологий.

Если сотрудники не понимают, как безопасно работать с ИИ-сервисами, организация будет бесконечно бороться уже с последствиями. Если же внутри компании появляется центр экспертизы, который помогает людям пользоваться новыми инструментами правильно, уровень киберкультуры начинает расти, а риски становятся управляемыми.

Где здесь место специализированных решений

Проблема фримиум-ловушек и неконтролируемого использования ИИ — это не только вопрос осведомлённости сотрудников, но и вопрос инструментов, которые помогают увидеть и управлять такими рисками.

В таких сценариях особенно важны решения, которые работают не с классическими сигнатурами атак, а с поведением пользователей и контекстом их действий.

Одним из таких подходов является платформа от Phishman, которая фокусируется на человеческом факторе и современных сценариях социальной инженерии.

В отличие от классических awareness-программ, система позволяет:

• моделировать реальные сценарии атак с учётом новых векторов (включая использование ИИ-сервисов);
• выявлять поведенческие риски сотрудников, а не только фиксировать факты нарушений;
• адаптировать обучение под конкретные паттерны поведения внутри компании;
• формировать устойчивые навыки безопасной работы с цифровыми инструментами.

Ключевая ценность такого подхода — переход от формального обучения к управлению реальными рисками, связанными с действиями сотрудников в повседневной работе.

Итог

Социальная инженерия изменилась: теперь злоумышленнику не обязательно обманывать сотрудника, если можно просто предложить ему удобный инструмент.

Фримиум-сервисы, ИИ-агрегаторы и открытые боты превращаются в новый канал утечек, потому что сотрудники сами несут туда данные, не воспринимая это как угрозу.

Поэтому сегодня уже недостаточно учить людей не открывать письма и не переходить по ссылкам. Нужно учить их безопасно пользоваться ИИ, понимать ценность данных, различать допустимое и недопустимое и относиться к внешним сервисам так, как будто всё загруженное туда может стать публичным.

Именно в этом и состоит новый подход к awareness: раньше сотрудников защищали от угрозы, а теперь нужно сделать так, чтобы они сами не становились угрозой для своей компании.