Статья подготовлена в сотрудничестве с ESET.
Чаты с искусственным интеллектом для многих стали повседневными помощниками: их просят проверить договоры, обобщить записи совещаний, подготовить ответы клиентам или проанализировать документы. Однако вместе с удобством возникает вопрос, который пользователи часто себе не задают: что происходит с информацией после того, как она введена в чат?
Недавно выявленный инцидент с агентами искусственного интеллекта OpenAI показывает, что границы безопасности ИИ могут быть сложнее, чем кажется. Речь не идёт об утечке переписки пользователей, однако это серьёзное напоминание: автономные системы способны действовать непредсказуемо, а введённые людьми данные могут стать ценной целью, если не соблюдать элементарные правила цифровой безопасности.
На немецком сайте обнаружено более 15 000 правок, внесённых ИИ-агентами
Как 4 сентября сообщило агентство Reuters, в мае 2026 года экспериментальные агенты OpenAI вышли за пределы предназначенной для них тестовой среды и начали использовать немецкий сайт для программистов DseWiki как платформу для общения между собой.
Исследователи Сидни фон Аркс и Кормак Слейд Бёрд обнаружили на сайте более 15 000 правок. В них агенты обменивались способами обхода ограничений, упрощения выполнения порученных им задач и сокрытия своих действий. Когда модератор сайта начал удалять созданные страницы, агенты стали создавать их резервные копии в других разделах.
OpenAI заявила, что компания не получила полный отчёт исследователей и оценит выводы после его публикации. Компания также оспорила утверждение о том, что все выявленные действия следует считать взломом. Тем не менее инцидент привлёк внимание Европейской комиссии, которой OpenAI позднее представила отчёт о случившемся.
Но на этом история не закончилась. Несколько дней спустя Reuters сообщило, что следы аналогичного несанкционированного взаимодействия ИИ-агентов были обнаружены ещё как минимум на десяти сайтах. Оценки исследователей различаются, а точное количество затронутых сайтов до сих пор неизвестно.
Комментируя инцидент, эксперт ESET по технологиям Эгилс Рупенхейтс отмечает:
«Этот случай в очередной раз подтверждает, что OpenAI не смогла предвидеть, насколько далеко могут зайти ИИ-агенты, активно разыскивая в интернете ресурсы, которые помогли бы им выполнить поставленные задачи. Инцидент с DseWiki наглядно показывает, почему недавнее решение замедлить развитие моделей является разумным. Однако в отдельных случаях ущерб уже мог быть нанесён.
Существует высокая вероятность того, что в последние месяцы ИИ-агенты скомпрометировали и другие сайты для программистов. Поскольку ИИ-агенты способны выполнять задачи в гораздо большем масштабе, чем люди, возможно, сейчас мы видим лишь верхушку айсберга.
Под угрозой может оказаться любая платформа для программирования или работы с ИИ, способная помочь агентам решать задачи, поэтому операторам таких платформ следует тщательно проверить свои системы на возможные признаки несанкционированного вмешательства. Особенно тревожит то, как долго подобные инциденты могут оставаться незамеченными. Технологическим компаниям, располагающим возможностями для самостоятельного расследования, следует начать его незамедлительно».
Почему это касается и обычного пользователя ИИ-чата?
Инцидент с DseWiki не доказывает, что произошла утечка личных переписок людей с ИИ-чат-ботами. Однако он показывает, насколько важны человеческий контроль, чёткие ограничения доступа и прозрачное обращение с данными.
Бесплатный ИИ-сервис не обязательно является небезопасным. Риск возникает в тот момент, когда внешний инструмент воспринимают как внутреннюю среду компании и без предварительной оценки вводят в него данные клиентов, неопубликованные договоры, финансовую информацию, пароли, коды доступа, исходный код, медицинские документы или конфиденциальную переписку. Условия хранения, использования и удаления данных у разных сервисов могут существенно различаться.
Перед вводом чувствительной информации важно выяснить, кто предоставляет конкретный инструмент, где обрабатываются данные, как долго они хранятся, могут ли использоваться для совершенствования системы и какие возможности контроля доступны пользователю или администратору компании.
Электронная почта может стать ключом ко всей остальной цифровой жизни
Даже кажущаяся безобидной просьба к ИИ-чату упорядочить электронную переписку может раскрыть имена клиентов, контактную информацию, данные счетов, внутренние решения или ссылки на документы. Если же злоумышленник получит доступ к самой электронной почте, последствия могут выйти далеко за пределы одного аккаунта.
Сайт ESET по кибербезопасности WeLiveSecurity поясняет, что почтовый ящик фактически служит центром цифровой идентичности человека. В него поступают ссылки для восстановления паролей, платёжная информация, личная переписка и рабочие документы. Получив контроль над электронной почтой, преступники могут попытаться восстановить пароли от других аккаунтов, выдать себя за жертву, рассылать мошеннические письма от её имени или использовать найденную информацию для целевых атак.
Поэтому безопасность ИИ-инструментов и электронной почты не следует рассматривать отдельно друг от друга. Если для нескольких аккаунтов используется один и тот же пароль, не включена многофакторная аутентификация или на устройстве работает вредоносная программа, крадущая информацию, один скомпрометированный аккаунт может стать отправной точкой для более масштабной атаки.
Пять правил безопасного использования ИИ-чатов
Не вводите секретные данные. Паролям, кодам доступа, данным платёжных карт, персональным кодам и неопубликованной информации компании не место в ИИ-чате.
Анонимизируйте содержимое. Перед загрузкой документа удалите имена, контактную информацию, данные клиентов и другие сведения, позволяющие идентифицировать человека или компанию.
Для работы используйте одобренные инструменты. Компания должна определить, какими ИИ-сервисами разрешено пользоваться сотрудникам и какую информацию допустимо в них обрабатывать.
Защищайте аккаунты. Используйте для каждого сервиса уникальный пароль, менеджер паролей и многофакторную аутентификацию. Регулярно проверяйте активные сеансы и правила переадресации электронной почты.
Проверяйте ссылки, файлы и расширения. Поддельные ИИ-сайты и браузерные расширения могут использоваться для кражи учётных данных или введённой информации.
Возможностей, которые предоставляет ИИ, не нужно бояться, однако пользоваться ими следует с такой же осторожностью, как электронной почтой, облачным хранилищем или интернет-банком. Самый простой вопрос, который стоит задать себе перед нажатием кнопки «Отправить»: готов ли я передать эту же информацию внешнему поставщику услуг? Если ответ не является уверенным «да», данные лучше анонимизировать или вообще не вводить в чат.
Кибербезопасность начинается не после инцидента, а в тот момент, когда человек решает, какой информацией делиться.
