Уязвимость ChatGPhish в ChatGPT

Исследователи в области кибербезопасности обнаружили уязвимость в ChatGPT от OpenAI, которая использует доверие платформы к ссылкам и изображениям в формате Markdown, что позволяет проводить атаки с внедрением кода и создавать новые возможности для фишинга. Эта техника, получившая название ChatGPhish, демонстрирует, как можно манипулировать функцией суммирования контента с помощью ИИ для прямой доставки вредоносного контента через доверенный интерфейс.

Проблема связана с тем, как обработчик ответов ChatGPT обрабатывает элементы Markdown, поступающие со сторонних веб-страниц. Когда чат-бот суммирует внешний контент, он автоматически доверяет встроенным ссылкам Markdown и URL-адресам изображений, загружая удаленные изображения и отображая ссылки в виде активных, кликабельных элементов в интерфейсе помощника.

Механизм атаки

Злоумышленник может внедрить небольшой вредоносный код на веб-страницу, который впоследствии будет обработан ChatGPT. В процессе рендеринга изображения, контролируемые злоумышленником, могут автоматически загружаться, потенциально раскрывая такую информацию, как IP-адрес жертвы, User-Agent и Referer.

Помимо утечки информации, уязвимость позволяет представлять вредоносный контент в весьма убедительной форме. Злоумышленники могут размещать фишинговые ссылки непосредственно в ответах ChatGPT, показывать мошеннические предупреждения безопасности в стиле системы и предъявлять QR-коды, размещенные на контролируемой злоумышленниками инфраструктуре. Эти QR-коды могут побуждать пользователей сканировать их с помощью мобильных устройств, эффективно обходя фильтрацию URL-адресов на настольных компьютерах и корпоративные средства защиты.

Особенность ChatGPhish заключается не в самом внедрении подсказки, а в том, что система искусственного интеллекта точно следует встроенным инструкциям и представляет полученный контент как часть достоверного резюме. Таким образом, на первый взгляд обычная веб-страница может генерировать фишинговые ссылки, предупреждения о поддельных учетных записях, удаленные изображения и вредоносные QR-коды непосредственно в ответе голосового помощника.

Расширяющаяся поверхность угроз, создаваемая браузером с поддержкой ИИ.

Это открытие указывает на более широкую проблему безопасности: суммирование стало новой уязвимостью для атак со стороны злоумышленников. Ранее, в марте 2026 года, исследователи продемонстрировали, что специально созданные электронные письма могут манипулировать Microsoft Copilot посредством внедрения перекрестных подсказок (XPIA), влияя на генерируемые ИИ сводки с помощью скрытых инструкций.

Поскольку организации все чаще полагаются на инструменты ИИ для исследований и анализа контента, любая вредоносная веб-страница, обрабатываемая ИИ-помощником, может внедрить в контекст модели инструкции, контролируемые злоумышленником. Это представляет собой серьезный сдвиг в тактике фишинга. Вместо того чтобы требовать от пользователей открывать подозрительные вложения или взаимодействовать со вредоносными электронными письмами, злоумышленники могут использовать обычную активность в интернете и рабочие процессы ИИ по созданию сводной информации.

Переход от атак через электронную почту к взаимодействиям с ИИ в браузерах значительно расширяет доступную поверхность атаки. Простого запроса краткого описания веб-страницы может быть достаточно, чтобы подвергнуть пользователей воздействию вредоносного контента, генерируемого с помощью методов косвенного внедрения запросов.

Растущая волна методов обхода защиты ИИ.

Раскрытие информации о ChatGPhish происходит на фоне всплеска исследований, выявляющих новые методы атак на системы искусственного интеллекта. Последние открытия включают в себя:

• Техника взлома Involuntary In-Context Learning (IICL), использующая конфликты между контекстным обучением и выравниванием безопасности для обхода ограничений GPT-5.4; стратегии многошагового диалога, постепенно обходящие средства защиты больших языковых моделей; атаки с внедрением типографических подсказок, скрывающие инструкции внутри визуально искаженных изображений; атаки Neural Exec в сочетании с методами переопределения Unicode справа налево для обхода защиты Apple Intelligence; и WebPromptTrap, уязвимость косвенного внедрения подсказок, затрагивающая BrowserOS, которая манипулировала пользователями с помощью сгенерированных ИИ сводок, казалось бы, легитимного контента.
• Уязвимости в системе безопасности, затрагивающие экосистемы ИИ и агентские фреймворки, включая уязвимость в Anthropic Claude Code, которая позволяла перехватывать коммуникации MCP с поддержкой OAuth через вредоносный пакет npm; сценарий злоупотребления механизмом удаленного обновления, нацеленный на навыки OpenClaw; фишинговые кампании со скрытым текстом, предназначенные для обмана продуктов безопасности электронной почты на основе ИИ; уязвимость ClaudeBleed, которая позволяла расширениям браузера отправлять несанкционированные команды Claude; критические уязвимости в Microsoft Semantic Kernel (CVE-2026-25592 и CVE-2026-26030), способные повышать уровень внедрения подсказок при удаленном выполнении кода на уровне хоста; широко распространенные уязвимости в системе безопасности репозиториев агентов ClawHub и skills.sh; и атаки на эталонный стек NVIDIA NemoClaw, которые позволяли осуществлять утечку данных OpenClaw через вредоносные репозитории GitHub и пакеты npm.

Будущее киберугроз, вызванных искусственным интеллектом

По мере развития передовых моделей искусственного интеллекта киберпреступники все чаще экспериментируют со своими наступательными возможностями. Злоумышленники используют большие языковые модели для разработки более адаптивного вредоносного ПО, способного изменять свое поведение, чтобы обходить механизмы обнаружения.

Кроме того, системы искусственного интеллекта интегрируются в процессы принятия решений вредоносным ПО. Эти возможности позволяют вредоносным программам оценивать скомпрометированные среды, определять, являются ли цели ценными, и решать, подходят ли условия для развертывания дополнительных полезных нагрузок.

Исследование ChatGPhish служит еще одним напоминанием о том, что технологии искусственного интеллекта вводят совершенно новые аспекты безопасности. По мере глубокой интеграции ИИ-помощников в корпоративные рабочие процессы защита от косвенного внедрения подсказок, манипулирования сводками и злоупотреблений интерфейсом, основанного на доверии, станет все более важным компонентом стратегии кибербезопасности.