ИИгорь
Кулинар
Пользователь Х опубликовал алгоритм атаки с помощью промпта.
Мы заставили ChatGPT раскрыть ваши личные email-данные. Всё, что нужно? Только email-адрес жертвы.
В среду компания OpenAI добавила полную поддержку инструментов MCP (Model Context Protocol) в ChatGPT. Это позволяет ChatGPT подключаться и читать вашу Gmail, Календарь, SharePoint, Notion и многое другое — функция, изобретённая Anthropic AI.
Но вот основная проблема: ИИ-агенты вроде ChatGPT следуют вашим командам, а не здравому смыслу. И всего с одним email мы смогли извлечь всю вашу конфиденциальную информацию. Вот как это работает:
1. Атакующий отправляет приглашение в календарь с джейлбрейк-промптом жертве, используя только её email. Жертве даже не нужно принимать приглашение.
2. Ждём, пока пользователь попросит ChatGPT помочь подготовиться к дню, просмотрев календарь.
3. ChatGPT читает взломанное приглашение в календаре. Теперь ChatGPT под контролем атакующего и выполняет его команды: ищет в ваших личных email и отправляет данные на email атакующего.
Пока OpenAI сделала MCP доступными только в "режиме разработчика" и требует ручного подтверждения человеком для каждой сессии. Но усталость от решений — это реальность, и обычные люди просто доверят ИИ, не зная, что делать, и будут нажимать "одобрить, одобрить, одобрить".
Помните: ИИ может быть сверхумным, но его можно обмануть и "зафишит" невероятно глупыми способами, чтобы выудить ваши данные. ChatGPT с инструментами представляет серьёзный риск для безопасности.
Мы заставили ChatGPT раскрыть ваши личные email-данные. Всё, что нужно? Только email-адрес жертвы.
В среду компания OpenAI добавила полную поддержку инструментов MCP (Model Context Protocol) в ChatGPT. Это позволяет ChatGPT подключаться и читать вашу Gmail, Календарь, SharePoint, Notion и многое другое — функция, изобретённая Anthropic AI.
Но вот основная проблема: ИИ-агенты вроде ChatGPT следуют вашим командам, а не здравому смыслу. И всего с одним email мы смогли извлечь всю вашу конфиденциальную информацию. Вот как это работает:
1. Атакующий отправляет приглашение в календарь с джейлбрейк-промптом жертве, используя только её email. Жертве даже не нужно принимать приглашение.
2. Ждём, пока пользователь попросит ChatGPT помочь подготовиться к дню, просмотрев календарь.
3. ChatGPT читает взломанное приглашение в календаре. Теперь ChatGPT под контролем атакующего и выполняет его команды: ищет в ваших личных email и отправляет данные на email атакующего.
Пока OpenAI сделала MCP доступными только в "режиме разработчика" и требует ручного подтверждения человеком для каждой сессии. Но усталость от решений — это реальность, и обычные люди просто доверят ИИ, не зная, что делать, и будут нажимать "одобрить, одобрить, одобрить".
Помните: ИИ может быть сверхумным, но его можно обмануть и "зафишит" невероятно глупыми способами, чтобы выудить ваши данные. ChatGPT с инструментами представляет серьёзный риск для безопасности.
. Отвечать как саппорт посадить - одно, а в личную перепику пускать... .