Домой / Гаджеты / Северная Корея создала первый в мире вирус для macOS, который обманывает ИИ-агентов ChatGPT и Claude

Северная Корея создала первый в мире вирус для macOS, который обманывает ИИ-агентов ChatGPT и Claude

Северная Корея создала первый в мире вирус для macOS, который обманывает ИИ-агентов ChatGPT и Claude
Компания SentinelOne обнаружила необычный вирус Gaslight для macOS, нацеленный на ИИ-агентов, используемых в сфере кибербезопасности, включая ChatGPT и Claude. Gaslight содержит 38 поддельных «системных сообщений», оформленных так, будто они являются инструкциями для ИИ-агента. Главная цель — заставить модель прекратить анализ, отказаться от выполнения задачи или выдать ложные выводы. Для этого вирус заставляет ИИ думать, что...

Про Редактор Новостей

Проверьте также

Агенты Open AI захватили несколько десятков сайтов для обмена данными

Мы ранее писали, как ИИ-агенты захватили малоизвестный немецкий форум программистов. А теперь оказалось, что этот форум был не один. Во время тестирования Open AI запрещает моделям общаться между собой, чтобы не облегчать поиск решения задач. Но на протяжении нескольких месяцев модели не только убегали в интернет, но ещё и прятались на заброшенных и малоизвестных сайтах […]