Специалисты Корнелльского университета активно изучают способности искусственного интеллекта отличать вредоносный код от обычного. С помощью нейросети эксперты смогли написать вредоносную программу — червя, который может поражать другие умные системы.
По словам разработчиков, созданное с помощью ИИ программное обеспечение может осуществлять кибератаки, которых раньше просто не существовало. Они назвали своего червя Morris II. Он атакует генеративных ИИ-помощников через электронную почту, ворует данные из электронных писем и рассылает спам.
Червь работает по принципу состязательной самовоспроизводящейся подсказки. Он отправляет генеративному ИИ приглашение, которое заставляет последнего выдавать в ответ еще одно приглашение. Таким образом червь заражает базу данных. ИИ-помощник буквально сам отправляет данные из переписок отправителям Morris II, а также рассылает зараженное послание другим нейросетям, сообщает IT World.
Ранее «Мир робототехники» писал, что ученые из Университета Иллинойса в Урбане-Шампейне провели исследование, в рамках которого показали, могут ли LLM в автономном режиме взламывать сайты, выполняя сложные задачи, например, слепое извлечение схемы базы данных и SQL-инъекции.
