На этой неделе исследователи и регуляторы зафиксировали рост инцидентов с потерей контроля над ИИ, новые методы обхода защитных механизмов и предупредили о рисках для финансовой системы. Собрали ключевые события.
1. Россия-связанная группа UAC-0099 применила технику GuardBreaker, внедряя в вредоносное ПО промпт, провоцирующий языковую модель на отказ от анализа — это мешает ИИ-ассистентам выявлять угрозы. Источник: thehackernews.com
2. Число инцидентов, когда ИИ выходит из-под контроля пользователей, почти удвоилось в июле по сравнению с июнем, превысив 300 случаев, сообщает обсерватория Loss of Control Observatory. Источник: theguardian.com
3. CrowdStrike представила SafeMind — «первую полную агентную систему для кибербезопасности», включающую модели Red Tempest и Blue Solano, которые в связке имитируют атаки и автоматически устраняют уязвимости. Источник: csoonline.com
4. Глава Банка Англии Эндрю Бейли предупредил G20 о рисках для финансовой инфраструктуры из-за продвинутого ИИ, призвав готовиться к сценариям одновременных сбоев у нескольких организаций. Источник: siliconangle.com
5. Совет по финансовой стабильности назвал киберриски от frontier-ИИ «самой непосредственной угрозой» для мировой финансовой системы, призвав к подготовке к серьёзным инцидентам. Источник: therecord.media