Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность
13 ноября CyberThreatTech представила CTT AI ATTACK PULSE, новый продукт класса Threat Intelligence для защиты систем искусственного интеллекта. CTT AI ATTACK PULSE был представлен как первый в России и странах СНГ специализированный коммерческий фид машиночитаемых знаний об атаках на ИИ. Что вошло в CTT AI ATTACK PULSE? CyberThreatTech собрала и проанализировала отчёты об атаках на искусственный интеллект, систематизировала тактики, техники и процедуры (TTP) и преобразовала их в структурированные машиночитаемые знания. ТАЙМКОДЫ ВЕБИНАРА CTT AI ATTACK PULSE 00:00:00 Начало записи 00:02:06 Приветствие и тема вебинара 00:03:14 Темпы внедрения искусственного интеллекта 00:03:43 ИИ в России и СНГ: ограничения внедрения 00:04:27 Почему информационная безопасность не успевает за ИИ 00:05:07 Современная AI-инфраструктура 00:05:21 Восьмиуровневая архитектура AI-агентов 00:05:59 Ограничения традиционных средств защиты 00:06:52 Атаки на ИИ и атаки с использованием ИИ 00:07:15 Прямые контентные атаки 00:07:33 Мультимодальные атаки на ИИ 00:07:52 Текст, изображения и аудио как векторы воздействия 00:08:24 Вредоносные инструкции внутри изображений 00:08:54 ИИ как оркестратор кибератаки 00:09:57 Использование корпоративного ИИ злоумышленником 00:10:16 ИИ для генерации вредоносной нагрузки 00:10:56 Статистика исследований AI-атак 00:11:31 Теоретические и подтверждённые атаки 00:11:51 Рост воспроизводимых сценариев атак 00:12:38 Наиболее исследуемые AI-модели 00:13:17 Атаки на агентов, API и RAG 00:13:56 Классический Threat Intelligence: Report Hub 00:14:36 Индикаторы компрометации и TTP 00:15:45 Как работает AI Firewall 00:16:12 Семантическое обнаружение вредоносных запросов 00:16:41 Корреляция событий 00:16:47 Guardrails и контроль поведения ИИ 00:17:28 AI Threat Intelligence против традиционного TI 00:17:52 Почему ручной анализ угроз не масштабируется 00:18:38 Научная гипотеза или реальная атака? 00:19:06 ИИ как объект и инструмент атаки 00:19:15 Применимость атак к конкретной инфраструктуре 00:19:29 Полнота описания сценария атаки 00:20:00 Почему порядок шагов атаки критически важен 00:20:33 Состояние системы и признаки успеха 00:21:02 Граф атаки 00:21:28 Подход Attack Flow 00:21:45 Переход к AI ATTACK PULSE 00:21:57 Ключевые задачи нового продукта 00:22:21 Граф переходов и зависимостей 00:22:42 Использование данных средствами защиты 00:23:16 Экосистема CTT CTI Lake 00:23:41 Incident Hub 00:23:58 Report Hub и Threat KB 00:24:31 Классический Threat Feed 00:24:37 AI ATTACK PULSE внутри CTI Lake 00:25:11 Исследования и независимые эксперты 00:25:43 GitHub как источник данных об атаках 00:26:14 Агрегаторы исследовательских публикаций 00:26:25 Более 500 источников мониторинга 00:27:11 Конвейер обработки информации 00:27:28 Фильтрация нерелевантных материалов 00:28:02 Анализ PDF, HTML и GitHub 00:28:34 Связь с первоисточниками 00:29:11 Markdown и нормализация данных 00:29:51 Материалы и записи об атаках 00:30:17 Многоязычные источники и переводы 00:30:51 Несколько атак в одном исследовании 00:31:23 Воспроизводимость атак 00:31:52 Оценка опасности: scoring и severity 00:32:01 Развитие механизма скоринга 00:32:31 Артефакты и контекст их применения 00:33:21 Извлечение схем атак из изображений 00:33:46 Построение пошагового графа атаки 00:34:15 MITRE ATLAS и классификация техник 00:34:34 Артефакты в узлах графа 00:36:12 Демонстрация портала AI ATTACK PULSE 00:36:28 Ограничения существующих TI-платформ 00:36:52 Доставка данных через API 00:37:25 Поиск материалов и атак 00:38:04 Демонстрация первого сценария атаки 00:38:19 Поддельный юридический документ обходит Guardrails 00:38:57 Нарушение режима read-only в Notion 00:39:38 Переводы исследовательских материалов 00:40:07 Оригинальный документ атаки 00:40:39 Последствия и признаки успеха 00:41:10 Оценка опасности первой атаки 00:41:20 Условия применимости сценария 00:41:43 Визуальный граф первой атаки 00:42:13 Разветвления сценария 00:42:57 Mind Virus: заражение поведения других AI-агентов 00:43:41 Оценка опасности межагентной атаки 00:44:22 Граф распространения воздействия 00:44:53 Вредоносная нагрузка внутри AI-модели 00:45:28 Модификация модели с Hugging Face 00:45:55 Анализ вредоносного кода 00:46:13 Для кого предназначен AI ATTACK PULSE 00:46:27 ИБ-вендоры, AI Firewall, Guardrails и MSSP 00:46:57 Стоимость собственной AI Threat Intelligence-экспертизы 00:47:43 Использование продукта командами Red Team 00:47:55 Применение в корпоративных SOC 00:48:07 Три компонента AI ATTACK PULSE 00:48:21 REST API Attack Flow Feed 00:48:26 Attack Prompt Feed 00:48:54 Обучение защитных моделей и создание правил 00:49:03 Доступность продукта 00:49:12 Полный доступ для технологических партнёров 00:49:22 Доступ для остальных партнёров 00:49:35 Доступ для клиентов с 10 декабря 00:49:47 Завершение выступления Реклама. ООО "Технологии Киберугроз", ИНН: 9731092317, Erid: 2SDnjeX6A5S
Название:
Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность
Категория:
Технологии и интернет