Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность

7 тыс. подписчиков

12+
12+

1 просмотр

16 часов назад

ПожаловатьсяНарушение авторских прав

7 тыс. подписчиков

12+
12+

1 просмотр

16 часов назад

ПожаловатьсяНарушение авторских прав
12+
12+

1 просмотр

16 часов назад

13 ноября CyberThreatTech представила CTT AI ATTACK PULSE, новый продукт класса Threat Intelligence для защиты систем искусственного интеллекта. CTT AI ATTACK PULSE был представлен как первый в России и странах СНГ специализированный коммерческий фид машиночитаемых знаний об атаках на ИИ. Что вошло в CTT AI ATTACK PULSE? CyberThreatTech собрала и проанализировала отчёты об атаках на искусственный интеллект, систематизировала тактики, техники и процедуры (TTP) и преобразовала их в структурированные машиночитаемые знания. ТАЙМКОДЫ ВЕБИНАРА CTT AI ATTACK PULSE 00:00:00 Начало записи 00:02:06 Приветствие и тема вебинара 00:03:14 Темпы внедрения искусственного интеллекта 00:03:43 ИИ в России и СНГ: ограничения внедрения 00:04:27 Почему информационная безопасность не успевает за ИИ 00:05:07 Современная AI-инфраструктура 00:05:21 Восьмиуровневая архитектура AI-агентов 00:05:59 Ограничения традиционных средств защиты 00:06:52 Атаки на ИИ и атаки с использованием ИИ 00:07:15 Прямые контентные атаки 00:07:33 Мультимодальные атаки на ИИ 00:07:52 Текст, изображения и аудио как векторы воздействия 00:08:24 Вредоносные инструкции внутри изображений 00:08:54 ИИ как оркестратор кибератаки 00:09:57 Использование корпоративного ИИ злоумышленником 00:10:16 ИИ для генерации вредоносной нагрузки 00:10:56 Статистика исследований AI-атак 00:11:31 Теоретические и подтверждённые атаки 00:11:51 Рост воспроизводимых сценариев атак 00:12:38 Наиболее исследуемые AI-модели 00:13:17 Атаки на агентов, API и RAG 00:13:56 Классический Threat Intelligence: Report Hub 00:14:36 Индикаторы компрометации и TTP 00:15:45 Как работает AI Firewall 00:16:12 Семантическое обнаружение вредоносных запросов 00:16:41 Корреляция событий 00:16:47 Guardrails и контроль поведения ИИ 00:17:28 AI Threat Intelligence против традиционного TI 00:17:52 Почему ручной анализ угроз не масштабируется 00:18:38 Научная гипотеза или реальная атака? 00:19:06 ИИ как объект и инструмент атаки 00:19:15 Применимость атак к конкретной инфраструктуре 00:19:29 Полнота описания сценария атаки 00:20:00 Почему порядок шагов атаки критически важен 00:20:33 Состояние системы и признаки успеха 00:21:02 Граф атаки 00:21:28 Подход Attack Flow 00:21:45 Переход к AI ATTACK PULSE 00:21:57 Ключевые задачи нового продукта 00:22:21 Граф переходов и зависимостей 00:22:42 Использование данных средствами защиты 00:23:16 Экосистема CTT CTI Lake 00:23:41 Incident Hub 00:23:58 Report Hub и Threat KB 00:24:31 Классический Threat Feed 00:24:37 AI ATTACK PULSE внутри CTI Lake 00:25:11 Исследования и независимые эксперты 00:25:43 GitHub как источник данных об атаках 00:26:14 Агрегаторы исследовательских публикаций 00:26:25 Более 500 источников мониторинга 00:27:11 Конвейер обработки информации 00:27:28 Фильтрация нерелевантных материалов 00:28:02 Анализ PDF, HTML и GitHub 00:28:34 Связь с первоисточниками 00:29:11 Markdown и нормализация данных 00:29:51 Материалы и записи об атаках 00:30:17 Многоязычные источники и переводы 00:30:51 Несколько атак в одном исследовании 00:31:23 Воспроизводимость атак 00:31:52 Оценка опасности: scoring и severity 00:32:01 Развитие механизма скоринга 00:32:31 Артефакты и контекст их применения 00:33:21 Извлечение схем атак из изображений 00:33:46 Построение пошагового графа атаки 00:34:15 MITRE ATLAS и классификация техник 00:34:34 Артефакты в узлах графа 00:36:12 Демонстрация портала AI ATTACK PULSE 00:36:28 Ограничения существующих TI-платформ 00:36:52 Доставка данных через API 00:37:25 Поиск материалов и атак 00:38:04 Демонстрация первого сценария атаки 00:38:19 Поддельный юридический документ обходит Guardrails 00:38:57 Нарушение режима read-only в Notion 00:39:38 Переводы исследовательских материалов 00:40:07 Оригинальный документ атаки 00:40:39 Последствия и признаки успеха 00:41:10 Оценка опасности первой атаки 00:41:20 Условия применимости сценария 00:41:43 Визуальный граф первой атаки 00:42:13 Разветвления сценария 00:42:57 Mind Virus: заражение поведения других AI-агентов 00:43:41 Оценка опасности межагентной атаки 00:44:22 Граф распространения воздействия 00:44:53 Вредоносная нагрузка внутри AI-модели 00:45:28 Модификация модели с Hugging Face 00:45:55 Анализ вредоносного кода 00:46:13 Для кого предназначен AI ATTACK PULSE 00:46:27 ИБ-вендоры, AI Firewall, Guardrails и MSSP 00:46:57 Стоимость собственной AI Threat Intelligence-экспертизы 00:47:43 Использование продукта командами Red Team 00:47:55 Применение в корпоративных SOC 00:48:07 Три компонента AI ATTACK PULSE 00:48:21 REST API Attack Flow Feed 00:48:26 Attack Prompt Feed 00:48:54 Обучение защитных моделей и создание правил 00:49:03 Доступность продукта 00:49:12 Полный доступ для технологических партнёров 00:49:22 Доступ для остальных партнёров 00:49:35 Доступ для клиентов с 10 декабря 00:49:47 Завершение выступления Реклама. ООО "Технологии Киберугроз", ИНН: 9731092317, Erid: 2SDnjeX6A5S

Название:

Пятница, 13-е. Угрозы искусственному интеллекту выходят на поверхность