Отчет: ИИ стал главным помощником хакеров
Инструменты на основе искусственного интеллекта встроились в реальные кибератаки — от первичной разведки до генерации вредоносного кода. Об этом говорится в отчете F6, охватывающим 2025 год и первую половину 2026. ИИ в атаках По данным аналитиков, за полтора года как минимум 18 APT-группировок провели атаки с использованием ИИ. В F6 описали несколько задокументированных случаев применения искусственного интеллекта в реальных атаках. Группировка GTG-1002 использовала языковые модели для генерации фишинговых писем — тексты адаптировались под конкретную жертву и обходили стандартные спам-фильтры. Кластер TAT26-12 применял ИИ для автоматизации разведки: сбора данных о сотрудниках, инфраструктуре и уязвимостях организаций. Отдельно выделили инструмент PromptSpy — специализированное ПО для атак на корпоративные системы, построенные на базе LLM. Его задача заключается в извлечении системных промптов и манипуляции поведением моделей. Еще один инструмент, LAMEHUG, использовался для генерации вредоносного кода с минимальным участием человека. Обсуждения на форумах Исследователи обратили внимание, что хакеры стали чаще обсуждать различные ИИ-модели на тематических форумах. Хотя самым популярным решением среди хакеров-новичков оказался ChatGPT от OpenAI, чаще в полноценных атаках используется Gemini от Google. Количество упоминаний ИИ-решений на дарк-форумах. Источник: F6. Сами участники форумов обсуждают способы обхода ограничений у моделей. Некоторые пытались создать с помощью общедоступного ИИ вредоносное приложение. Источник: F6. Эволюция вымогателей За отслеживаемый период появилось более 50 новых группировок, которые распространяют шифровальщики, и более 9300 связанных с ними инцидентов. Характерная тенденция — отказ от блокировки данных как основного инструмента давления. Вместо него атакующие делают ставку на угрозу публикации похищенной информации. Это снижает технические требования к атаке и усложняет защиту. За полтора года было закрыто шесть крупных теневых торговых площадок для торговли данными. Однако на их месте появились пять новых. В действующих кардшопах зафиксировано более 16,5 млн скомпрометированных платежных карт, выставленных на продажу. Напомним, в августе OpenAI замедлила разработку передовых ИИ-систем после инцидента с Hugging Face и предварительной оценки Astra. https://forklog.com/news/ai/openai-prisvoila-astra-kriticheskij-uroven-kibervozmozhnostej
