Anthropic попереджає, що бар'єри кібернападів впали в міру прискорення можливостей ШІ

Anthropic стверджує, що штучний інтелект (AI) досяг вирішального порогу в кібербезпеці, з новими доказами, що показують, що моделі ШІ тепер здатні виконувати великі кібероперації—як оборонні, так і наступальні—в небачених масштабах.

Штучний інтелект досягає критичної точки в кібербезпеці, попереджає Anthropic у новому розслідуванні

Anthropic, компанія з штучного інтелекту, яка стоїть за Claude, стверджує, що її внутрішні оцінки та роботи з розвідки загроз показують рішучий зсув у розвитку кіберздатностей. Згідно з нещодавно опублікованим розслідуванням, кіберздатності серед систем штучного інтелекту подвоїлися за шість місяців, підтримувані вимірюваннями реальної діяльності та тестуванням на основі моделей.

Компанія заявляє, що ШІ тепер значно впливає на глобальну безпеку, особливо оскільки зловмисники все більше використовують автоматизовані атаки. У своєму останньому звіті Anthropic детально описує те, що вона називає першим задокументованим випадком кібер-шпигунства, організованого ШІ. Команда загроз Threat Intelligence ідентифікувала та зірвала великомасштабну операцію в середині вересня 2025 року, яка була приписана китайській державній групі, позначеній як GTG-1002.

Джерело: X Група, як повідомляють, використовувала скоординовані випадки Claude Code для проведення розвідки, виявлення вразливостей, експлуатації, бічного переміщення, витягання метаданих та ексфільтрації даних — в основному без участі людини. Кампанія була спрямована приблизно на 30 організацій у таких секторах, як технології, фінанси, хімія та кілька державних агенцій. Anthropic підтвердив кілька успішних вторгнень до того, як втрутитися.

Джерело: звіт Anthropic. Аналітики кажуть, що атакуючі використали автономну платформу, здатну розбивати багатоступеневі атаки на менші завдання, які виглядали легітимними, коли були ізольовані від їхнього ширшого контексту. Це дозволило акторам проходити запити через встановлені персонажі та переконати Клода, що операції були тестами захисної безпеки, а не наступальними кампаніями.

Згідно з розслідуванням, Клод автономно виконав 80% до 90% тактичних операцій. Людські оператори забезпечували лише стратегічний нагляд, затверджуючи основні етапи, такі як перехід від розвідки до активної експлуатації або авторизуючи ексфільтрацію даних. У звіті описується рівень оперативного темпу, який неможливо досягти лише людськими командами, з деякими робочими процесами, які генерують кілька операцій на секунду в тисячах запитів.

Джерело: звіт Anthropic. Anthropic стверджує, що життєвий цикл атаки просунувся через структурований конвеєр, де автономія ШІ зростала на кожному етапі. Claude незалежно картографував поверхні атак, сканував живі системи, створював спеціальні пакети для верифікованих вразливостей, збирав облікові дані та переходив через внутрішні мережі. Він також аналізував вкрадені дані, ідентифікував цінну інформацію та автоматично генерував детальну оперативну документацію, що дозволяла постійний доступ та передачу між операторами.

Одним із обмежень, зазначених у звіті, була схильність моделі до галюцинацій під час агресивних навантажень — іноді перебільшуючи доступ, фабрикуючи облікові дані або помилково класифікуючи публічно доступну інформацію як чутливу. Проте, Anthropic стверджує, що актор компенсував це за допомогою етапів валідації, продемонструвавши, що повністю автономні агресивні операції залишаються можливими, незважаючи на недоліки сучасних моделей.

Після свого виявлення Anthropic заборонила відповідні облікові записи, повідомила постраждалі організації, координувала дії з владою та впровадила нові механізми захисту, включаючи вдосконалені класифікатори для виявлення нових загроз. Компанія наразі прототипує системи раннього попередження, які призначені для виявлення спроб автономного вторгнення, і створює нові слідчі інструменти для масштабних розподілених кібероперацій.

Читати далі: «Магнетичний ринок» Microsoft показує, як AI-агенти можуть зламатися під тиском

Фірма стверджує, що хоча ці можливості можуть бути використані в якості зброї, вони також є критично важливими для зміцнення оборонної готовності. Anthropic зазначає, що її власна команда з питань загроз значною мірою покладалася на Claude для аналізу величезних наборів даних, згенерованих під час розслідування. Вона закликає команди безпеки почати впроваджувати автоматизацію на основі ШІ для центрів операцій з безпеки, виявлення загроз, аналізу вразливостей та реагування на інциденти.

Проте, у звіті попереджається, що бар'єри для кібератак “значно знизилися”, оскільки системи ШІ дозволяють малим групам — або навіть окремим особам — виконувати операції, які раніше були обмежені добре фінансованими державними акторами. Anthropic очікує швидкого поширення цих технологій у ширшому середовищі загроз, закликаючи до глибшої співпраці, покращених захисних заходів і ширшої участі галузі в обміні загрозами для протидії новим моделям атак на основі ШІ.

Часті запитання ❓

• Що виявила Anthropic у своєму розслідуванні? Anthropic ідентифікувала та зупинила масштабну кампанію кібер-шпигунства, яка використовувала ШІ для автоматизації більшості атак.
• Хто стояв за атакою? Компанія приписала цю операцію китайській державній групі, що отримала позначення GTG-1002.
• Як ШІ використовувався в атаках? Зловмисники використовували Claude Code для автономного виконання розвідки, експлуатації, бічного переміщення та витягнення даних.
• Чому звіт важливий для команд з кібербезпеки? Anthropic стверджує, що цей випадок показує, що автономні атаки з використанням штучного інтелекту тепер можливі в масштабах і вимагають нових стратегій захисту.