Міфос Клод загрожує фінансовій безпеці? Держсекретар США та голова ФРС терміново зібралися та попередили про ризики

Міністр фінансів США та голова Федеральної резервної системи терміново скликали керівників Волл-стріт, щоб обговорити застереження через останню модель Mythos від Anthropic. Влада кваліфікувала цю модель як системний ризик для фінансової системи.

Фінансові керівники терміново скликають керівників Волл-стріт: загрози в мережі на базі ШІ зростають до рівня системного ризику

Згідно з повідомленням Bloomberg, міністр фінансів США Скотт Бессент (Scott Bessent) та голова Федеральної резервної системи Джером Пауелл (Jerome Powell) минулого тижня у Вашингтоні, у штаб-квартирі Міністерства фінансів, терміново скликали керівників провідних банків Волл-стріт і попередили про потенційні ризики кібербезпеки, які може спричинити остання модель Anthropic «Claude Mythos Preview».

Серед присутніх керівників банків були генеральний директор Citigroup Джейн Фрейзер (Jane Fraser), генеральний директор Morgan Stanley Тед Пік (Ted Pick), генеральний директор Bank of America Браян Мойніган (Brian Moynihan), генеральний директор Wells Fargo Чарльз Шарф (Charlie Scharf) і генеральний директор Goldman Sachs Девід Соломон (David Solomon); натомість генеральний директор JPMorgan Джеймі Даймон (Jamie Dimon) не зміг бути присутнім. Усі зазначені установи були класифіковані регуляторами як фінансові інституції системної важливості.

Цю зустріч особисто відвідали міністр фінансів і голова Федеральної резервної системи, що вважають вкрай незвичним кроком у бізнес-колах. У минулому втручання уряду у ризики, пов’язані з ШІ, здебільшого обмежувалося робочими групами на рівні установ. Нині ж це безпосередньо підвищилося до рівня особистого попередження найвищими керівниками фінансових органів, чітко демонструючи, що влада кваліфікувала кіберзагрози на базі ШІ як системний ризик для стабільності фінансової системи.

Можливості моделі Mythos вражають: вона може самостійно виявляти масу нульових day-празників

Згідно з технічними матеріалами, які Anthropic оприлюднила в той самий день, Mythos має здатність ідентифікувати та використовувати вразливості у всіх популярних операційних системах і веббраузерах. На етапі тестування ця модель самостійно знаходила тисячі раніше невідомих уразливостей нульового дня (zero-day vulnerabilities), серед яких — вразливість, що приховано існувала протягом 27 років у безпеково орієнтованій open-source операційній системі OpenBSD; крім того, модель також виявила в бібліотеці для обробки відео FFmpeg уразливість, яку не змогли виявити навіть автоматизовані інструменти тестування, що виконали 5 000 000 процедур.

Дослідники Anthropic підкреслили, що здатність Mythos знаходити вразливості ґрунтується на загальному прогресі моделі в написанні програм, міркуванні та автономності, а не є наслідком навмисного тренування.

У заяві компанія зазначила: «Та сама здатність, яка робить моделі ефективнішими в ремонті вразливостей, робить їх так само ефективними у використанні вразливостей». Ця теза підкреслює двозначність Mythos: межа між обороною та атакою перед такими моделями майже зникає.

Anthropic відмовляється публічно оприлюднювати, запускає «Project Glasswing» з обмеженим доступом

Оскільки можливості надто потужні, Anthropic вирішила не публікувати Mythos для загального доступу й застосувала стратегію обмеження доступу — модель буде доступна лише для певних партнерських компаній. Компанія також оголосила про запуск оборонного проєкту з кібербезпеки під назвою «Project Glasswing» («скляні крила») — програми співпраці, у межах якої співпрацюватимуть понад 40 партнерів, зокрема AWS, Apple, Cisco, Google, JPMorgan, Microsoft і Nvidia. Мета — до того, як атакувальники зроблять свій хід, активно знаходити та виправляти вразливості в ключових програмних продуктах.

Джерело ілюстрації: X/@AnthropicAI Anthropic також повідомила про запуск оборонної програми співпраці з кібербезпеки під назвою «Project Glasswing» («скляні крила»)

Anthropic зазначає: «З огляду на надзвичайну потужність можливостей моделі, ми застосовуємо обережний підхід до способу її розповсюдження. Ми працюємо з невеликою групою ранніх клієнтів із доступом для тестування моделі та вважаємо, що це найпроривніша версія, яку ми створили дотепер».

Також компанія повідомила, що провела брифінги для урядових посадовців щодо сценаріїв застосування Mythos у обороні та атаці, і продовжує консультації з Агентством США з кібербезпеки та безпеки інфраструктури (CISA) та Центром інновацій зі стандартів для ШІ. Наступний фокус уваги з боку зовнішніх спостерігачів зосередиться на тому, як регулятори визначатимуть стандарти перегляду запуску подібних моделей, які конкретні заходи оборони мають вжити фінансові інституції, та чи зможе координація між міжнародними регуляторами не відставати від темпів технологічної еволюції.

Цей матеріал згенеровано Aggregation крипто-агентом із даних від різних сторін, а також проходив рецензування й редагування у «Крипто-місті»; наразі він перебуває на стадії навчання, тож можливі логічні відхилення або помилки в інформації. Матеріал надається лише для ознайомлення; не вважайте його інвестиційною порадою.