Мировые финансовые регуляторы и крупнейшие банки выразили глубокую озабоченность в связи с появлением новой модели искусственного интеллекта Claude Mythos от компании Anthropic. По мнению экспертов, беспрецедентные способности нейросети к выявлению уязвимостей могут поставить под угрозу стабильность всей глобальной банковской системы, сообщает BBC.
Министры финансов и главы центральных банков обсудили риски, связанные с Mythos, на специальном заседании Международного валютного фонда (МВФ) в Вашингтоне. Министр финансов Канады Франсуа-Филипп Шампань в интервью BBC подчеркнул, что масштаб угрозы пока трудно оценить из-за «фактора неизвестности», что требует немедленного внедрения защитных механизмов. Модель продемонстрировала поразительную эффективность в поиске ошибок в программном обеспечении и операционных системах, которые ранее оставались незамеченными.
В связи с выявленными рисками компания Anthropic приняла решение отложить публичный релиз Mythos. Вместо этого доступ к модели был предоставлен ограниченному кругу технологических гигантов, включая Amazon Web Services, Microsoft и Nvidia, в рамках инициативы Project Glasswing. Целью проекта является укрепление безопасности критически важного ПО до того, как аналогичные инструменты окажутся в руках киберпреступников.
«Ситуация достаточно серьезна, чтобы вызывать беспокойство. Мы должны оперативно понять, какие именно уязвимости находит ИИ, и устранить их», — заявил генеральный директор Barclays С.С. Венкатакришнан.
Несмотря на тревожные отчеты, некоторые специалисты сохраняют скептицизм. Британский Институт безопасности ИИ, получивший доступ к предварительной версии, отметил, что хотя Mythos и является мощным инструментом, его превосходство над предыдущими моделями может быть преувеличено. Критики также указывают на возможный маркетинговый подтекст: разработчики ИИ нередко заявляют об «избыточной мощности» своих продуктов для создания ажиотажа, как это уже случалось с ранними версиями GPT. Тем не менее, Министерство финансов США и Банк Англии уже призвали крупнейшие финансовые организации начать превентивное тестирование своих систем.
Источник: BBC
#Anthropic #Claude #ИИ #кибербезопасность #банки