Әлемдік қаржы реттеушілері мен ірі банктер Anthropic компаниясының Claude Mythos жасанды интеллекттің жаңа моделінің пайда болуына қатты алаңдаушылық білдірді. Сарапшылардың пікірінше, нейрондық желінің осалдықтарды анықтаудағы бұрын-соңды болмаған қабілеттері бүкіл жаһандық банк жүйесінің тұрақтылығына қауіп төндіруі мүмкін, деп хабарлайды BBC.
Қаржы министрлері мен Орталық банк басшылары Mythos-пен байланысты тәуекелдерді Вашингтонда өткен Халықаралық валюта қорының (ХВҚ) арнайы отырысында талқылады. Канаданың қаржы министрі Франсуа-Филипп шампан BBC-ге берген сұхбатында қорғаныс механизмдерін дереу енгізуді талап ететін "белгісіздік факторына" байланысты қауіптің ауқымын бағалау әлі қиын екенін атап өтті. Модель бұрын байқалмаған бағдарламалық жасақтама мен операциялық жүйелердегі қателерді табудың керемет тиімділігін көрсетті.
Анықталған тәуекелдерге байланысты Anthropic Mythos-тың көпшілікке шығарылуын кейінге қалдыру туралы шешім қабылдады. Оның орнына модельге Project glasswing бастамасы аясында Amazon Web Services, Microsoft және Nvidia сияқты технологиялық алпауыттардың шектеулі ауқымы қол жеткізді. Жобаның мақсаты-осындай құралдар киберқылмыскерлердің қолына түскенге дейін маңызды бағдарламалық жасақтаманың қауіпсіздігін нығайту.
"Жағдай алаңдаушылық туғызатындай ауыр. Біз жасанды интеллекттің қандай осалдықтарды табатынын тез түсініп, оларды жоюымыз керек", — деді Barclays бас директоры С.С. Венкатакришнан.
Мазасыз есептерге қарамастан, кейбір мамандар күмәнмен қарайды. Алдын ала қарауға қол жеткізген Британдық ai қауіпсіздік институты Mythos қуатты құрал болғанымен, оның алдыңғы модельдерден артықшылығы асыра сілтелуі мүмкін екенін атап өтті. Сыншылар сонымен қатар ықтимал маркетингтік субтекстке назар аударады: AI әзірлеушілері GPT-дің алғашқы нұсқаларында болған сияқты, өз өнімдерінің "артық қуатын" жиі талап етеді. Соған қарамастан, АҚШ Қаржы министрлігі мен Англия Банкі ірі қаржы ұйымдарын алдын-ала тестілеуді бастауға шақырды.
Дерек көзі: BBC