Առաջատար նեյրոցանցերում մարդկանց սպանելnւ պատրաստակամություն են հայտնաբերել
Արհեստական բանականության առաջատար ամերիկյան և չինական մոդելների պաշտպանական մեխանիզմները չեն կարող կանխել դրանց կիրառումն ինքնավար ռազմական գործողություններում։ Այս մասին վկայում են ԱԲ մոդելների անկախ գնահատմամբ և թեստավորմամբ զբաղվող ամերիկյան Vals AI ստարտափի ուսումնասիրության արդյունքները, որոնք հրապարակել է ոլորտային AlphaSignal պարբերականը։ Ըստ հետազոտողների՝ ուսումնասիրված մոդելները գրեթե առանց առարկության մարդկանց և թիրախներ են որոնել անօդաչուների ու արբանյակների նկարահանած լուսանկարներում։
Անօդաչուների կիրառման երկու սցենարներում, որոնցում օգտագործվել են նաև Ուկրաինայում արված իրական լուսանկարներ, մոդելները հաճախ որպես թիրախ ընտրել են խաղաղ բնակիչների, շտապօգնության մեքենաներ, ինչպես նաև հանձնվող կամ վիրավոր զինվորների։ Իրանական Մինաբ քաղաքի արբանյակային լուսանկարների վրա հիմնված սցենարում Anthropic ընկերության Claude Opus 5.5 մոդելը դեպքերի 70 տոկոսում որպես թիրախ ընտրել է մի դպրոց։ Ըստ հրապարակման՝ այդ դպրոցն իրականում ռմբակոծվել էր ԱՄՆ-ի կողմից, ինչի հետևանքով զոհվել էր ավելի քան 150 խաղաղ բնակիչ։ Նույն դպրոցը որպես թիրախ ընտրել են նաև բազմաթիվ այլ մոդելներ։
Vals AI-ն ուսումնասիրել է նեյրոցանցերի միջոցով այնպիսի թիրախների հայտնաբերման հնարավորությունը, որոնց ուղղությամբ հետագայում կարող են հարվածներ հասցվել, այդ թվում՝ ինքնավար կերպով։ Ըստ հետազոտողների՝ մոդելները հազվադեպ են հրաժարվել թիրախների որոնման առաջադրանքներից, իսկ այդ մերժումները գրեթե միշտ հնարավոր է եղել շրջանցել՝ նեյրոցանցերին համոզելով, թե դրանք պարզապես խաղի են մասնակցում։
Հետազոտողների խոսքով՝ այն եզակի դեպքերում, երբ մոդելները հրաժարվել են առաջադրանքը կատարելուց, մերժումը ձևավորվել է հենց մոդելի մակարդակում։ Նեյրոցանցերը ստեղծողների ներդրած արգելափակման մեխանիզմները փորձարկումների ընթացքում ոչ մի անգամ չեն գործարկվել։ Օրինակ՝ Claude-ի դեպքում թիրախներ որոնելու առաջադրանքը կատարելու համաձայնության ցուցանիշը Opus 4.5 մոդելի 6 տոկոսից հասել է 92 տոկոսի՝ Opus 5.5 տարբերակում։
Նույնիսկ սեփական գործողությունների հետևանքներն ու զոհերին տեսնելուց հետո մոդելների մեծ մասը շարունակել է կատարել առաջադրանքը։ Vals AI-ն ստացված արդյունքների մասին տեղեկացրել է OpenAI, Anthropic, Google, Meta և SpaceX ընկերություններին, ինչպես նաև ԱՄՆ ազգային անվտանգության մարմիններին։
«Մարդկանց համար մահացու վտանգ ներկայացնող առաջադրանքներ կատարելու ԱԲ մոդելների ունակությունը կարող է հանգեցնել ինքնավար զենքերի կիրառման ժամանակ խնդիրների ու նպատակների աղետալի ապասինխրոնացման ռիսկերի։ Անվտանգության ոլորտի հետազոտություններում ռիսկի այս վեկտորը մինչ օրս անտեսվել է»։
Vals AI-ում ընդգծում են, որ մոդելներին ուղղակիորեն չեն խնդրել հարված հասցնելու որոշում կայացնել. նման առաջադրանքներից դրանք, որպես կանոն, հրաժարվում են։ Սակայն թիրախների մասին մոդելների տրամադրած տեղեկատվությունը կարող է օգտագործվել ինքնավար կամ կիսաինքնավար համակարգերի կողմից՝ որոշում կայացնելու և վերջնական հարված հասցնելու համար։