Աղմկահարույց կիբերմիջադե՞պ, թե՞ հմուտ PR-քայլ։ Այս հարցը քննարկվում է OpenAI ընկերությունում անցկացված ներքին անվտանգության ստուգումից հետո։ Այս շաբաթ ընկերությունը հայտնել է, որ իր բարձրարդյունավետ ԱԲ մոդելները թեստավորման ընթացքում շրջանցել են նախատեսված պաշտպանական մեխանիզմները և հասանելիություն ստացել արտաքին համակարգերին, գրում է Bild-ը։ Սակայն քննադատները կասկածում են, թե OpenAI-ն այս միջադեպն օգտագործում է նաև իր մոդելների հնարավորությունները ցուցադրելու համար։
OpenAI-ի տվյալներով, թեստին մասնակցել են ChatGPT-ի «GPT-5.6 Sol» մոդելը և ևս մեկ ավելի հզոր, առայժմ չթողարկված մոդել։ Նրանց առաջ դրվել էր մեկուսացված միջավայրում անվտանգության ստուգողական առաջադրանքներ լուծելու խնդիր, ինչը պահանջում էր հայտնաբերել և օգտագործել համակարգչային համակարգերի խոցելիությունները։
Համադրելով հարձակման տարբեր վեկտորներ՝ մոդելները մուտք են ստացել մի համակարգչի, որն այլևս մեկուսացված չէր և միացված էր բաց ինտերնետին։ Առնվազն մեկ դեպքում դրանք օգտագործել են գողացված հաշվառման տվյալների և նախկինում անհայտ խոցելիությունների համադրություն։ OpenAI-ն տեղի ունեցածը բնութագրել է որպես կիբերմիջադեպ, որը ցուցադրել է մոդելների առաջադեմ հնարավորությունները։
Ոլորտի որոշ ներկայացուցիչներ սա դիտարկում են որպես տագնապալի ազդանշան՝ արհեստական բանականության ինքնավար աշխատող համակարգերի կողմից իրականացվող հարձակումների հնարավորությունների աճի մասին։ Իսկ քննադատները հակադարձում են, որ մոդելները սեփական նախաձեռնությամբ չեն գործել․ ընդհակառակը, նրանց առաջ հստակ խնդիր էր դրված՝ գտնել խոցելիություններ և լուծել խնդիրները՝ օգտագործելով բոլոր հասանելի միջոցները։ Նման մարտավարությունն արդեն ծանոթ է OpenAI-ի մրցակից Anthropic ընկերության գործողություններից․ այն պարբերաբար հանդես է գալիս իր Claude նորագույն մոդելների հնարավորությունների մասին աղմկահարույց նախազգուշացումներով։ Ուղերձի էությունը հետևյալն է․ համակարգն այնքան հզոր է, որ նրանից վախենում են նույնիսկ հենց իր ստեղծողները։ Եվ այնուամենայնիվ, հնարավոր է՝ շուտով հաճախորդները կարողանան հասանելիություն ստանալ դրան։
Այսպիսի PR-ը դարձել է արհեստական բանականության ոլորտի պարտադիր տարր։ Anthropic-ն այս մոտեցումը հասցրել է կատարելության․ նրա գլխավոր տնօրեն Դարիո Ամոդեին արդեն երկար տարիներ զգուշացնում է, որ ԱԲ-ն շուտով կարող է դուրս գալ վերահսկողությունից և օգտագործվել համատարած հսկողության կամ ճնշումների համար։ Ժամանակ առ ժամանակ խոսք է գնում նույնիսկ ամբողջ մարդկության համար սպառնալիքի մասին։ Այժմ, ըստ երևույթին, այս մարքեթինգային հնարքը վերցրել է նաև OpenAI-ն․ որքան ավելի վտանգավոր և անկառավարելի են երևում նրա մոդելները, այնքան ավելի հզոր են դրանք թվում։
OpenAI ընկերության արհեստական ինտելեկտը դուրս է եկել վերահսկողությունից և կիբերհարձակում իրականացրել
Source: https://news.am/hy/news/1051756