ԱԲ-գործակալը կոտրել է ֆիթնես ակումբի համակարգը՝ շահառուի այցն ամրագրելու համար

ABC-ի փոխանցմամբ՝ Ավստրալիայում արհեստական ​​բանականության (ԱԲ) գործակալը կոտրել է ֆիթնես ակումբի ամրագրման համակարգը՝ սեփականատիրոջը մարզման համար ամրագրելու համար։

Էնդրյու անունով օգտատերը խնդրել է իր արհեստական ​​բանականության օգնականին օգնել իրեն մարզում ունենալ, քանի որ ինքը սպասման ցուցակում չորրորդն է եղել։ Ազատ ժամեր փնտրելու փոխարեն գործակալը մարզասրահի API-ում խոցելիություն է հայտնաբերել։

Ծրագիրը պարզել է, որ համակարգը թույլ է տալիս չեղարկումներ առանց մուտքի իրավունքների ստուգման։ Օգտատիրոջն առաջ մղելու համար ԱԲ-ն ջնջել է ցուցակում առաջին անձի ամրագրումը։ Դրանից հետո Էնդրյուն բարձրացել է երրորդ տեղ։ Գործակալը շարունակել է չեղարկել այլ օգտատերերի ամրագրումները, չնայած հրահանգ տվողը նրան դա չէր հրահանգել և նման արդյունք չէր սպասում։

Ջնջված ամրագրումները վերականգնելու փորձը ձախողվել է։ Պարզվել է, որ խոցելիությունը միայն ազդել է չեղարկման գործառույթի վրա, մինչդեռ նոր ամրագրումներ ստեղծելը և սպասման ցուցակների հետ աշխատելը պաշտպանված են լիազորագրով։ Նեյրոնային ցանցը ներողություն է խնդրել սեփականատիրոջից և խոստացել է ապագայում չջնջել այլ մարդկանց տվյալները։

Միջադեպը ցույց է տվել, որ արհեստական ​​բանականության գործակալները կարող են գտնել և շահագործել ինտերնետային ծառայություններում առկա խոցելիությունները՝ առօրյա առաջադրանքներ կատարելիս: Anthropic-ը նախկինում գրանցել է իր փորձարկման մոդելների կողմից իրական կազմակերպությունների կոտրման դեպքեր՝ քիբերանվտանգության հետազոտությունների ընթացքում: Սակայն, մարզասրահի դեպքում, ալգորիթմը շահագործել է խոցելիությունը ոչ թե փորձարկման ժամանակ, այլ ստանդարտ հարցում կատարելիս: