ԱՐՀԵՍՏԱԿԱՆ ԲԱՆԱԿԱՆՈՒԹՅՈՒՆ

Կարո՞ղ է արհեստական ​​բանականություն «SantaNet»-ը կործանել աշխարհը

Ըստ որոշ փորձագետների, տեսանելի ապագայում մենք կտեսնենք արհեստական ​​բանականության զարգացման հաջորդ փուլը, որն, այսպես կոչված «ընդհանուր արհեստական ​​բանականությունն» է՝ կամ AGI-ն (Artificial general intelligence): Այս մեքենայական բանականությունը հնարավորություն կտա հասկանալու և լուծելու ցանկացած խնդիր, դրա կարողություններ բազմակի կգերազանցեն մարդկանց հնարավորություններին։

AGI-ն կարող է ավելի լավը դարձնել մարդկային կյանքը, սակայն առանց անհրաժեշտ վերահսկողության, այն կմեծացնի գլոբալ աղետների ռիսկը, և նույնիսկ կարող է հանգեցնել մարդկության ոչնչացմանը։ Դա կարող է տեղի ունենալ առանց որևէ չարամտության կամ դիտավորության․ պարզապես փորձելով հասնել իր ծրագրավորված նպատակներին, AGI-ն կարող է սպառնալիքներ ստեղծել մարդու առողջության և բարեկեցության համար, գուցեև՝ շատ ավելի վատ։ Ընդ որում, նույնիսկ ազնիվ նպատակներով ստեղծված AGI համակարգը կարող է վերջում մեծ վնաս պատճառել մարդկությանը։

Sunshine Coast համալսարանի (Ավստրալիա)  գիտնականներն իրականացնում են հետազոտական ծրագիր, որի մի մասն ուսումնասիրում է, թե ինչպես մարդիկ կարող են կառավարել AGI-ի հետ կապված ռիսկերը։ Դրա շրջանակներում նրանք փորձել են հասկանալ, թե ինչ ռիսկեր կարող են առաջանալ, երբ Ձմեռ պապին փոխարինեն AGI համակարգով, որի նպատակն է մեկ գիշերվա ընթացքում նվերներ մատուցել աշխարհի բոլոր արժանի երեխաներին։ Երևույթը պայմանականորեն անվանվել է SantaNet։ Այս մասին հայտնում է The conversation-ը:

Կասկած չկա, որ SantaNet-ն ունակ է Ամանորի գիշերը աշխարհի մանուկներին երջանկություն բերել: Վերջինս իր նպատակին կհասնի էլֆերի, ԱԲ օգնականների ու անօդաչու թռչող սարքերի բանակ ստեղծելով: Սակայն ի՞նչ գնով: Ըստ նույն  հոդվածի, հակառակ լավ ծրագրավորված լինելուն, AGI-ին կարող է բացասական ազդեցություն ունենալ մարդու առողջության և ինքնազգացողության վրա։

Առաջին ռիսկը կարող է ի հայտ գալ այն ժամանակ, երբ SantaNet-ը փորձի կազմել ցուցակ, թե որ երեխաներն են ամբողջ տարվա ընթացքում իրենց դրսևորել լավ, իսկ որոնք՝ ոչ: AGI-ին դա կարող է վերահսկել միայն մասսայական հսկողության միջոցով։

Գիտակցելով նվերների առաքման առաջադրանքի ահռելի մասշտաբները՝ SantaNet-ը կարող է որոշել խստացնել «լավ դրսևորած երեխայի» վերաբերյալ դատողությունները՝ փորձելով հնարավորինս քչացնել նվերների առաքման պարտականությունը՝ այդպիսով դրսևորելով մասսայական խտրականություն և ոտնահարելով մարդու իրավունքները։

Իհարկե, այժմ այս ամենը կարող է ծիծաղելի և անհեթեթ թվալ, սակայն SantaNet-ի գաղափարը օգնում է բացահայտելու և ավելի իրատեսական դարձնելու AGI համակարգերի ռիսկերը։ Անհրաժեշտ է գտնել AGI համակարգերի նկատմամբ վերահսկողության հուսալի մեթոդներ, մշակել կանոններ և հստակ սահմանափակումներ՝ այդ թվում բարոյական։

Այս մասին առավել մանրամասն Sciencealert կայքում։