Փոքր կազմակերպությունների համար
Ստեղծեք ԱԲ ռիսկերի ռեեստր նախքան գործիքի ներդրումը
Գործնական աշխատանքային թերթիկ և շաբաթական գործընթաց՝ հիմնված NIST-ի Govern, Map, Measure և Manage գործառույթների վրա:
Ռիսկերի ռեեստրը գործնական ցանկ է, որը ցույց է տալիս, թե ինչ կարող է սխալ ընթանալ, ով է պատասխանատու արձագանքման համար, ինչպես է թիմը հայտնաբերելու խնդիրը և ինչ քայլեր են ձեռնարկվելու: Այն օգտակար է միայն այն դեպքում, երբ կապված է իրական համակարգի հետ և վերանայվում է այնքան հաճախ, որ կարողանա ազդել որոշումների վրա:
01
Ինչ գիտենք այս պահին
- 01
NIST AI Risk Management Framework-ը կամավոր է և նախատեսված է տարբեր կազմակերպչական միջավայրերի համար:
- 02
NIST-ը ռիսկերը դիտարկում է ԱԲ-ի կենսացիկլի բոլոր փուլերում, ոչ միայն մոդելի ընտրության ժամանակ:
- 03
Generative AI Profile-ն ավելացնում է հատուկ գեներատիվ համակարգերին բնորոշ ռիսկերի չեզոքացման գործողություններ և պետք է հարմարեցվի կազմակերպության առաջնահերթություններին:
02
Ինչու է սա կարևոր Հայաստանի համար
Հայաստանյան փոքր կազմակերպությունները հաճախ չունեն արհեստական բանականության կառավարման առանձին թիմ: Հստակ պատասխանատուներով հակիրճ ռեեստրը թույլ է տալիս տեսանելի դարձնել ԱԲ-ի առօրյա կիրառությունը՝ առանց գործընթացը ծանրաբեռնելու:
03
սահմանել
շրջանակ, կանոններ, պատասխանատու, կասեցնելու լիազորությունհասկանալ
կիրառություն, մարդիկ, տվյալներ, կախվածություններթեստավորել
խափանումներ, անորոշություն, վերահսկողության ապացույցներգործել
նվազեցնել, մշտադիտարկել, դադարեցնել, ուղղել, դուրս գրելԱյս գործառույթները փոխլրացնում են միմյանց. ռեեստրը պարբերական ցիկլի արձանագրություն է, ոչ թե մեկանգամյա ձևաթուղթ:
04
Սահմանեք մեկ համակարգ և մեկ պատասխանատու
Մի սկսեք անորոշ «մեր ԱԲ ռիսկերը» ձևակերպումից: Հստակ նշեք կիրառությունը. օրինակ՝ աջակցության ծառայության ստանդարտ պատասխանների սևագրում հաստատված գիտելիքների բազայից: Արձանագրեք օգտատերերին, ազդեցություն կրող անձանց, տվյալները, մոդելը և մատակարարին, տարբերակը, endpoint-ները, ներդրման եղանակը, գործիքները, ելքային արդյունքները և հրապարակման կետը: Սրանցից որևէ մեկի փոփոխությունը կարող է ստեղծել ռիսկի նոր պատկեր:
Նշանակեք պատասխանատու, որն իրավասու է դադարեցնել աշխատանքային հոսքը և պահանջել շտկումներ: Պատասխանատվությունը մեղադրանքի հասցեատեր փնտրելը չէ. դա գրառումը թարմ պահելու, ապացույցներ հավաքելու և կասեցման կանոնը գործելու դեպքում խնդիրը վերադասին ներկայացնելու լիազորությունն ու պարտականությունն է:
- Համակարգ և տարբերակ
- Նախատեսված կիրառություն և հստակ բացառություններ
- Օգտատերեր և ազդեցություն կրող անձինք
- Տվյալներ և արտաքին կախվածություններ
- Պատասխանատու և կասեցնելու լիազորություն ունեցող անձ
05
Յուրաքանչյուր ռիսկի տվեք չափելի և դիտարկելի տեսք
Ռիսկը ձևակերպեք պատճառի, իրադարձության և հետևանքի տեսքով: «Մոդելը կարող է սխալվել» ձևակերպումը չափազանց լայն է: Փոխարենը՝ «Հնացած աղբյուրի պատճառով սևագրման համակարգը նշում է ժամկետանց վերջնաժամկետ, ինչի հետևանքով ընթերցողը բաց է թողնում ընթացիկ հայտերի փուլը» տարբերակը հնարավոր է թեստավորել և վերահսկել:
Յուրաքանչյուր գրառման համար նշեք առկա վերահսկողական մեխանիզմները, հավանականության և ազդեցության մակարդակները, հայտնաբերման ապացույցները, արձագանքը, պատասխանատուին, վերանայման ամսաթիվը և կարգավիճակը: Օգտագործեք պարզ սանդղակներ՝ հստակ գրված սահմանումներով: Նպատակը հետևողական որոշումներ կայացնելն է, այլ ոչ թե ձևական ճշգրտություն ցուցադրելը:
- Պատճառ, իրադարձություն և հետևանք
- Ազդեցություն կրող անձինք կամ գործընթացներ
- Կանխարգելման և հայտնաբերման գործող վերահսկողական մեխանիզմներ
- Հավանականություն և ազդեցություն՝ սահմանված չափանիշներով
- Արձագանք, պատասխանատու, կարգավիճակ և հաջորդ վերանայման ժամկետ
06
Տասը հարց նախքան գործարկումը
Ստորև բերված հարցերը Govern, Map, Measure և Manage գործառույթները վերածում են փոքր թիմի համար հարմար գործնական ստուգման: Թերի կամ անհայտ պատասխանն ինքնաբերաբար արգելք չէ. դա ցուցիչ է, որ թիմին անհրաժեշտ է լրացուցիչ վերահսկողություն, շրջանակի նեղացում, թեստավորում կամ կասեցում:
Գեներատիվ համակարգերում հատուկ ուշադրություն պետք է դարձնել չհիմնավորված բովանդակությանը, գաղտնիությանը, վնասակար կամ արժանապատվությունը նվաստացնող նյութերին, ծագման անհայտ աղբյուրներին, տեղեկատվական անվտանգությանը և համակարգին չափից ավելի ապավինելուն: NIST Generative AI Profile-ը տրամադրում է ավելի լայն ցանկ. ընտրեք այն, ինչը վերաբերում է ձեր իրական կիրառությանը:
- Ո՞ր կոնկրետ կիրառությունն է թույլատրված, և ի՞նչն է բացառված:
- Ո՞վ կարող է տուժել սխալ, բացակայող կամ ուշացած արդյունքից:
- Ի՞նչ տվյալներ են մուտքագրվում համակարգ, և ո՞ւր են դրանք փոխանցվում:
- Ո՞ր աղբյուրը կամ թեստը կարող է բացահայտել չհիմնավորված պնդումը:
- Կարո՞ղ է արդյոք օգտատերը հասկանալ, երբ է արդյունքն էապես ձևավորվել ԱԲ-ի կողմից:
- Ի՞նչ է տեղի ունենում, երբ փոխվում է մոդելը, prompt-ը, աղբյուրը կամ կախվածությունը:
- Ո՞րն է հնարավոր վատագույն կրկնվող խափանումը:
- Հնարավո՞ր է գործողությունը հետ շրջել, ուղղել և հետագծել:
- Ո՞վ է տեղեկացվում միջադեպի մասին, և ո՞վ ունի աշխատանքը կասեցնելու իրավասություն:
- Ի՞նչ ապացույցի հիման վրա է այս ռիսկը դուրս գրվելու, նվազեցվելու կամ վերաբացվելու:
07
Վերանայեք շաբաթական կտրվածքով և կիրառեք կասեցման պարզ կանոն
Նոր առօրյա համակարգի դեպքում ռեեստրը վերանայեք շաբաթը մեկ անգամ: Քննեք անհաջող օրինակները, օգտատերերի ուղղումները, աղբյուրների թարմությունը, մոդելի կամ prompt-ի փոփոխությունները, միջադեպերը և չգործած վերահսկողական քայլերը: Գրառումը փակեք միայն այն դեպքում, երբ կան փաստացի ապացույցներ, և պահպանեք փոփոխությունների պատմությունը:
Այս ռեեստրի համատեքստում կրիտիկական է համարվում բարձր ազդեցության այն խափանումը, որը չունի վերահսկման գործուն մեխանիզմ: Կասեցման գործնական կանոնը հետևյալն է. դադարեցրեք տվյալ արդյունքի գեներացումը, եթե առկա է չլուծված հավաստի խնդիր, համակարգը դուրս է գալիս հաստատված շրջանակից, բացակայում են պահանջվող ապացույցները կամ չի հաջողվում հաստատել վերահսկողության կիրառումը: Վերագործարկեք միայն նոր տարբերակով՝ խնդիրը շտկելուց և ստուգելուց հետո:
- Նոր ապացույցները թարմացնում են հավանականության կամ ազդեցության գնահատականը:
- Համակարգի փոփոխությունը վերաբացում է առնչվող գրառումները:
- Առանց արդյունավետ վերահսկողության բարձր ազդեցության խափանումը կասեցնում է տվյալ աշխատանքային հոսքը:
- Վերագործարկման համար պահանջվում է տարբերակավորված շտկում և թարմ ստուգում:
08
Ներբեռնեք և օգտագործեք ձևանմուշը
CSV ֆայլը բացվում է աղյուսակային ծրագրերով և չի պարունակում մակրոսներ կամ արտաքին կապեր:
- 01
Յուրաքանչյուր առանձին պատճառ-իրադարձություն-հետևանք շղթայի համար ստեղծեք մեկ տող:
- 02
Մտացածին տոկոսների փոխարեն օգտագործեք ցածր, միջին և բարձր ռիսկի հստակ մակարդակներ, ինչպես նաև կասեցման կրիտիկական շեմը:
- 03
Վերահսկողության յուրաքանչյուր մեխանիզմ կապեք դրա գործարկման փաստացի ապացույցի հետ:
- 04
Մինչև գործարկումը նշանակեք պատասխանատու և սահմանեք հաջորդ վերանայման ամսաթիվը:
- 05
Պահպանեք փակված գրառումները, որպեսզի կրկնվող խնդիրները մնան տեսանելի:
09
Այս թողարկման սահմանափակումները
Ընդհանրական ռեեստրը չի փոխարինում կոնկրետ առաջադրանքների գնահատմանը կամ կազմակերպության վրա դրված պարտավորություններին:
Ռիսկերի մակարդակներն առաջնահերթությունների սահմանման գործիք են, այլ ոչ թե չափված հավանականություններ, քանի դեռ դրանք չեն հիմնվում կոնկրետ տվյալների վրա:
NIST-ը վերանայում է AI RMF 1.0-ը, ուստի գործընթացներում խոշոր փոփոխություններ կատարելուց առաջ անհրաժեշտ է ստուգել աղբյուրների փաթեթը:
SRC
Աղբյուրների բաժին
Ուղիղ հղումներ այս ընտրանու հիմքում եղած նյութերին: Աղբյուրը տեսնելը նույնքան կարևոր է, որքան սինթեզն ընթերցելը: