NIST AI RMF.
Razumijte rizike umjetne inteligencije u konkretnoj primjeni, donosite obrazložene odluke i provjeravajte učinak zaštitnih mjera.
- NIST AI 100-1 · AI RMF 1.0
- Autor: Jonathan Bezdek
- Stanje: 22. 10. 2026.
- Vrijeme čitanja: 6 min.
Kratak odgovor.
NIST AI RMF dobrovoljni je okvir za upravljanje rizicima UI sustava. AI Risk Management Framework 1.0 podupire razvoj, primjenu i ocjenjivanje funkcijama Govern, Map, Measure i Manage. Povezuje tehničke provjere s odgovornošću i razmatranjem posljedica tijekom životnog ciklusa; ne uspostavlja opći postupak certifikacije.
AI RMF 1.0, Playbook i profil generativnog UI-ja.
NIST AI RMF 1.0 publikacija je američkog National Institute of Standards and Technology od 26. siječnja 2023. NIST AI 100-1 opisuje rizike za ljude, organizacije i društvo te svojstva pouzdane umjetne inteligencije. Okvir usmjerava razmatranje na stvarnu primjenu: prolazak modela na testu još ne odgovara na pitanje posljedica njegovih izlaznih rezultata u poslovnom postupku.
NIST AI RMF Playbook dopunjuje okvir dobrovoljnim prijedlozima djelovanja. Prema NIST-ovoj stranici Playbook nije kontrolni popis koji treba potpuno odraditi; prikladni prijedlozi odabiru se za vlastiti kontekst. NIST AI 600-1 iz srpnja 2024. zaseban je profil generativnog UI-ja. Produbljuje rizike generativne umjetne inteligencije i dopunjuje osnovno izdanje, umjesto zamjene novom verzijom.
NIST na programskoj stranici i u čestim pitanjima ažuriranima u kolovozu 2026. najavljuje reviziju AI RMF 1.0. Ova se stranica odnosi na objavljeno osnovno izdanje i navedene dopune. Za vlastiti rad treba zabilježiti koja verzija, profil i stanje izvora podupiru procjenu.
Kome je AI Risk Management Framework namijenjen.
Prema NIST AI 100-1, poglavlju 2, NIST AI RMF namijenjen je različitim akterima životnog ciklusa UI-ja: razvoju, nabavi, primjeni i ocjenjivanju. NIST-ova česta pitanja navode organizacije različitih veličina i sektora. I poduzeće koje nabavlja vanjski UI može time obraditi pitanja vlastite primjene, ovisnosti o dobavljačima i vlastite odgovornosti.
Razmatranje pripada interdisciplinarnom timu. Tehnički stručnjaci mogu, primjerice, provjeriti ponašanje sustava, dok stručne odgovorne osobe objašnjavaju koje pogreške imaju ozbiljne posljedice u radnom postupku. Zaštita podataka, sigurnost i perspektiva pogođenih osoba dopunjuju taj rad. Prema NIST AI 100-1, poglavlju 3, svojstva pouzdanosti mogu biti međusobno u sukobu; pojedinačna dobra mjerna vrijednost zato ne zamjenjuje obrazloženu ukupnu odluku.
Povežite Govern, Map, Measure i Manage.
Četiri funkcije iz NIST AI 100-1, poglavlja 5, organiziraju rad na UI rizicima. Nisu četiri projektne faze koje se obvezno dovršavaju jedna za drugom. Govern djeluje poprečno; saznanja iz rada i ocjenjivanja vraćaju se na razjašnjavanje konteksta i odlučivanje.
Govern: odgovornost i pravila odlučivanja.
Prema poglavlju 5.1 Govern povezuje tehnički rad s odgovornostima, tolerancijom rizika i organizacijskim pravilima. Za konkretnu primjenu mora biti razumljivo tko odgovara za procjenu, tko smije odlučivati o preostalim rizicima i kada slijedi eskalacija. Upravljanje ostaje aktivno i nakon odobrenja te podupire druge funkcije.
Map: kontekst primjene i moguće posljedice.
Prema poglavlju 5.2 Map ispituje svrhu, okruženje, sudionike i moguće učinke UI sustava. Asistent za interne nacrte tekstova ima drukčije točke odlučivanja od primjene čiji rezultati suodlučuju o prijavama za posao. Opis konteksta otkriva koje informacije nedostaju i koje pretpostavke ograničavaju kasniju procjenu.
Measure: provjeravajte tvrdnje prikladnim metodama.
Prema poglavlju 5.3 Measure koristi kvalitativne i kvantitativne metode za ispitivanje rizika i relevantnih svojstava sustava. Testovi trebaju odgovarati utvrđenim posljedicama i otkriti vlastite granice. Rezultat je sadržajan koliko i podaci, uvjeti testa i ispitivana primjena; neizvjesnost zato pripada procjeni.
Manage: upravljajte obradom i radom.
Prema poglavlju 5.4 Manage raspoređuje mjere i odluke prema procijenjenim rizicima. To uključuje obradu, nadzor i postupanje s promjenama ili incidentima. Organizacija treba moći objasniti zašto odobrava, ograničava ili prekida primjenu i koji bi rezultati naknadno promijenili tu odluku.
Praktična primjena NIST AI RMF-a.
Odredite slučaj uporabe.
Kao praktičan početak odaberite konkretan postupak potpomognut UI-jem i dokumentirajte svrhu, granicu sustava, nadležnu osobu i korištenu verziju okvira.
Zajedno ispitajte kontekst.
Evidentirajte sudionike, pogođene osobe, dobavljače i moguće posljedice te zabilježite proturječne pretpostavke kao otvorena istraživačka pitanja.
Odredite rizike i potrebe procjene.
Odredite prioritete relevantnih scenarija rizika i odlučite koje tehničke provjere, stručne ocjene i dodatne informacije zahtijeva pouzdana odluka.
Obrazložite obradu i odobrenje.
Povežite rezultate sa zaštitnim mjerama, preostalim neizvjesnostima i odlukom za koju netko odgovara, uključujući uvjete i ograničenja.
Pratite rad i promjene.
Odredite koje povratne informacije, incidenti ili promjene pokreću novu procjenu i tko preuzima rad koji iz toga proizlazi.
Dokazivanje provjerljivim odlukama.
Procjena usmjerena prema RMF-u postaje sljediva svojim opsegom, metodama i dokumentiranim rezultatima. NIST AI 100-1, poglavlja 4 i 6, obrađuje učinkovitost i kontekstualne profile. Sadržajni su, primjerice, obrazloženo razmatranje rizika, sljedive evaluacije, dokumentirane granice i provjerene odluke o obradi. Sam ispunjeni upitnik ne pokazuje da je rizik pod kontrolom.
Dobrovoljni okvir ne sadrži postupak certifikacije po uzoru na ISO normu sustava upravljanja. Pri vanjskoj procjeni treba provjeriti što je stvarno ispitano: koja primjena, koja verzija, koje metode i koji trenutak. Privatnu potvrdu treba ocijeniti prema tim podacima, a ne tretirati kao opće odobrenje NIST-a. Iz AI RMF-a ne može se izvesti opće trajanje certifikata.
Drugi okviri za druge odluke.
ISO 42001 opisuje zahtjeve za sustav upravljanja UI-jem i mogući neovisni certifikacijski dokaz. Akt EU-a o UI-ju uspostavlja zasebne zakonske obveze prema sustavu, ulozi i vremenu primjene. NIST CSF podupire rad na kibernetičkim sigurnosnim rizicima; primjena tih instrumenata ne zamjenjuje kontekstualno razmatranje UI rizika i ne stvara automatsko uzajamno ispunjavanje.
U Secaniju.
Secani pruža urednički radni katalog NIST AI RMF 1.0 sa sadržajem na njemačkom i engleskom. Pohranjeni UI profil uključuje podatke poput uloge, generativne primjene, vanjskih modela i operativnog statusa. Katalog proizvoda označava da stručna provjera još predstoji te ne obuhvaća potpuno zaseban profil generativnog UI-ja ni buduće NIST-ove revizije. Iz toga ne nastaje automatska odluka o sukladnosti ili certifikaciji.
Počnite s konkretnom odlukom o UI-ju.
Odaberite primjenu za koju vaša organizacija mora pouzdano obrazložiti odobrenje ili ograničenje. Prikupite postojeće informacije o kontekstu, evaluacije i odluke te imenujte odgovornu osobu. Na tome se može provjeriti koje informacije nedostaju za odluku i koji je rad najprije potreban. Početak je praktična preporuka; Playbook ne propisuje univerzalan slijed projekta.
Izvori.
- NIST: AI Risk Management Framework i stanje revizije
- NIST AI 100-1: AI RMF 1.0, poglavlja 1–6
- NIST: česta pitanja o AI Risk Management Frameworku
- NIST: AI RMF Playbook
- NIST AIRC: Playbook i smjernice primjene
- NIST AIRC: AI RMF Core, poglavlje 5
- NIST AI 600-1: Generative Artificial Intelligence Profile
- NIST: objava profila generativnog UI-ja
Česta pitanja.
NIST pruža AI RMF kao dobrovoljni okvir. Koji zakonski ili ugovorni zahtjevi vrijede za konkretnu UI primjenu treba provjeriti zasebno.
Ne. Upravljanje djeluje poprečno; funkcije se ponavljano povezuju prema kontekstu. Ni Core ni Playbook ne čine slijed koraka koji treba potpuno odraditi za svaku primjenu.
Ne. NIST AI 600-1 dopunski je profil za AI RMF 1.0 za generativnu umjetnu inteligenciju i ne zamjenjuje osnovno izdanje.
AI RMF ne uspostavlja postupak certifikacije poput ISO norme sustava upravljanja. Vanjsku procjenu treba ocijeniti prema metodi i stvarnom opsegu; ne zamjenjuje zasebnu pravnu provjeru sukladnosti.
Sljedivo obrađujte UI rizike.
Secani podupire rad s uredničkim katalogom AI RMF-a i pripadajućim UI profilom.
Ova stranica općenito objašnjava NIST-ove publikacije. Mjerodavni su navedeni izvorni izvori i pravni zahtjevi koji vrijede za pojedinu primjenu.