Διακυβερνήστε τους πράκτορες ΤΝ

Η ΤΝ πρέπει να προετοιμάζει την εργασία, όχι να αντικαθιστά τη λογοδοσία

Η εργασία συμμόρφωσης συνδυάζει έρευνα, αξιολόγηση, τεκμηρίωση και συντονισμό. Οι πράκτορες ΤΝ μπορούν να προετοιμάσουν μεγάλο μέρος της: να εξάγουν αποδεικτικά στοιχεία, να εντοπίζουν ανοιχτά σημεία, να συνοψίζουν απαιτήσεις και να συντάσσουν προτάσεις. Η επαγγελματική λογοδοσία παραμένει στην ομάδα.

Η μηχανική διάκριση είναι αν ένα σύστημα παράγει μόνο κείμενο ή μπορεί επίσης να καλεί εργαλεία, να αλλάζει αρχεία και να ενεργοποιεί κατάντη ροές εργασίας. Μια λανθασμένη σύνοψη χρειάζεται διόρθωση. Μια λανθασμένη ενέργεια μπορεί να αποκαλύψει αποδεικτικά στοιχεία, να αλλάξει δικαιώματα ή να διαδώσει ένα αστήρικτο συμπέρασμα για ένα μέτρο ελέγχου.

Κάθε ροή εργασίας που υποστηρίζεται από ΤΝ χρειάζεται επομένως ρητά όρια: τι μπορεί να προτείνει ο πράκτορας, τι μπορεί να αλλάξει και ποια βήματα απαιτούν έγκριση; Επιβάλετε αυτά τα όρια μέσω δικαιωμάτων και μέτρων ελέγχου της ροής εργασίας, όχι μόνο μέσω οδηγιών σε μια εντολή (prompt). Κρατήστε τις προτάσεις εμφανώς ξεχωριστές από τις εγκεκριμένες αποφάσεις.

Τα μέτρα ελέγχου που ακολουθούν είναι πρακτικές συστάσεις. Η εφαρμοσιμότητά τους εξαρτάται από τον σκοπό, τα δεδομένα, την εξουσία και το περιβάλλον λειτουργίας του πράκτορα.

Θεμελιώστε το πλαίσιο διακυβέρνησης χωρίς σύγχυση μεταξύ πλαισίων

Το ISO/IEC 42001 παρέχει απαιτήσεις για ένα σύστημα διαχείρισης ΤΝ. Το NIST AI Risk Management Framework παρέχει προαιρετική καθοδήγηση για τη διακυβέρνηση, τη χαρτογράφηση, τη μέτρηση και τη διαχείριση των κινδύνων της ΤΝ. Κανένα από τα δύο δεν εξασφαλίζει αυτομάτως συμμόρφωση με την Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη.

Η κατάταξη κατά την Πράξη για την ΤΝ εξαρτάται από την περίπτωση χρήσης και τον ρόλο του οργανισμού. Ένας πράκτορας που χρησιμοποιείται για τη σύνοψη αποδεικτικών στοιχείων δεν έχει τις ίδιες επιπτώσεις με ένα σύστημα που χρησιμοποιείται σε αποφάσεις απασχόλησης. Ελέγξτε την τρέχουσα επισκόπηση της Ευρωπαϊκής Επιτροπής, αντί να θεωρείτε κάθε πράκτορα υψηλού κινδύνου ή να υποθέτετε μία καθολική προθεσμία υλοποίησης.

Για τους σκοπούς της αξιολόγησης, εστιάστε στον αποδείξιμο έλεγχο: εξηγήστε το σύστημα, δείξτε τα όριά του και παράγετε αρχεία που δείχνουν ότι η επισκόπηση και η παρακολούθηση πράγματι έγιναν.

Απογράψτε τους πράκτορες και ορίστε το λειτουργικό τους πλαίσιο

Συμπεριλάβετε πράκτορες ενσωματωμένους σε προϊόντα SaaS, εσωτερικά σενάρια και ροές εργασίας τμημάτων, όχι μόνο κεντρικά αναπτυγμένες εφαρμογές. Συγκρίνετε αρχεία προμηθειών, ταυτότητες υπηρεσιών, εγκεκριμένες ενοποιήσεις και συνεντεύξεις με ομάδες για να εντοπίσετε αυτοματισμούς που λείπουν από την απογραφή.

Για κάθε πράκτορα, καταγράψτε την τοποθεσία ανάπτυξης, το μοντέλο και τον προμηθευτή, τα συνδεδεμένα συστήματα, τον επιχειρησιακό σκοπό και την κατάσταση κύκλου ζωής. Ονομάστε έναν υπόλογο υπεύθυνο, έναν τεχνικό υπεύθυνο συντήρησης και έναν αξιολογητή. Οι ρόλοι αυτοί μπορεί να επικαλύπτονται σε μια μικρή ομάδα, αλλά η ευθύνη πρέπει να παραμένει ρητή.

Στη συνέχεια, περιγράψτε το λειτουργικό πλαίσιο με δοκιμάσιμους όρους:

• Εργασία: εξαγωγή αποσπασμάτων σχετικών με επιλεγμένα μέτρα ελέγχου, όχι προσδιορισμός της συνολικής συμμόρφωσης.
• Δεδομένα: ανάγνωση μιας εγκεκριμένης συλλογής αποδεικτικών στοιχείων, όχι κάθε εγγράφου του οργανισμού.
• Αποτέλεσμα: δημιουργία ενός προσχεδίου αξιολόγησης με παραπομπές και ανοιχτά ερωτήματα.
• Ενέργειες: αποθήκευση προσχεδίων, αλλά ποτέ έγκριση μέτρων ελέγχου ή εξωτερική αποστολή αποδεικτικών στοιχείων.
• Κλιμάκωση: διακοπή και αίτημα επισκόπησης όταν οι πηγές αντιφάσκουν ή λείπουν απαιτούμενα αποδεικτικά στοιχεία.

Η επαναλαμβανόμενη, οριοθετημένη εργασία είναι συνήθως το ισχυρότερο σημείο εκκίνησης. Η εξαγωγή από έγγραφα, η ανάλυση κενών, η προσυμπλήρωση μέτρων ελέγχου, η σύνοψη αλλαγών και η προετοιμασία ερωτήσεων ελέγχου παράγουν αποτελέσματα που οι αξιολογητές μπορούν να επιθεωρήσουν άμεσα.

Οι ομάδες ασφάλειας μπορούν επίσης να χρησιμοποιούν πράκτορες για τον εμπλουτισμό ειδοποιήσεων, την ανασύνθεση χρονολογίων περιστατικών, την ιεράρχηση ευπαθειών, την επισκόπηση κώδικα ή την επισήμανση ασυνήθιστων δικαιωμάτων ταυτοτήτων μηχανών. Ξεκινήστε με ανάλυση και συστάσεις· η παροχή δικαιώματος εγγραφής στην παραγωγή δημιουργεί διαφορετικό προφίλ κινδύνου.

Επιβάλετε τα δικαιώματα έξω από το μοντέλο

Δώστε σε κάθε αναπτυγμένο πράκτορα μια διακριτή ταυτότητα υπηρεσίας ή ισοδύναμη ταυτότητα εκτέλεσης. Αποφύγετε κοινά διαπιστευτήρια διαχειριστή. Οριοθετήστε την πρόσβαση ανά εργασία, περιβάλλον, συλλογή δεδομένων και επιτρεπόμενη λειτουργία· επισκοπήστε τόσο τα άμεσα δικαιώματα όσο και την εξουσία που κληρονομείται μέσω συνδεδεμένων εργαλείων.

Ένας πράκτορας μόνο ανάγνωσης μπορεί παρ’ όλα αυτά να εκθέσει πληροφορίες μέσω του αποτελέσματός του. Περιορίστε τους προορισμούς καθώς και τις εισόδους. Όπου είναι πρακτικό, χρησιμοποιήστε βραχύβια διαπιστευτήρια και κρατήστε τα μυστικά εκτός των εντολών, των ανακτημένων εγγράφων και των αρχείων καταγραφής.

Οι διεπαφές εργαλείων πρέπει να εκθέτουν στενές λειτουργίες με επικυρωμένες παραμέτρους. Ένας πράκτορας σύνταξης αποδεικτικών στοιχείων χρειάζεται μια λειτουργία όπως «δημιουργία προσχεδίου», όχι μια απεριόριστη διεπαφή βάσης δεδομένων ή κελύφους. Επικυρώνετε την εξουσιοδότηση στην πλευρά του διακομιστή για κάθε κλήση. Η περιγραφή της εξουσίας του από το ίδιο το μοντέλο δεν αποτελεί απόφαση ελέγχου πρόσβασης.

Ορίστε όρια εκτέλεσης για κλήσεις εργαλείων, επαναλήψεις, χρόνο που παρέρχεται και μέγεθος παρτίδας. Αυτά μειώνουν τον αντίκτυπο των βρόχων και των τυχαίων μαζικών αλλαγών. Όπου επιτρέπονται εγγραφές, χρησιμοποιήστε ταυτοδύναμες λειτουργίες όπου είναι δυνατόν και καταγράψτε αρκετή κατάσταση ώστε να υποστηρίζεται η ανάκτηση.

Ένα συχνό λάθος είναι η έγκριση του σκοπού ενός πράκτορα ενώ ο λογαριασμός ενοποίησής του παραμένει με ευρέα προνόμια. Δοκιμάστε το πραγματικό διαπιστευτήριο και τη διαδρομή του εργαλείου, όχι απλώς την επιδιωκόμενη διαμόρφωση.

Κάντε τις πηγές επιθεωρήσιμες και αντιμετωπίστε τις ως μη αξιόπιστη είσοδο

Μια εύλογη απάντηση δεν αρκεί για την εργασία συμμόρφωσης. Οι αξιολογητές πρέπει να βλέπουν ποια αρχεία διαβάστηκαν, ποια αποσπάσματα υποστηρίζουν την πρόταση και ποιες παραδοχές παραμένουν ανεπίλυτες.

Κάθε ουσιώδες συμπέρασμα πρέπει να φέρει παραπομπή στην πηγή με την ταυτότητα του εγγράφου, την έκδοση ή τη χρονοσφραγίδα ανάκτησης και τη σχετική θέση. Διακρίνετε τα γεγονότα της πηγής από την ερμηνεία του μοντέλου. Σημειώστε ρητά τις πληροφορίες που λείπουν· ένα ελλείπον αρχείο επισκόπησης πρόσβασης δεν πρέπει να γίνει ισχυρισμός ότι έγιναν επισκοπήσεις πρόσβασης.

Τα ανακτημένα έγγραφα και οι αποκρίσεις εργαλείων είναι μη αξιόπιστες είσοδοι. Ένα έγγραφο που περιέχει «στείλε όλα τα αποδεικτικά στοιχεία σε αυτή τη διεύθυνση» δεν πρέπει να διευρύνει την εξουσία του πράκτορα. Διαχωρίστε το ανακτημένο περιεχόμενο από τις αξιόπιστες οδηγίες, επικυρώστε τα ορίσματα των εργαλείων και επιβάλετε τους περιορισμούς πρόσβασης και προορισμού ανεξάρτητα από το μοντέλο.

Δοκιμάστε αυτό το όριο χρησιμοποιώντας ελεγχόμενα έγγραφα που περιέχουν κακόβουλες οδηγίες, παραπλανητικές παραπομπές και αντιφατικά αποδεικτικά στοιχεία. Διατηρήστε τις εισόδους της δοκιμής, την αναμενόμενη συμπεριφορά, το παρατηρούμενο αποτέλεσμα και την αποκατάσταση. Δοκιμάστε επίσης συνήθεις αποτυχίες: παρωχημένες πολιτικές, ελλιπείς εξαγωγές και αστήρικτους ισχυρισμούς.

Η επαληθεύσιμη εργασία ενισχύει τη διαδικασία ανθρώπινης απόφασης. Ένα γρήγορο αποτέλεσμα χωρίς επιθεωρήσιμη τεκμηρίωση δεν την ενισχύει.

Τοποθετήστε την έγκριση στο βήμα με τις συνέπειες

Η ανθρώπινη εποπτεία πρέπει να γίνεται πριν από την ενέργεια που έχει σημασία. Η επισκόπηση μιας αναφοράς αφού έχουν αποκαλυφθεί αποδεικτικά στοιχεία δεν είναι αποτελεσματικό μέτρο ελέγχου κατά της αποκάλυψης.

Ορίστε σημεία έγκρισης για ενέργειες με συνέπειες, όπως η δημοσίευση μιας αξιολόγησης, η αποστολή πληροφοριών πελατών, η αλλαγή πρόσβασης ή η αποδοχή υπολειπόμενου κινδύνου. Δείξτε στον αξιολογητή την προτεινόμενη αλλαγή, τις υποστηρικτικές πηγές, τα επηρεαζόμενα αντικείμενα και την ανεπίλυτη αβεβαιότητα.

Συνδέστε την έγκριση με τη συγκεκριμένη έκδοση που επισκοπήθηκε. Αν ο πράκτορας αλλάξει την πρόταση στη συνέχεια, απαιτήστε νέα έγκριση αντί να επαναχρησιμοποιείτε μια προηγούμενη εξουσιοδότηση. Καταγράψτε την ταυτότητα του αξιολογητή, τη χρονοσφραγίδα, την απόφαση και τα σχόλια.

Για εργασία μικρότερου αντικτύπου, η δειγματοληπτική επισκόπηση μπορεί να είναι κατάλληλη αφού η αξιολόγηση καταδείξει αποδεκτή επίδοση. Μην επεκτείνετε σιωπηρά αυτή τη ρύθμιση σε εργασίες μεγαλύτερου αντικτύπου. Οι αλλαγές στην αυτονομία χρειάζονται ρητή επαναξιολόγηση.

Ετοιμάστε εννέα συνδεδεμένα αρχεία για την αξιολόγηση

Οι πολιτικές περιγράφουν την πρόθεση· τα λειτουργικά αποδεικτικά στοιχεία δείχνουν αν η πρόθεση αυτή τηρείται. Συγκεντρώστε τα παρακάτω αρχεία για κάθε πράκτορα, με συνδέσμους μεταξύ διαμόρφωσης, δοκιμών, δραστηριότητας και αποφάσεων.

Το πεδίο της αξιολόγησης καθορίζει ποια αποδεικτικά στοιχεία είναι σχετικά. Δεν υπάρχει καθολική απαίτηση να εκτίθεται η κρυφή συλλογιστική ενός μοντέλου. Καταγράψτε αντί γι’ αυτό τις παρατηρήσιμες εισόδους, τις ενέργειες, τις πηγές και μια σύντομη αιτιολόγηση της απόφασης.

Προστατέψτε τα ίδια τα αρχεία: περιορίστε την πρόσβαση και εφαρμόστε διατήρηση κατάλληλη για την ευαισθησία τους. Η αδιάκριτη καταγραφή πλήρων εντολών μπορεί να δημιουργήσει ένα ακόμη αποθετήριο εμπιστευτικών ή προσωπικών δεδομένων.

Παράδειγμα: ένας πράκτορας επισκόπησης αποδεικτικών στοιχείων

Ας υποθέσουμε, ενδεικτικά, ότι μια ομάδα θέλει έναν πράκτορα να επισκοπεί αποδεικτικά στοιχεία διαχείρισης πρόσβασης για μία εφαρμογή. Μπορεί να διαβάζει μια εγκεκριμένη πολιτική, μια εξαγωγή χρηστών και ολοκληρωμένα αιτήματα επισκόπησης. Μπορεί να δημιουργεί προσχέδια μέτρων ελέγχου, αλλά δεν μπορεί να τα εγκρίνει, να τροποποιεί λογαριασμούς ή να στέλνει μηνύματα.

Η ομάδα τον αξιολογεί σε σχέση με ένα σύνολο ελεγμένο από αξιολογητή, που περιέχει πλήρη αποδεικτικά στοιχεία, ελλείποντα αιτήματα, ληγμένα έγγραφα και μια τοποθετημένη οδηγία αποκάλυψης. Η αποδοχή απαιτεί τεκμηριωμένα συμπεράσματα, ρητό εντοπισμό κενών και καμία απαγορευμένη ενέργεια. Η ταχύτερη ολοκλήρωση από μόνη της δεν αποτελεί κριτήριο έκδοσης.

Κατά τη διάρκεια μιας εκτέλεσης, ο πράκτορας διαπιστώνει ότι η πολιτική απαιτεί περιοδικές επισκοπήσεις, αλλά τα μεταφορτωμένα αιτήματα καλύπτουν μόνο μέρος της περιόδου αξιολόγησης. Συντάσσει ένα εύρημα μερικών αποδεικτικών στοιχείων, παραπέμπει στην πολιτική και στα αιτήματα και ζητεί τα αρχεία που λείπουν. Ο αξιολογητής ελέγχει τις πηγές και καταγράφει την τελική απόφαση.

Τα διατηρούμενα αποδεικτικά στοιχεία περιλαμβάνουν τη δοκιμασμένη διαμόρφωση δικαιωμάτων, τα αποτελέσματα της αξιολόγησης, τις παραπομπές σε πηγές, το προσχέδιο, τη διόρθωση του αξιολογητή και την έγκριση. Αυτό καταδεικνύει τη ροή εργασίας χωρίς να ισχυρίζεται ότι ο πράκτορας απέδειξε την αποτελεσματικότητα του μέτρου ελέγχου.

Παρακολουθήστε τη συμπεριφορά και κάντε τη διακοπή πρακτική

Παρακολουθήστε αστήρικτα συμπεράσματα, διορθώσεις αξιολογητών, απορριφθείσες κλήσεις εργαλείων, ασυνήθιστη πρόσβαση σε δεδομένα, επαναλαμβανόμενες προσπάθειες και απροσδόκητο όγκο ενεργειών. Μετρήστε την ορθότητα και την προσπάθεια των αξιολογητών μαζί με την ταχύτητα. Πάρτε δείγματα και από επιτυχημένες εκτελέσεις· τα σφάλματα δεν δημιουργούν πάντα ειδοποιήσεις.

Παρακολουθήστε ανάλογα με τον κίνδυνο και επαναξιολογήστε όταν αλλάζουν μοντέλα, εντολές, εργαλεία, δικαιώματα ή συλλογές πηγών. Μια προηγούμενη αξιολόγηση δεν καλύπτει αυτομάτως μια νέα διαμόρφωση.

Παρέχετε έναν δοκιμασμένο μηχανισμό διακοπής που απενεργοποιεί την εκτέλεση ή ανακαλεί την πρόσβαση στα εργαλεία. Αναθέστε την ευθύνη για τα περιστατικά και ορίστε πώς διατηρούνται τα αρχεία καταγραφής, πώς εντοπίζονται τα επηρεαζόμενα αρχεία, πώς αναιρούνται οι αλλαγές όπου είναι δυνατόν και πώς ενημερώνονται οι σχετικές ομάδες. Ένα κουμπί διακοπής δεν μπορεί να αναιρέσει μια αποκάλυψη, γι’ αυτό η πρόληψη εξακολουθεί να έχει σημασία.

Ξεκινήστε με μία ροή εργασίας που μπορεί να επισκοπηθεί

Επιλέξτε μία οριοθετημένη εργασία, ορίστε τον υπεύθυνό της, τεκμηριώστε τα δικαιώματά της, εκτελέστε επιθετικές και συνήθεις δοκιμές και διατηρήστε την πρώτη επισκοπημένη εκτέλεση πριν διευρύνετε το πεδίο εφαρμογής.

Στο Secani, οι ομάδες μπορούν να συνδέουν αποδεικτικά στοιχεία με απαιτήσεις, μέτρα ελέγχου, συστήματα και αποφάσεις· να μετατρέπουν κενά σε εργασίες· και να επισκοπούν τις προτάσεις της ΤΝ ως προσχέδια. Διατηρήστε συνδέσμους πηγών, σχόλια, εγκρίσεις και χρονοσφραγίδες γύρω από τις ουσιώδεις αποφάσεις. Η ροή εργασίας αυτή υποστηρίζει την ανιχνευσιμότητα χωρίς να υποκαθιστά την επαγγελματική κρίση με ένα εργαλείο.

Χρησιμοποιήστε τον οδηγό για τα πλαίσια διακυβέρνησης της ΤΝ για να τοποθετήσετε αυτά τα αρχεία σε επίπεδο πράκτορα μέσα στο ευρύτερο σύστημα διαχείρισης.