Εμπιστοσύνη, αξιοπιστία και Zero Trust: γιατί το μέλλον της εμπιστοσύνης πρέπει να είναι επαληθεύσιμο

Η εμπιστοσύνη δεν πρέπει να μεγιστοποιείται. Πρέπει να κερδίζεται, να τεκμηριώνεται και να βαθμονομείται συνεχώς.

Σχεδόν κάθε εταιρεία τεχνολογίας ισχυρίζεται ότι οικοδομεί εμπιστοσύνη. Όμως η φράση «εμπιστευτείτε μας» αποκαλύπτει ήδη το βασικό πρόβλημα: ζητά εμπιστοσύνη πριν προσφέρει επαρκείς λόγους γι' αυτήν. Ένας πάροχος λογισμικού μπορεί να ισχυρίζεται ότι τα δεδομένα των πελατών είναι ασφαλή. Ένας πελάτης μπορεί να πιστέψει αυτόν τον ισχυρισμό και να αποφασίσει να εμπιστευτεί τον πάροχο. Το αν ο πάροχος είναι πράγματι αξιόπιστος, ωστόσο, είναι διαφορετικό ζήτημα. Μόνο τα τεκμήρια για τα εφαρμοσμένα μέτρα ασφαλείας, την αποτελεσματικότητά τους, το πεδίο εφαρμογής τους και τη διαρκή λειτουργία τους μπορούν να προσφέρουν μια ορθολογική βάση για αυτή την εμπιστοσύνη. Ακριβώς εδώ έννοιες όπως εμπιστοσύνη, αξιοπιστία, διασφάλιση, στήριξη, συμμόρφωση, ψηφιακή εμπιστοσύνη και Zero Trust συχνά συγχέονται. Κι όμως περιγράφουν διαφορετικές πτυχές του ίδιου προβλήματος.

Η κατανόηση αυτών των διακρίσεων μας βοηθά να απαντήσουμε σε ένα πολύ ευρύτερο ερώτημα:

Τι πρέπει να σημαίνει εμπιστοσύνη σε έναν ψηφιακό κόσμο όπου τα συστήματα, οι οργανισμοί και οι κίνδυνοι αλλάζουν συνεχώς;

Η εμπιστοσύνη αρχίζει εκεί όπου τελειώνει η βεβαιότητα

Στην οργανωσιακή και ψυχολογική έρευνα, η εμπιστοσύνη συνδέεται συνήθως με την προθυμία αποδοχής της ευαλωτότητας. Οι Rousseau et al. περιγράφουν την εμπιστοσύνη ως μια ψυχολογική κατάσταση που περιλαμβάνει την πρόθεση αποδοχής της ευαλωτότητας με βάση θετικές προσδοκίες για τις προθέσεις ή τη συμπεριφορά ενός άλλου μέρους [1]. Οι Mayer, Davis και Schoorman ορίζουν παρόμοια την εμπιστοσύνη ως την προθυμία κάποιου να γίνει ευάλωτος απέναντι σε ένα άλλο μέρος, ακόμη και όταν αυτό το μέρος δεν μπορεί να παρακολουθείται ή να ελέγχεται πλήρως [2]. (ResearchGate) Η εμπιστοσύνη απαιτεί επομένως τουλάχιστον δύο προϋποθέσεις: πρέπει να υπάρχει αβεβαιότητα και κάτι σημαντικό πρέπει να διακυβεύεται.

Όταν ένα αποτέλεσμα είναι απολύτως βέβαιο, η εμπιστοσύνη είναι περιττή. Όταν δεν υπάρχει πιθανή απώλεια ή εξάρτηση, αυτό που μοιάζει με εμπιστοσύνη μπορεί να είναι απλώς ευκολία. Η εμπιστοσύνη αποκτά σημασία όταν εξαρτόμαστε από ένα άλλο πρόσωπο, έναν οργανισμό ή ένα σύστημα και αυτή η εξάρτηση δημιουργεί ευαλωτότητα. Αυτό σημαίνει επίσης ότι η εμπιστοσύνη δεν είναι ποτέ απλώς μια καθολική ιδιότητα μιας οντότητας. Μια ακριβέστερη διατύπωση θα ήταν:

Ο Α εμπιστεύεται τον Β σε σχέση με το Χ, υπό τις συνθήκες Υ, σε μια συγκεκριμένη χρονική στιγμή.

Μια εταιρεία μπορεί να εμπιστεύεται έναν πάροχο cloud για την αποθήκευση δημόσιου διαφημιστικού υλικού, χωρίς να εμπιστεύεται αυτομάτως τον ίδιο πάροχο για την επεξεργασία εξαιρετικά ευαίσθητων δεδομένων υγείας. Ένα σύστημα μπορεί να είναι επαρκώς αξιόπιστο για μία περίπτωση χρήσης και εντελώς ακατάλληλο για μια άλλη. Η εμπιστοσύνη είναι επομένως σχεσιακή, εξαρτώμενη από το πλαίσιο και εξαρτώμενη από τον κίνδυνο.

Το να σε εμπιστεύονται δεν είναι το ίδιο με το να είσαι αξιόπιστος

Στην καθημερινή γλώσσα, οι όροι «έμπιστος» και «αξιόπιστος» αντιμετωπίζονται συχνά ως συνώνυμοι. Εννοιολογικά, ωστόσο, περιγράφουν δύο διαφορετικά πράγματα. Έμπιστος σημαίνει ότι σε μια οντότητα δίνεται πράγματι εμπιστοσύνη. Αξιόπιστος σημαίνει ότι η οντότητα αξίζει αυτή την εμπιστοσύνη. Ένας πειστικός απατεώνας μπορεί να χαίρει εμπιστοσύνης χωρίς να είναι αξιόπιστος. Αντίστροφα, ένα προσεκτικά σχεδιασμένο και καλά διακυβερνώμενο σύστημα μπορεί να είναι αξιόπιστο, αλλά να μην κερδίζει την εμπιστοσύνη των χρηστών επειδή οι δυνατότητες, τα μέτρα ελέγχου και οι περιορισμοί του παραμένουν αόρατα. Οι Mayer et al. προσδιορίζουν τρεις ευρέως χρησιμοποιούμενες διαστάσεις της αντιληπτής αξιοπιστίας: ικανότητα, ακεραιότητα και καλοπροαίρετη διάθεση [2].

Η ικανότητα αφορά το αν το μέρος στο οποίο δίνεται εμπιστοσύνη είναι αρκετά ικανό να εκτελέσει τη σχετική εργασία. Η ακεραιότητα αφορά το αν οι δηλώσεις, οι αρχές και η πραγματική συμπεριφορά του είναι συνεπείς. Η καλοπροαίρετη διάθεση αφορά το αν αναμένεται να λαμβάνει υπόψη τα συμφέροντα του μέρους που εμπιστεύεται, αντί να επιδιώκει αποκλειστικά το δικό του όφελος. (JSTOR) Για τα τεχνικά συστήματα, αυτές οι διαστάσεις πρέπει να μεταφραστούν. Η ικανότητα γίνεται τεχνική δυνατότητα, αξιοπιστία λειτουργίας, ανθεκτικότητα και ασφάλεια. Η ακεραιότητα γίνεται προβλέψιμη συμπεριφορά, συνεπείς κανόνες, ιχνηλάσιμη επεξεργασία και ειλικρινής επικοινωνία των περιορισμών. Η καλοπροαίρετη διάθεση δεν μπορεί απλώς να αποδοθεί σε μια μηχανή. Μπορεί όμως να αξιολογηθεί σε σχέση με τον οργανισμό που αναπτύσσει και λειτουργεί το σύστημα: Προστατεύει ο οργανισμός τα συμφέροντα των χρηστών; Επικοινωνεί ειλικρινά τους κινδύνους; Παρέχει μηχανισμούς λογοδοσίας και επανόρθωσης;

Το NIST προσεγγίζει την αξιοπιστία από την οπτική της μηχανικής συστημάτων. Ένα αξιόπιστο σύστημα δεν είναι απλώς ένα σύστημα που οι άνθρωποι τυχαίνει να εμπιστεύονται. Η αξιοπιστία του πρέπει να θεμελιώνεται σε τεκμήρια ότι μπορεί να ικανοποιήσει τις κρίσιμες απαιτήσεις που του τίθενται. Ανάλογα με το πλαίσιο, οι απαιτήσεις αυτές μπορεί να περιλαμβάνουν ασφάλεια, λειτουργική ασφάλεια, αξιοπιστία λειτουργίας, ανθεκτικότητα, ιδιωτικότητα ή άλλες ιδιότητες του συστήματος [3]. Αυτή η διάκριση είναι θεμελιώδης:

Η εμπιστοσύνη υπάρχει στο μυαλό εκείνου που εμπιστεύεται. Η αξιοπιστία υπάρχει στις ιδιότητες και στη συμπεριφορά εκείνου στον οποίο δίνεται η εμπιστοσύνη.

Οι δύο μπορούν να ευθυγραμμιστούν, αλλά δεν ευθυγραμμίζονται αυτομάτως.

Εμπιστοσύνη, στήριξη και συμμόρφωση δεν ταυτίζονται

Μια ακόμη σημαντική διάκριση υπάρχει μεταξύ εμπιστοσύνης και στήριξης. Η εμπιστοσύνη είναι στάση, προσδοκία ή κρίση. Η στήριξη είναι παρατηρήσιμη συμπεριφορά. Ένα άτομο μπορεί να δυσπιστεί απέναντι σε ένα σύστημα ΤΝ και παρ' όλα αυτά να ακολουθεί τη σύστασή του, επειδή δεν υπάρχει εναλλακτική, επειδή η χρονική πίεση είναι μεγάλη ή επειδή το απαιτεί η οργανωσιακή διαδικασία. Αντίστροφα, ένα άτομο μπορεί γενικά να εμπιστεύεται ένα σύστημα, αλλά να αγνοεί σκόπιμα τη σύστασή του σε μια συγκεκριμένη περίπτωση. Η διάκριση αυτή έχει σημασία επειδή οι έρευνες που ρωτούν τους χρήστες αν εμπιστεύονται ένα σύστημα δεν προβλέπουν απαραίτητα πότε αυτοί οι χρήστες θα στηριχθούν σε αυτό. Γι' αυτό η πρόσφατη έρευνα για την αλληλεπίδραση ανθρώπου–ΤΝ διαχωρίζει όλο και περισσότερο την αντιληπτή εμπιστοσύνη, τη συμπεριφορική στήριξη, την απόδοση του συστήματος και την καταλληλότητα της απόφασης που προκύπτει [8]–[10]. (ACM Digital Library)

Ούτε η συμμόρφωση ισοδυναμεί με αξιοπιστία. Η συμμόρφωση απαντά αρχικά σε ένα στενότερο ερώτημα:

Έχει ικανοποιηθεί ένα καθορισμένο σύνολο απαιτήσεων εντός ενός καθορισμένου πεδίου εφαρμογής;

Μια πιστοποίηση, μια έκθεση ελέγχου ή μια αξιολόγηση μπορεί να αποτελεί σημαντικό λόγο εμπιστοσύνης. Δεν αποτελεί όμως απεριόριστη και μόνιμη δήλωση ότι ένας οργανισμός είναι ασφαλής. Ένας έλεγχος μπορεί να επιβεβαιώνει ότι ένα συγκεκριμένο σύστημα διαχείρισης εφαρμόστηκε κατάλληλα εντός συγκεκριμένου πεδίου και κατά τη διάρκεια συγκεκριμένης περιόδου. Δεν αποδεικνύει αυτομάτως ότι κάθε τρέχουσα διαμόρφωση είναι σωστή, ότι κάθε νεοεισαχθέν σύστημα καλύπτεται ή ότι δεν μπορεί να συμβεί κανένα περιστατικό ασφαλείας. Γι' αυτό το NIST προειδοποιεί να μην αντιμετωπίζεται η συμμόρφωση ως η μοναδική αποδεικτική βάση για τη διασφάλιση ή την αξιοπιστία. Η συμμόρφωση μπορεί να συνεισφέρει πολύτιμα τεκμήρια, αλλά μια προσέγγιση που βασίζεται μόνο στη συμμόρφωση μπορεί να δημιουργήσει μια εικόνα ασφάλειας χωρίς να αποδεικνύει επαρκώς την αποτελεσματικότητα του υποκείμενου συστήματος [3]. (NIST Publikationen)

Η συμμόρφωση έχει σημασία. Όμως η συμμόρφωση είναι ένας από τους παράγοντες που θεμελιώνουν δικαιολογημένη εμπιστοσύνη, όχι πλήρες υποκατάστατό της.

Η διασφάλιση συνδέει την εμπιστοσύνη με την αξιοπιστία

Ανάμεσα στην υποκειμενική εμπιστοσύνη ενός μέρους και στην πραγματική αξιοπιστία ενός συστήματος βρίσκεται μια ακόμη έννοια: η διασφάλιση. Το NIST περιγράφει τη διασφάλιση ως τους λόγους για δικαιολογημένη πεποίθηση ότι ένας ισχυρισμός έχει ικανοποιηθεί ή θα ικανοποιηθεί [3]. Η διασφάλιση επομένως δεν είναι ούτε συναίσθημα ούτε εγγύηση. Είναι μια δομημένη αιτιολόγηση. Μια στέρεη δομή διασφάλισης πρέπει να καθιστά ορατά τουλάχιστον πέντε στοιχεία: Ισχυρισμοί: Τι ακριβώς υποστηρίζεται; Επιχειρήματα: Γιατί οι διαθέσιμες πληροφορίες θα πρέπει να στηρίζουν τον ισχυρισμό; Τεκμήρια: Ποια αρχεία, παρατηρήσεις, δοκιμές ή τεχνουργήματα αποδεικνύουν την εφαρμογή και την αποτελεσματικότητα;

Παραδοχές: Υπό ποιες συνθήκες το συμπέρασμα παραμένει έγκυρο; Πεδίο εφαρμογής: Ποια συστήματα, διαδικασίες, δεδομένα, τοποθεσίες και περίοδοι καλύπτονται; Το NIST χρησιμοποιεί την έννοια της υπόθεσης διασφάλισης για να περιγράψει μια δομημένη και επανεξετάσιμη σχέση μεταξύ ισχυρισμών, επιχειρημάτων, παραδοχών και υποστηρικτικών τεκμηρίων [3]. Ας εξετάσουμε τον ακόλουθο ισχυρισμό ασφαλείας:

Όλα τα δεδομένα παραγωγής είναι κρυπτογραφημένα σε κατάσταση ηρεμίας.

Μια εταιρική πολιτική κρυπτογράφησης αποδεικνύει ότι υπάρχουν πρόθεση και απαίτηση. Δεν αποδεικνύει ότι κάθε σύστημα αποθήκευσης παραγωγής εφαρμόζει πράγματι την απαίτηση. Ένα στιγμιότυπο οθόνης από τη διαμόρφωση μιας βάσης δεδομένων παρέχει τεκμήριο για τη συγκεκριμένη βάση δεδομένων σε μια συγκεκριμένη στιγμή. Δεν αποδεικνύει απαραίτητα πλήρη κάλυψη. Μια ισχυρότερη υπόθεση διασφάλισης θα μπορούσε να συνδυάζει:

• πλήρη απογραφή των χώρων αποθήκευσης δεδομένων παραγωγής,
• δεδομένα διαμόρφωσης από κάθε σχετικό σύστημα,
• απαιτήσεις διαχείρισης κλειδιών,
• αυτοματοποιημένους ελέγχους διαμόρφωσης,
• αποτελέσματα δοκιμών,
• δεδομένα παρακολούθησης,
• υπεύθυνους κατόχους,
• αρχεία επανεξέτασης,
• και σαφή χρονοσφραγίδα για κάθε τεκμήριο.

Οι διάφορες μορφές τεκμηρίων εξυπηρετούν διαφορετικούς σκοπούς. Μια πολιτική στηρίζει τον επιδιωκόμενο σχεδιασμό. Μια διαμόρφωση στηρίζει την τεχνική εφαρμογή. Μια δοκιμή ή η συνεχής τηλεμετρία στηρίζει την πραγματική λειτουργία. Μια επανεξέταση στηρίζει το συμπέρασμα ότι τα τεκμήρια αξιολογήθηκαν και έγιναν αποδεκτά από υπεύθυνο μέρος. Κανένα από αυτά τα στοιχεία δεν είναι απαραίτητα επαρκές από μόνο του. Η διασφάλιση προκύπτει από την ιχνηλάσιμη σχέση μεταξύ του αρχικού ισχυρισμού, του καλυπτόμενου πεδίου, της εφαρμογής και των διαθέσιμων τεκμηρίων. Ένα ώριμο σύστημα διασφάλισης πρέπει επίσης να μπορεί να καταλήγει σε αρνητικά συμπεράσματα. Πρέπει να μπορεί να δηλώνει ότι:

• τα διαθέσιμα τεκμήρια είναι ανεπαρκή,
• τα τεκμήρια είναι παρωχημένα,
• μέρος του σχετικού πεδίου λείπει,
• η εφαρμογή αντιφάσκει με τον ισχυρισμό,
• μια παραδοχή δεν μπορεί πλέον να υποστηριχθεί,
• ή η λειτουργική αποτελεσματικότητα δεν έχει ακόμη αποδειχθεί.

Το NIST αναγνωρίζει ρητά ότι μια ανάλυση διασφάλισης μπορεί να οδηγήσει σε δυσμενή αποτελέσματα όταν τα τεκμήρια δεν στηρίζουν τον ισχυρισμό [3]. (NIST Publikationen) Ένα σύστημα που μπορεί να παράγει μόνο πράσινα σημάδια επιλογής μπορεί να δημιουργεί καθησυχασμό. Δεν δημιουργεί απαραίτητα αξιόπιστη διασφάλιση.

Zero Trust δεν σημαίνει να μην εμπιστεύεσαι κανέναν

Με την πρώτη ματιά, το Zero Trust φαίνεται να αντιφάσκει με τον στόχο της οικοδόμησης μεγαλύτερης εμπιστοσύνης. Δεν συμβαίνει αυτό. Το Zero Trust αντιμετωπίζει ένα διαφορετικό επίπεδο του προβλήματος. Δεν είναι κατά κύριο λόγο ψυχολογική ή πολιτισμική φιλοσοφία. Είναι μια αρχιτεκτονική προσέγγιση για τις αποφάσεις πρόσβασης. Σε ένα μοντέλο Zero Trust, η εμπιστοσύνη δεν παρέχεται απλώς επειδή ένας χρήστης ή μια συσκευή βρίσκεται μέσα σε ένα εταιρικό δίκτυο, ανήκει στον οργανισμό ή έχει αυθεντικοποιηθεί στο παρελθόν. Η πρόσβαση αξιολογείται σε σχέση με συγκεκριμένο πόρο, ταυτότητα, συσκευή, πλαίσιο και αίτημα. Τα δικαιώματα πρέπει να είναι περιορισμένα, να επαναξιολογούνται συνεχώς και να παρέχονται με την παραδοχή ότι ένα δίκτυο ή σύστημα μπορεί να έχει ήδη παραβιαστεί [4].

Η παραδοσιακή ασφάλεια βασισμένη στην περίμετρο συχνά συμπιέζει μια σύνθετη απόφαση εμπιστοσύνης σε μία ευρεία παραδοχή:

Μέσα στο εταιρικό δίκτυο σημαίνει αξιόπιστο.

Το Zero Trust αναλύει αυτή την παραδοχή σε μικρότερες αποφάσεις:

Επιτρέπεται σε αυτή την ταυτότητα, με αυτή τη συσκευή, υπό αυτές τις συνθήκες, να έχει πρόσβαση σε αυτόν τον πόρο τώρα;

Το Zero Trust επομένως δεν είναι το τέλος της εμπιστοσύνης. Είναι το τέλος της σιωπηρής, ευρείας και μόνιμα κληρονομημένης εμπιστοσύνης. Μια ακριβέστερη ερμηνεία θα ήταν:

Μηδενική σιωπηρή εμπιστοσύνη. Μηδενικά ακατάκτητα προνόμια.

Ένας οργανισμός μπορεί να έχει ταυτόχρονα κουλτούρα υψηλής εμπιστοσύνης και αρχιτεκτονική Zero Trust. Οι εργαζόμενοι δεν χρειάζεται να υποψιάζονται προσωπικά ο ένας τον άλλον μόνο και μόνο επειδή οι αποφάσεις πρόσβασης επαληθεύονται τεχνικά. Στην πραγματικότητα, καλά σχεδιασμένα μέτρα ελέγχου μπορεί να διευκολύνουν τη διαπροσωπική εμπιστοσύνη. Μειώνουν την πιθανότητα ένα μεμονωμένο λάθος, ένας παραβιασμένος λογαριασμός ή ένα κακόβουλο αίτημα να προκαλέσει απεριόριστη ζημιά. Το Zero Trust αντικαθιστά μία μεγάλη και ασαφή παραδοχή εμπιστοσύνης με πολλές μικρότερες, συγκειμενικές, προσωρινές και ανακλήσιμες αποφάσεις. Αυτό είναι απολύτως συμβατό με μια σύγχρονη αντίληψη της εμπιστοσύνης.

Η ψηφιακή εμπιστοσύνη διευρύνει την οπτική

Η αξιοπιστία εστιάζει συχνά στις ιδιότητες ενός συγκεκριμένου οργανισμού, συστήματος ή σχέσης. Η ψηφιακή εμπιστοσύνη διευρύνει την οπτική σε ένα ολόκληρο ψηφιακό οικοσύστημα. Το World Economic Forum περιγράφει την ψηφιακή εμπιστοσύνη ως την προσδοκία ότι οι ψηφιακές τεχνολογίες και υπηρεσίες, καθώς και οι οργανισμοί που τις παρέχουν, θα προστατεύουν τα συμφέροντα των ενδιαφερόμενων μερών και θα σέβονται τις σχετικές κοινωνικές προσδοκίες και αξίες. Το πλαίσιό του συνδέει την ψηφιακή εμπιστοσύνη με διαστάσεις όπως η κυβερνοασφάλεια, η ιδιωτικότητα, η διαφάνεια, η ελεγξιμότητα, η δικαιοσύνη, η διαλειτουργικότητα, η λειτουργική ασφάλεια και οι μηχανισμοί επανόρθωσης [5]. (World Economic Forum) Η ISACA πλαισιώνει παρόμοια την ψηφιακή εμπιστοσύνη γύρω από την πεποίθηση για την ακεραιότητα των σχέσεων, των αλληλεπιδράσεων και των συναλλαγών σε ένα ψηφιακό οικοσύστημα που αποτελείται από ανθρώπους, οργανισμούς, διαδικασίες, πληροφορίες και τεχνολογίες [6]. (ISACA)

Αυτή η οπτική του οικοσυστήματος έχει σημασία, επειδή η αξιοπιστία ενός ψηφιακού προϊόντος σπάνια εξαρτάται μόνο από το ίδιο το προϊόν. Ένας πάροχος SaaS μπορεί να βασίζεται σε:

• έναν πάροχο υποδομής cloud,
• έναν πάροχο ταυτότητας,
• βιβλιοθήκες λογισμικού,
• υπηρεσίες πληρωμών,
• πλατφόρμες παρακολούθησης,
• εξωτερικές πηγές δεδομένων,
• και ενδεχομένως μοντέλα ΤΝ τρίτων.

Η αξιοπιστία του ορατού προϊόντος εξαρτάται επομένως και από μέτρα ελέγχου, παραδοχές και εξαρτήσεις που παραμένουν σε μεγάλο βαθμό αόρατα στους χρήστες του. Η ψηφιακή εμπιστοσύνη μπορεί να νοηθεί ως το ευρύτερο οικονομικό και κοινωνικό αποτέλεσμα. Η αξιοπιστία περιγράφει τις ιδιότητες που καθιστούν το οικοσύστημα άξιο εμπιστοσύνης. Η διασφάλιση αποτελεί τη γέφυρα μεταξύ αυτών των ιδιοτήτων και της απόφασης ενός ενδιαφερόμενου μέρους να εμπιστευτεί.

Η ΤΝ δείχνει γιατί η μεγιστοποίηση της εμπιστοσύνης είναι λάθος στόχος

Η τεχνητή νοημοσύνη καθιστά ιδιαίτερα ορατή τη διαφορά μεταξύ αντιληπτής εμπιστοσύνης και πραγματικής αξιοπιστίας. Ένα σύστημα ΤΝ μπορεί να επικοινωνεί με ευφράδεια, αυτοπεποίθηση και πειστικότητα χωρίς να είναι σταθερά σωστό. Μια διεπαφή μπορεί να εκπέμπει διαφάνεια και επάρκεια ακόμη και όταν το υποκείμενο μοντέλο δεν είναι επαρκώς αξιόπιστο για την προβλεπόμενη εργασία. Εξηγήσεις, βαθμοί βεβαιότητας ή ανθρωπόμορφη γλώσσα μπορεί να επηρεάζουν τις αντιλήψεις των χρηστών. Δεν αποτελούν αυτομάτως τεκμήριο ότι μια απάντηση είναι σωστή. Γι' αυτό το NIST δεν ορίζει την αξιόπιστη ΤΝ μέσω μίας μόνο ιδιότητας. Το AI Risk Management Framework προσδιορίζει πολλαπλά χαρακτηριστικά, όπως εγκυρότητα και αξιοπιστία λειτουργίας, λειτουργική ασφάλεια, ασφάλεια και ανθεκτικότητα, λογοδοσία και διαφάνεια, επεξηγησιμότητα και ερμηνευσιμότητα, ιδιωτικότητα και διαχείριση επιβλαβών μεροληψιών. Το NIST τονίζει επίσης ότι τα χαρακτηριστικά αυτά εξαρτώνται από το πλαίσιο και μπορεί να συνεπάγονται συμβιβασμούς [7].

Ένα σύστημα μπορεί να είναι ακριβές αλλά άδικο. Μπορεί να είναι διαφανές αλλά ανασφαλές. Μπορεί να προστατεύει την ιδιωτικότητα αλλά να παραμένει αναξιόπιστο για τον προβλεπόμενο σκοπό του. Μπορεί να αποδίδει καλά κατά μέσο όρο, αλλά να αποτυγχάνει απρόβλεπτα στις περιπτώσεις που έχουν τη μεγαλύτερη σημασία. Η ετικέτα «αξιόπιστη ΤΝ» δεν πρέπει να συσκοτίζει αυτές τις διακρίσεις. Γι' αυτό η έρευνα για την αλληλεπίδραση ανθρώπου–ΤΝ συζητά όλο και περισσότερο την κατάλληλη εμπιστοσύνη, τη βαθμονομημένη εμπιστοσύνη και την κατάλληλη στήριξη. Ο στόχος δεν είναι να κάνουμε τους χρήστες να εμπιστεύονται ένα σύστημα όσο το δυνατόν περισσότερο. Ο στόχος είναι να βοηθήσουμε τους χρήστες να σχηματίσουν ακριβή εικόνα των δυνατοτήτων και των περιορισμών του συστήματος και να στηρίζονται σε αυτό μόνο όταν αυτή η στήριξη είναι δικαιολογημένη.

Μια συστηματική ανασκόπηση των Mehrotra et al. διαπίστωσε ότι δεν υπάρχει ακόμη ενιαίος, συνεπώς εφαρμοζόμενος ορισμός της κατάλληλης εμπιστοσύνης στη βιβλιογραφία. Οι ερευνητικές μελέτες χρησιμοποιούν διαφορετικές έννοιες και μετρήσεις για την εμπιστοσύνη, τις προθέσεις, τη στήριξη, την αντιληπτή ικανότητα και την πραγματική απόδοση του συστήματος [8]. (ACM Digital Library) Οι Visser et al. διακρίνουν παρόμοια την εμπιστοσύνη, τη δυσπιστία και την κατάλληλη στήριξη. Η ανασκόπησή τους δείχνει ότι η εμπειρική σχέση μεταξύ επεξηγήσιμης ΤΝ, εμπιστοσύνης των χρηστών και κατάλληλης στήριξης παραμένει ανάμεικτη και, σε πολλά πλαίσια, μη καταληκτική [9]. (ScienceDirect) Ένα preprint του 2026 των Raees και Papangelis υποστηρίζει ακόμη πιο ευθέως ότι οι υποκειμενικές μετρήσεις εμπιστοσύνης δεν δείχνουν αυτομάτως αν οι άνθρωποι στηρίζονται κατάλληλα στις συστάσεις της ΤΝ. Επειδή η εργασία αυτή δημοσιεύθηκε ως preprint, τα συμπεράσματά της πρέπει να αντιμετωπίζονται ως τρέχουσα ερευνητική συμβολή και όχι ως οριστική συναίνεση [10]. (arXiv)

Ούτε η δυσπιστία είναι απαραίτητα το αντίθετο της καλής χρήσης ενός συστήματος. Ένας βαθμός σκεπτικισμού μπορεί να ενθαρρύνει την επαλήθευση και τον εντοπισμό σφαλμάτων. Ωστόσο, η αδιάκριτη δυσπιστία μπορεί επίσης να οδηγήσει τους χρήστες να απορρίπτουν σωστές συστάσεις. Μια πειραματική μελέτη του 2026 των Peters, Biermeier και Scharlau διερεύνησε αν η οπτική προσοχή θα μπορούσε να βοηθήσει στον εντοπισμό της «υγιούς δυσπιστίας» στην αλληλεπίδραση ανθρώπου–ΤΝ. Τα ευρήματα δεν ήταν καταληκτικά και δείχνουν πόσο δύσκολο παραμένει να μετρηθεί αν η εμπιστοσύνη και η δυσπιστία είναι κατάλληλα βαθμονομημένες [11]. (Frontiers) Η επιθυμητή σχέση μπορεί να απεικονιστεί ως εξής:

Ο στόχος δεν είναι απλώς να μετακινηθεί κάθε χρήστης στην κάτω δεξιά γωνία αυξάνοντας την εμπιστοσύνη. Ο στόχος είναι η αντιληπτή εμπιστοσύνη και η συμπεριφορική στήριξη να αντιστοιχούν όσο το δυνατόν περισσότερο στην πραγματική αξιοπιστία του συστήματος, στις συνέπειες μιας αστοχίας και στο πλαίσιο χρήσης. Σε άρθρο του Ιουλίου 2026, οι Busuioc και Maggetti υποστηρίζουν τη μετάβαση από τη μεγιστοποίηση της εμπιστοσύνης στη βαθμονομημένη εμπιστοσύνη. Προειδοποιούν ότι η εμπιστοσύνη μπορεί να αποσυνδεθεί από την πραγματική αξιοπιστία όταν οι οργανισμοί κατασκευάζουν σήματα εμπιστοσύνης αντί να αντιμετωπίζουν τις υποκείμενες συνθήκες που καθιστούν την εμπιστοσύνη δικαιολογημένη. Η ανάλυσή τους τονίζει επίσης την ευαλωτότητα, τη λογοδοσία και τον εποικοδομητικό ρόλο που μπορεί να διαδραματίσει η δυσπιστία [12]. (OUP Academic)

Ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη ακολουθεί μια συγγενή επιχειρησιακή λογική. Για τα σχετικά συστήματα υψηλού κινδύνου, απαιτεί διαδικασίες και τεκμηρίωση σχετικά με τη διαχείριση κινδύνων, τη διακυβέρνηση δεδομένων, την τεχνική τεκμηρίωση, την καταγραφή, τη διαφάνεια, την ανθρώπινη εποπτεία, την ακρίβεια, τη στιβαρότητα και την κυβερνοασφάλεια [13]. Οι απαιτήσεις αυτές δεν αποδεικνύουν ότι κάθε ρυθμιζόμενο σύστημα ΤΝ θα είναι αξιόπιστο. Επιχειρούν όμως να μεταφράσουν μια αφηρημένη προσδοκία αξιοπιστίας σε συγκεκριμένες δραστηριότητες διακυβέρνησης και επανεξετάσιμα τεκμήρια. (EUR-Lex) Η αξιόπιστη ΤΝ επομένως δεν είναι στυλ διεπαφής ούτε διαφημιστική ετικέτα. Είναι ένα διαρκές πρόβλημα διακυβέρνησης και διασφάλισης.

Η θέση μας: η εμπιστοσύνη πρέπει να είναι δικαιολογημένη και βαθμονομημένη

Στη Secani, δεν αντιλαμβανόμαστε την εμπιστοσύνη ως ένα συναίσθημα που πρέπει απλώς να αυξηθεί. Ούτε την ορίζουμε ως απόλυτη βεβαιότητα. Η απόλυτη ασφάλεια δεν υπάρχει στα πραγματικά ψηφιακά συστήματα. Ακόμη και ισχυρά τεκμήρια δεν μπορούν να εγγυηθούν ότι δεν θα συμβεί ποτέ καμία αστοχία ή επίθεση. Τα τεκμήρια μειώνουν την αβεβαιότητα και στηρίζουν καλύτερες αποφάσεις, αλλά δεν εξαλείφουν τον κίνδυνο. Αν μπορούσε να εξαλειφθεί κάθε αβεβαιότητα, η εμπιστοσύνη δεν θα ήταν πλέον απαραίτητη. Γι' αυτό μιλάμε σκόπιμα για δικαιολογημένη πεποίθηση και όχι για βεβαιότητα. Ο ορισμός μας είναι:

Εμπιστοσύνη είναι η δικαιολογημένη, εξαρτώμενη από το πλαίσιο πεποίθηση ότι ένας ισχυρισμός ασφαλείας είναι αληθής τώρα, επειδή ο ισχυρισμός, η εφαρμογή του και τα τρέχοντα τεκμήρια ευθυγραμμίζονται με επαληθεύσιμο τρόπο.

Η υποκείμενη αλυσίδα είναι:

Ισχυρισμός → Εφαρμογή → Τεκμήρια → Διασφάλιση → Βαθμονομημένη εμπιστοσύνη

Ένας οργανισμός διατυπώνει έναν ισχυρισμό για την ασφάλειά του. Ο ισχυρισμός αυτός μεταφράζεται σε συγκεκριμένα μέτρα ελέγχου, συστήματα, αρμοδιότητες και αναμενόμενα αποτελέσματα. Τα τρέχοντα τεκμήρια δείχνουν αν και πώς έχουν εφαρμοστεί αυτά τα μέτρα ελέγχου. Μια διαδικασία διασφάλισης αξιολογεί αν τα τεκμήρια στηρίζουν πράγματι τον αρχικό ισχυρισμό. Μόνο τότε προκύπτει μια ορθολογική βάση εμπιστοσύνης. Ο ορισμός αυτός περιέχει πέντε σκόπιμους περιορισμούς.

Η εμπιστοσύνη αφορά συγκεκριμένο ισχυρισμό

Το «Είμαστε ασφαλείς» είναι πολύ ευρύ για να επαληθευτεί με ουσιαστικό τρόπο. Το «Όλοι οι χώροι αποθήκευσης δεδομένων παραγωγής χρησιμοποιούν εγκεκριμένες διαμορφώσεις κρυπτογράφησης» είναι στενότερο και ελέγξιμο. Όσο πιο γενικός γίνεται ένας ισχυρισμός, τόσο δυσκολότερα προσδιορίζονται το πεδίο εφαρμογής του, τα απαιτούμενα τεκμήρια, οι παραδοχές και οι συνθήκες εγκυρότητάς του.

Η εμπιστοσύνη εξαρτάται από το πλαίσιο

Ένα μέτρο ελέγχου μπορεί να είναι αποτελεσματικό για ένα σύστημα και αναποτελεσματικό για ένα άλλο. Ένα μοντέλο ΤΝ μπορεί να είναι κατάλληλο για τη σύνοψη εσωτερικών εγγράφων, αλλά ακατάλληλο για την αυτόνομη έγκριση εξαιρέσεων ασφαλείας. Η εμπιστοσύνη δεν μπορεί να μεταφερθεί από ένα πλαίσιο σε άλλο χωρίς να αξιολογηθεί αν οι σχετικές συνθήκες παραμένουν συγκρίσιμες.

Η εμπιστοσύνη εξαρτάται από τον χρόνο

Οι οργανισμοί αλλάζουν συνεχώς. Εισάγονται νέα πάγια. Τροποποιούνται διαμορφώσεις. Οι εργαζόμενοι αλλάζουν ρόλους. Οι προμηθευτές ενημερώνουν τις υπηρεσίες τους. Ανακαλύπτονται ευπάθειες. Μέτρα ελέγχου που λειτουργούσαν σωστά χθες μπορεί να μη λειτουργούν σωστά σήμερα. Τα τεκμήρια επομένως χάνουν αξία με τον χρόνο. Ένα αξιόπιστο συμπέρασμα πρέπει να επικοινωνεί όχι μόνο τι επαληθεύτηκε, αλλά και πότε επαληθεύτηκε και για πόσο καιρό πρέπει να παραμένει έγκυρο αυτό το συμπέρασμα.

Η εμπιστοσύνη βασίζεται σε τεκμήρια, αλλά δεν είναι απόλυτη

Τα τεκμήρια καθιστούν την αβεβαιότητα ορατή και τις αποφάσεις υπερασπίσιμες. Δεν εξαλείφουν πλήρως την αβεβαιότητα. Ακόμη και τα ισχυρά τεκμήρια έχουν περιορισμούς. Μπορεί να καλύπτουν μόνο μέρος ενός συστήματος, να βασίζονται σε παραδοχές, να περιέχουν σφάλματα μέτρησης ή να καταστούν παρωχημένα. Η αξιόπιστη διασφάλιση πρέπει να επικοινωνεί αυτούς τους περιορισμούς αντί να τους κρύβει πίσω από μια δυαδική κατάσταση.

Η εμπιστοσύνη πρέπει να είναι ανακλήσιμη

Μια απόφαση εμπιστοσύνης πρέπει να μπορεί να αλλάξει όταν αλλάζουν οι συνθήκες που τη στηρίζουν. Όταν νέα τεκμήρια αντικρούουν έναν προηγούμενο ισχυρισμό ασφαλείας, το συμπέρασμα πρέπει να επικαιροποιείται. Όταν τα τεκμήρια λήγουν, η πεποίθηση πρέπει να μειώνεται. Όταν το καλυπτόμενο πεδίο διευρύνεται, πρέπει να απαιτούνται πρόσθετα τεκμήρια. Η εμπιστοσύνη που δεν μπορεί να αναθεωρηθεί δεν είναι βαθμονομημένη εμπιστοσύνη. Είναι πεποίθηση αποκομμένη από την πραγματικότητα.

Από τα περιοδικά σήματα εμπιστοσύνης στη συνεχή διασφάλιση

Η παραδοσιακή ψηφιακή εμπιστοσύνη οικοδομείται συχνά μέσω περιοδικών σημάτων: πιστοποιητικά, ερωτηματολόγια, εκθέσεις ελέγχου, έγγραφα αξιολόγησης και παρουσιάσεις ασφάλειας. Οι μηχανισμοί αυτοί παραμένουν σημαντικοί. Όμως δεν αρκούν από μόνοι τους σε έναν κόσμο όπου τα ψηφιακά συστήματα μπορούν να αλλάζουν κάθε μέρα. Το μοντέλο του μέλλοντος κινείται σε διαφορετική κατεύθυνση:

Η συνεχής διασφάλιση δεν σημαίνει ότι κάθε δραστηριότητα ενός οργανισμού πρέπει να παρακολουθείται μόνιμα. Πρέπει να είναι βασισμένη στον κίνδυνο και αναλογική. Ένας κρίσιμος ισχυρισμός σχετικά με την προνομιακή πρόσβαση, την υποδομή παραγωγής ή ευαίσθητα δεδομένα πελατών απαιτεί πιο επίκαιρα και ισχυρότερα τεκμήρια από έναν διοικητικό ισχυρισμό χαμηλού αντίκτυπου. Η σημαντική αλλαγή είναι ότι η εμπιστοσύνη δεν παραμένει πλέον προσδεμένη σε ένα μεμονωμένο έγγραφο. Αντίθετα, απαιτήσεις, εφαρμογές, τεκμήρια, επανεξετάσεις, ευρήματα, αρμοδιότητες και εξαρτήσεις πρέπει να σχηματίζουν ένα συνδεδεμένο μοντέλο. Οι μηχαναγνώσιμες δομές μπορούν να διαδραματίσουν σημαντικό ρόλο σε αυτή τη μετάβαση. Επιτρέπουν την επαναχρησιμοποίηση τεκμηρίων σε διάφορα πλαίσια και αξιολογήσεις χωρίς να αφαιρείται η προέλευσή τους, το αρχικό τους πεδίο, ο χρόνος συλλογής, ο υπεύθυνος κάτοχος ή οι περιορισμοί τους.

Το μέλλον της εμπιστοσύνης επομένως δεν είναι απλώς συνεχές. Είναι λεπτομερές, ιχνηλάσιμο, μεταβιβάσιμο και ανακλήσιμο.

Zero Trust και υψηλή εμπιστοσύνη δεν είναι αντίθετα

Οι διάφορες έννοιες μπορούν πλέον να συνδεθούν. Το Zero Trust διέπει τον τρόπο με τον οποίο λαμβάνονται οι μεμονωμένες αποφάσεις πρόσβασης. Η αξιοπιστία περιγράφει αν ένα σύστημα ή ένας οργανισμός αξίζει εμπιστοσύνη. Η διασφάλιση παρέχει μια δομημένη αιτιολόγηση για αυτό το συμπέρασμα. Τα τεκμήρια στηρίζουν ισχυρισμούς για την εφαρμογή και την αποτελεσματικότητα. Η συμμόρφωση αξιολογεί την ευθυγράμμιση με καθορισμένες απαιτήσεις. Η στήριξη περιγράφει αν κάποιος πράγματι εξαρτάται από ένα σύστημα ή το ακολουθεί. Η ψηφιακή εμπιστοσύνη είναι η ευρύτερη πεποίθηση που μπορεί να αναδυθεί σε όλο το οικοσύστημα. Το Zero Trust εμποδίζει να θεωρείται η εμπιστοσύνη δεδομένη χωρίς επαρκείς λόγους. Η διασφάλιση δείχνει πού η εμπιστοσύνη είναι δικαιολογημένη.

Η συμμόρφωση συνεισφέρει δομημένες απαιτήσεις και μηχανισμούς επανεξέτασης. Τα τεκμήρια συνδέουν τις δηλώσεις με την παρατηρήσιμη πραγματικότητα. Οι έννοιες αυτές επομένως δεν είναι ανταγωνιστικά οράματα. Είναι διαφορετικά μέρη ενός συνεκτικού μοντέλου. Το μέλλον δεν είναι ούτε ένα καθολικό «εμπιστεύσου όλους» ούτε ένα πολιτισμικό «μην εμπιστεύεσαι κανέναν». Είναι η επαληθεύσιμη, βαθμονομημένη εμπιστοσύνη.

Τι σημαίνει «Optimize for trust» στη Secani

Το «Optimize for trust» δεν πρέπει να σημαίνει βελτιστοποίηση για την εντύπωση αξιοπιστίας. Δεν πρέπει να σημαίνει παραγωγή όσο το δυνατόν περισσότερων πράσινων σημαδιών επιλογής, σημάτων, πιστοποιητικών ή ευρέων ισχυρισμών ασφάλειας. Δεν πρέπει να σημαίνει ότι ενθαρρύνουμε τους ανθρώπους να εμπιστεύονται ένα σύστημα περισσότερο απ' όσο δικαιολογούν οι πραγματικές του ιδιότητες. Για εμάς σημαίνει:

Μη βελτιστοποιείς για να σε εμπιστεύονται. Βελτιστοποίησε για να αξίζεις δικαιολογημένη εμπιστοσύνη.

Χτίζουμε τη Secani για να συνδέει συνεχώς ισχυρισμούς ασφαλείας, απαιτήσεις, εφαρμογές και τεκμήρια. Η εμπιστοσύνη δεν πρέπει να προκύπτει μόνο από μια πειστική παρουσίαση ή από ένα περιοδικό έγγραφο συμμόρφωσης. Πρέπει να προκύπτει από μια επίκαιρη, επανεξετάσιμη και ιχνηλάσιμη αιτιολόγηση. Η πιο περιεκτική διατύπωση αυτής της ιδέας ίσως είναι:

Η εμπιστοσύνη δεν είναι υπόσχεση. Είναι ένα συμπέρασμα που στηρίζεται συνεχώς.

Οι οργανισμοί δεν πρέπει απλώς να φαίνονται αξιόπιστοι. Πρέπει να μπορούν να αποδείξουν γιατί αξίζουν εμπιστοσύνη. Και οι άνθρωποι δεν πρέπει απλώς να καλούνται να εμπιστεύονται περισσότερο. Πρέπει να τους δίνεται η δυνατότητα να εμπιστεύονται καλύτερα.

Βιβλιογραφία

[1] D. M. Rousseau, S. B. Sitkin, R. S. Burt, and C. Camerer, “Not So Different After All: A Cross-Discipline View of Trust,” Academy of Management Review, vol. 23, no. 3, pp. 393–404, 1998, doi: 10.5465/AMR.1998.926617. (DOI)

[2] R. C. Mayer, J. H. Davis, and F. D. Schoorman, “An Integrative Model of Organizational Trust,” Academy of Management Review, vol. 20, no. 3, pp. 709–734, 1995, doi: 10.5465/amr.1995.9508080335. (DOI)

[3] R. Ross, M. Winstead, and M. McEvilley, Engineering Trustworthy Secure Systems, NIST Special Publication 800-160, vol. 1, rev. 1, National Institute of Standards and Technology, Gaithersburg, MD, USA, Nov. 2022, doi: 10.6028/NIST.SP.800-160v1r1. (NIST Publikationen)

[4] S. Rose, O. Borchert, S. Mitchell, and S. Connelly, Zero Trust Architecture, NIST Special Publication 800-207, National Institute of Standards and Technology, Gaithersburg, MD, USA, Aug. 2020, doi: 10.6028/NIST.SP.800-207. (NIST Computer Security Resource Center)

[5] World Economic Forum, Earning Digital Trust: Decision-Making for Trustworthy Technologies, Geneva, Switzerland, Nov. 2022. (World Economic Forum)

[6] K. B. Kelley, “The Digital Trust Imperative: Defining, Establishing and Measuring Digital Trust,” ISACA Journal, vol. 1, Jan. 2023. (ISACA)

[7] National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Jan. 2023, doi: 10.6028/NIST.AI.100-1. (NIST Publikationen)

[8] S. Mehrotra, C. Degachi, O. Vereschak, C. M. Jonker, and M. L. Tielman, “A Systematic Review on Fostering Appropriate Trust in Human-AI Interaction: Trends, Opportunities and Challenges,” ACM Journal on Responsible Computing, vol. 1, no. 4, Art. no. 26, pp. 1–45, 2024, doi: 10.1145/3696449. (ACM Digital Library)

[9] R. Visser, T. M. Peters, I. Scharlau, and B. Hammer, “Trust, distrust, and appropriate reliance in (X)AI: A conceptual clarification of user trust and survey of its empirical evaluation,” Cognitive Systems Research, vol. 91, Art. no. 101357, 2025, doi: 10.1016/j.cogsys.2025.101357. (ScienceDirect)

[10] M. Raees and K. Papangelis, “From Trust to Appropriate Reliance: Measurement Constructs in Human-AI Decision-Making,” arXiv:2604.23896, Apr. 2026, doi: 10.48550/arXiv.2604.23896. Preprint. (arXiv)

[11] T. M. Peters, K. Biermeier, and I. Scharlau, “Assessing healthy distrust in human-AI interaction: Interpreting changes in visual attention,” Frontiers in Psychology, vol. 16, Art. no. 1694367, Jan. 2026, doi: 10.3389/fpsyg.2025.1694367. (Frontiers)

[12] M. Busuioc and M. Maggetti, “Worthy of trust? AI governance and the role of (dis)trust,” Perspectives on Public Management and Governance, Art. no. gvag007, Jul. 2026, doi: 10.1093/ppmgov/gvag007. (OUP Academic)

[13] European Parliament and Council of the European Union, “Regulation (EU) 2024/1689 of 13 June 2024 laying down harmonised rules on artificial intelligence,” Official Journal of the European Union, Jul. 2024. (EUR-Lex)