Το πλαίσιο Culture Key
Διακυβέρνηση που παραμένει ανθρώπινη όταν τα συστήματα AI δρουν.
Το Culture Key είναι ένα δημόσιο πλαίσιο για τη διερεύνηση μιας βασικής ερώτησης: καθώς τα συστήματα AI αποκτούν περισσότερες δυνατότητες, πρόσβαση και αυτονομία, ποιος μπορεί να τα διακυβερνά και πώς;
Η ανθρώπινη διακυβέρνηση συνεχίζεται πέρα από την αρχική έγκριση ενός έργου. Είναι η διαρκής δυνατότητα να ορίζουμε ποιος έχει εξουσία, να αμφισβητούμε αποφάσεις, να παρεμβαίνουμε, να αποκαθιστούμε βλάβες και να μαθαίνουμε από όσα συνέβησαν.
Η αφετηρία
Ένα πλαίσιο δεν είναι υπόσχεση.
Ένα σύστημα AI μπορεί να περιγράφεται ως ασφαλές, υπεύθυνο, διαφανές ή ανθρωποκεντρικό. Αυτές οι περιγραφές είναι ισχυρισμοί για την ταυτότητά του.
Το Culture Key εξετάζει αν αυτοί οι ισχυρισμοί υποστηρίζονται στην πράξη από αποφάσεις, ευθύνες, όρια, διαδρομές παρέμβασης, τεκμήρια και έλεγχο.
Η διακυβέρνηση δοκιμάζεται όταν μια δηλωμένη αξία πρέπει να αντέξει την πίεση της ταχύτητας, της κλίμακας, του κέρδους ή της συγκεντρωμένης εξουσίας.
Η αρχιτεκτονική της διακυβέρνησης
Επτά συνδεδεμένες λειτουργίες.
Το Culture Key εξετάζει τη διακυβέρνηση ως μια συνδεδεμένη αρχιτεκτονική. Μια αδυναμία σε οποιαδήποτε λειτουργία μπορεί να υπονομεύσει τις υπόλοιπες. Η εξέταση απαιτεί περισσότερα από τη συμπλήρωση μιας λίστας ελέγχου.
Εξουσία
Ποιος έχει τη νομιμοποιημένη εξουσία να λαμβάνει αποφάσεις, να εκχωρεί αρμοδιότητες, να αναστέλλει ή να αναστρέφει αποφάσεις;
Λογοδοσία
Ποιος παραμένει υπόλογος για ενέργειες, αποτελέσματα και αποτυχίες;
Κίνδυνος
Πώς αναγνωρίζονται οι πιθανές βλάβες, οι άνθρωποι που επηρεάζονται και οι μεταβαλλόμενες συνθήκες;
Καταστάσεις και λογική αποφάσεων
Πώς περνά ένα σύστημα από τη μία κατάσταση στην άλλη και τι εξουσιοδοτεί κάθε μετάβαση;
Παρέμβαση και αποκατάσταση
Ποιος μπορεί να διακόψει το σύστημα, να αποκαταστήσει τις συνέπειες και να επαναφέρει ασφαλή λειτουργία;
Διαιτησία
Πώς επιλύονται συγκρούσεις μεταξύ ανθρώπων, πρακτόρων AI, κανόνων ή θεσμών;
Ιχνηλασιμότητα και έλεγχος
Μπορούν οι αποφάσεις, οι παρεμβάσεις και οι αλλαγές να ανασυντεθούν, να εξεταστούν και να αμφισβητηθούν με την πάροδο του χρόνου;
Μια διαρκής πρακτική
Η διακυβέρνηση είναι ένας συνεχής κύκλος.
Εντοπισμός → Απόφαση → Παρέμβαση → Αποκατάσταση → Έλεγχος → Επανεπικύρωση
Η δουλειά συνεχίζεται μετά την έγκριση ή τη διάθεση ενός συστήματος. Νέα τεκμήρια, αλλαγές στη συμπεριφορά του, πραγματικές επιπτώσεις και παραδοχές που δεν επιβεβαιώθηκαν μπορεί να απαιτούν νέα απόφαση, διόρθωση ή παύση.
Κατανόηση
Τι σημαίνει η ερώτηση διακυβέρνησης με ανθρώπινους όρους;
Εξέταση
Πώς εμφανίζεται στο σύστημα, στον οργανισμό που το χρησιμοποιεί και στο περιβάλλον γύρω του;
Εφαρμογή
Τι πρέπει να είναι ορατό στην πράξη πριν ζητηθεί από τους ανθρώπους να το εμπιστευτούν;
Ο ρόλος και τα όρια του Culture Key
Είναι
- ένα πλαίσιο ανθρώπινης διακυβέρνησης για συστήματα AI
- ένας τρόπος να γίνονται ορατές η εξουσία, η λογοδοσία και η δυνατότητα παρέμβασης
- ένα δημόσιο έργο που διακρίνει το ενεργό, το προτεινόμενο, το διερευνητικό και το αρχειοθετημένο υλικό
- ένα πλαίσιο που υποστηρίζει τη δομημένη ανθρώπινη κρίση
Δεν είναι
- το ίδιο το σύστημα ελέγχου που εκτελεί παύση, παρέμβαση ή αποκατάσταση
- αυτόματη πιστοποίηση ή σήμα συμμόρφωσης
- υποκατάστατο του νόμου, της θεσμικής ευθύνης ή της ανθρώπινης κρίσης
- εγγύηση ασφάλειας
- διακήρυξη ότι οι αξίες έχουν σημασία χωρίς τεκμήρια ότι μπορούν να προστατεύονται στην πράξη
Ένα πλαίσιο πρέπει να είναι ανοιχτό στην αμφισβήτηση. Γι’ αυτό το Culture Key διατηρεί δημόσια ορατές την επίσημη τεκμηρίωση, την κατάσταση του υλικού, το ιστορικό εκδόσεων και τους περιορισμούς του.
Η διακυβέρνηση αρχίζει πριν από την αποτυχία.
Αρχίζει πριν ένα σύστημα τεθεί σε λειτουργία, πριν από την κλιμάκωση και πριν η ευθύνη γίνει δύσκολο να εντοπιστεί. Καθώς οι δυνατότητες ενός συστήματος AI αυξάνονται, πρέπει να εξετάζουμε αν οι άνθρωποι μπορούν ακόμη να διακυβερνούν όσα κάνει.