Εφαρμόζουμε τις ερωτήσεις της διακυβέρνησης
Από την ερώτηση στην ανθρώπινη απόφαση.
Δεν χρειάζεται να κατασκευάζεις ένα σύστημα AI για να ρωτήσεις πώς κυβερνάται. Κάθε φορά που η AI λαμβάνει, προτείνει ή διαμορφώνει μια απόφαση που επηρεάζει ανθρώπους, υπάρχει ήδη ένα ερώτημα διακυβέρνησης.
Το Culture Key βοηθά να εξετάσουμε τι επιτρέπεται να κάνει ένα σύστημα και με ποια τεκμήρια μπορούμε να αξιολογήσουμε την εξουσία, τη λογοδοσία, τον κίνδυνο, την παρέμβαση και την αποκατάσταση.
Διαφορετικοί άνθρωποι, κοινές ερωτήσεις
Ξεκίνα από τη δική σου θέση.
Το ίδιο πλαίσιο μπορεί να εξηγηθεί σε διαφορετικό βάθος, διατηρώντας τις βασικές του ερωτήσεις. Το πλαίσιο χρήσης αλλάζει. Η ανθρώπινη ευθύνη παραμένει.
ΓΙΑ ΚΑΘΕ ΑΝΘΡΩΠΟ
Όταν ένα σύστημα σε επηρεάζει
Ρώτησε ποια απόφαση επηρεάζει η AI, ποιος έχει την ευθύνη και πώς μπορείς να ζητήσεις εξηγήσεις ή να αμφισβητήσεις το αποτέλεσμα.
ΓΙΑ ΟΜΑΔΕΣ
Πριν από την ανάπτυξη ή την επέκταση
Ρώτησε τι μπορεί να κάνει το σύστημα, σε τι έχει πρόσβαση, ποιος μπορεί να το θέσει σε παύση και τι πρέπει να συμβεί αν αποτύχει.
ΓΙΑ ΟΡΓΑΝΙΣΜΟΥΣ
Όταν η ευθύνη πρέπει να λειτουργεί στην πράξη
Ρώτησε αν η δυνατότητα διακυβέρνησης μπορεί να αναπτυχθεί μαζί με το σύστημα: εξουσία, παραπομπή στον αρμόδιο, έλεγχος, αποκατάσταση και επανεξέταση.
Μια πρακτική αφετηρία
Εφάρμοσε το πλαίσιο σε μια πραγματική κατάσταση.
Ξεκίνα από ένα συγκεκριμένο σύστημα, μια απόφαση ή μια χρήση της AI που έχει ήδη σημασία για τους ανθρώπους.
Ερώτηση του Culture Key → παρατηρήσιμο τεκμήριο → συμπέρασμα με σαφή όρια → περιορισμός → ανθρώπινη απόφαση. Καταγράφουμε τι στηρίζει το συμπέρασμα, τι το αποδυναμώνει και τι δεν μπορούμε ακόμη να επαληθεύσουμε.
01
Προσδιόρισε το σύστημαΤι κάνει, αποφασίζει, προτείνει ή ελέγχει;
02
Προσδιόρισε τους ανθρώπουςΠοιοι μπορεί να ωφεληθούν, να αποκλειστούν, να επηρεαστούν ή να επιβαρυνθούν;
03
Εντόπισε την εξουσίαΠοιος μπορεί να εγκρίνει, να περιορίσει, να θέσει σε παύση ή να αναστρέψει τη δράση του;
04
Εξέτασε την αποκατάστασηΤι συμβαίνει μετά από σφάλμα, βλάβη, σύγκρουση ή απώλεια εμπιστοσύνης;
Αν κανείς δεν μπορεί να εξηγήσει και να τεκμηριώσει πώς αμφισβητείται μια απόφαση, πώς σταματά μια ενέργεια και πώς αποκαθίστανται οι συνέπειες, λείπει βασικό τεκμήριο για να εμπιστευτούμε στο σύστημα αυτή την ευθύνη.
Πρακτικά εργαλεία εξέτασης
Δύο αφετηρίες για την εξέταση.
ΠΑΡΕΜΒΑΣΗ
STOP Framework
Χρησιμοποίησέ το όταν ένα σύστημα μπορεί να ενεργεί με ουσιαστική αυτονομία ή σημαντικές συνέπειες. Εξετάζει την εξουσία παύσης, την ταχύτητα άσκησης βέτο, την ακεραιότητα επαναφοράς και το επίπεδο διαιτησίας.
Ένα σύστημα που δεν μπορεί να σταματήσει δεν πρέπει να τίθεται σε λειτουργία.
ΠΡΙΝ ΑΠΟ ΤΗΝ ΕΠΕΚΤΑΣΗ
Διακυβέρνηση πριν από την επέκταση
Χρησιμοποίησέ το πριν αυξηθούν η αυτονομία, η πρόσβαση, η εμβέλεια ή οι συνέπειες ενός συστήματος. Εξετάζει αν η ανθρώπινη δυνατότητα διακυβέρνησης μπορεί να αναπτυχθεί μαζί με την τεχνολογία.
Μπορεί το σύστημα να επεκταθεί;
Και μαζί του: μπορούν να επεκταθούν η λογοδοσία, η παρέμβαση και η αποκατάσταση;
Πέντε λεπτά για τις πρώτες ερωτήσεις
Καλύτερες ερωτήσεις πριν από μεγαλύτερους ισχυρισμούς.
Εξουσία
Ποιος έχει το δικαίωμα να αποφασίζει τι επιτρέπεται να κάνει αυτό το σύστημα; Ποιος μπορεί να ανακαλέσει αυτή την εξουσία;
Λογοδοσία
Ποιος λογοδοτεί όταν το αποτέλεσμα είναι λανθασμένο, επιβλαβές ή δεν μπορεί να εξηγηθεί;
Παρέμβαση
Μπορούν οι άνθρωποι πράγματι να θέσουν σε παύση ή να περιορίσουν το σύστημα, όταν ο χρόνος και η πίεση το απαιτούν;
Αποκατάσταση
Πώς θα ενημερωθούν και θα υποστηριχθούν οι άνθρωποι που επηρεάστηκαν; Πώς θα αποκατασταθεί η βλάβη μετά από μια αποτυχία;
Η κρίση παραμένει ανθρώπινη.
Το Culture Key δίνει δομή στην ανθρώπινη κρίση. Δεν αποτελεί το σύστημα ελέγχου που εκτελεί παύση, βέτο ή αποκατάσταση. Δεν παρέχει αυτόματη πιστοποίηση, δεν πιστοποιεί νομική συμμόρφωση και δεν εγγυάται ασφάλεια. Βοηθά να διατυπώνουμε ευρήματα διακυβέρνησης που στηρίζονται σε τεκμήρια και δηλώνουν τα όριά τους. Η ευθύνη παραμένει ανθρώπινη και χρειάζεται να είναι ορατή, να ασκείται και να μπορεί να ελεγχθεί.