Σχετικά & Διακυβέρνηση
Το ίδιο το πλαίσιο χρειάζεται διακυβέρνηση.
Το Culture Key είναι ένα ανεξάρτητο, δημόσιο πλαίσιο ανθρώπινης διακυβέρνησης για συστήματα AI. Σκοπός του είναι να κάνει ορατές, ελέγξιμες και ανοιχτές σε αμφισβήτηση τις προϋποθέσεις της νομιμοποιημένης ανθρώπινης εποπτείας. Δεν υπόσχεται απόλυτο έλεγχο.
Η δουλειά είναι δημόσια επειδή οι ισχυρισμοί για τη διακυβέρνηση χρειάζονται εξέταση. Το ίδιο το πλαίσιο, η κατάστασή του και η διαδικασία εξέλιξής του πρέπει επίσης να μπορούν να ελεγχθούν.
Γιατί υπάρχει το Culture Key
Να κατανοούμε τη διακυβέρνηση της AI πριν γίνει επείγουσα.
Καθώς τα συστήματα αποκτούν τη δυνατότητα να προτείνουν, να αποφασίζουν, να επικοινωνούν, να συντονίζουν ή να ενεργούν, οι ερωτήσεις αφορούν την εξουσία, τη λογοδοσία, τη συναίνεση, την παρέμβαση και τους ανθρώπους που ζουν με τις συνέπειες.
Το Culture Key μεταφέρει αυτές τις ερωτήσεις σε μια κοινή γλώσσα, χρήσιμη για έναν πολίτη που προσπαθεί να κατανοήσει ένα σύστημα, μια ομάδα που το αναπτύσσει ή έναν οργανισμό που έχει την ευθύνη της χρήσης του.
Στόχος είναι να δώσουμε στην υπεύθυνη ανθρώπινη κρίση δομή, τεκμήρια και ορατή θέση στις αποφάσεις.
Πώς διαβάζουμε το υλικό
Η κατάσταση κάθε στοιχείου έχει σημασία.
Κάθε ιδέα έχει διαφορετικό βαθμό επεξεργασίας και αποδοχής. Το Culture Key διακρίνει τι ανήκει στο ενεργό πλαίσιο, τι βρίσκεται υπό εξέταση και τι παραμένει ερευνητικό. Η ένδειξη «ενεργό» δηλώνει την τρέχουσα θέση ενός στοιχείου στο πλαίσιο. Δεν αποτελεί απόδειξη αποτελεσματικότητας σε πραγματική λειτουργία.
Πλαίσιο
Οι τρέχουσες δημόσιες αρχές, λειτουργίες και διαδικασίες που συγκροτούν το πλαίσιο στην ισχύουσα έκδοσή του.
Υλικό σε εξέλιξη
Υλικό που αξιολογείται, βελτιώνεται ή αμφισβητείται πριν ενταχθεί στο ενεργό πλαίσιο.
Ανοιχτή διερεύνηση
Ερωτήσεις, παρατηρήσεις και πειράματα που μπορούν να τροφοδοτήσουν το πλαίσιο, χωρίς ακόμη να το ορίζουν.
Ιστορικό αρχείο
Προηγούμενες εκδόσεις ή υλικό που έχει αντικατασταθεί και διατηρείται, ώστε η πορεία των αλλαγών να παραμένει ορατή.
Πώς γίνονται οι αλλαγές
Η εξέλιξη ακολουθεί διαδικασία διακυβέρνησης.
Ένα πλαίσιο που ζητά από άλλους να τεκμηριώνουν τις αποφάσεις τους οφείλει να δείχνει πώς αλλάζει το ίδιο.
Εντοπίζουμε μια ερώτηση, ένα κενό, έναν κίνδυνο, μια εμπειρία ή νέα τεκμήρια.
Εξετάζουμε παραδοχές, όρια, συνέπειες και τη σχέση με τις υπάρχουσες αρχές.
Αποδεχόμαστε, αναθεωρούμε, αναβάλλουμε ή απορρίπτουμε την αλλαγή, με σαφή καταγραφή της κατάστασής της.
Κρατάμε ανιχνεύσιμη την τρέχουσα έκδοση, το σκεπτικό των αλλαγών και την πορεία της επανεξέτασης.
Δημόσια πρόσβαση με σαφή όρια
Η ανοιχτή πρόσβαση χρειάζεται και όρια.
Τι είναι δημόσιο
Το ενεργό πλαίσιο, οι βασικές έννοιες, οι ενδείξεις κατάστασης, το ιστορικό εκδόσεων, οι εφαρμογές, οι πηγές και η δημόσια τεκμηρίωση που επιτρέπει τον έλεγχο.
Τι δεν δημοσιοποιείται αυτόματα
Εσωτερικό υλικό εργασίας που δεν έχει εξεταστεί, ευαίσθητες λεπτομέρειες υλοποίησης, επιχειρησιακές πληροφορίες που αφορούν την ασφάλεια και προσωπικά ή εμπιστευτικά δεδομένα.
Γιατί έχει σημασία αυτή η διάκριση
Η υπεύθυνη δημοσιοποίηση επιτρέπει ουσιαστική λογοδοσία, προστατεύοντας ταυτόχρονα όσα δεν πρέπει να εκτεθούν και κρατώντας ορατά τα όρια της γνώσης μας.
Πώς αμφισβητούμε το πλαίσιο
Διαβάζουμε την τεκμηρίωση αναφοράς, διακρίνουμε τα επαληθευμένα γεγονότα από τα συμπεράσματα της ανάλυσης και ελέγχουμε τη δηλωμένη κατάσταση του υλικού. Στο σημείο της διαφωνίας φέρνουμε συγκεκριμένα τεκμήρια ή ερωτήσεις.
Τα όρια είναι μέρος της διακυβέρνησης.
Το Culture Key δεν αποτελεί νομική γνωμοδότηση, αυτοματοποιημένο σύστημα διασφάλισης, σήμα πιστοποίησης ή εγγύηση ασφάλειας. Δεν είναι το σύστημα ελέγχου που εκτελεί παύση, βέτο ή αποκατάσταση.
Είναι ένα πλαίσιο για να εξετάζουμε, με παρατηρήσιμα τεκμήρια, αν η ανθρώπινη δυνατότητα διακυβέρνησης λειτουργεί στην πράξη: αν η εξουσία έχει νομιμοποίηση, η ευθύνη έχει αποδοθεί, η παρέμβαση λειτουργεί και η αποκατάσταση παραμένει εφικτή. Κάθε εύρημα χρειάζεται να δηλώνει τι τεκμηριώνεται και τι παραμένει ανεπαλήθευτο.
Η ταυτότητα είναι ισχυρισμός. Η πρακτική είναι τεκμήριο. Η αντίφαση είναι το τεστ.
Το ίδιο το πλαίσιο οφείλει να εξετάζεται με αυτό το κριτήριο. Το δημόσιο αρχείο του επιτρέπει να ελέγχουμε τους ισχυρισμούς του σε σχέση με την εξέλιξη και τη χρήση του.
Κρατάμε την πηγή ορατή.
Το δημόσιο αποθετήριο περιέχει την τεκμηρίωση αναφοράς και το ιστορικό εκδόσεων του Culture Key. Ο ιστότοπος είναι η αφετηρία για να κατανοήσουμε τη δουλειά, να γνωρίσουμε τις ερωτήσεις και να δούμε πώς εφαρμόζονται.