Ξεχωρίστε την τεχνολογία από τη χρήση

Μία τεχνική δυνατότητα μπορεί να εξυπηρετεί πολλές διαδικασίες. Το ίδιο γλωσσικό μοντέλο μπορεί να βοηθά στη σύνταξη εσωτερικής ενημέρωσης ή να συμμετέχει σε μια απόφαση με σοβαρές συνέπειες για πρόσωπο. Η νομική αξιολόγηση δεν εξαντλείται στο όνομα του προϊόντος. Καταγράψτε σκοπό, είδος εισερχόμενων δεδομένων, τελικό αποδέκτη, βαθμό αυτοματισμού και τρόπο ανθρώπινης παρέμβασης. Έτσι γίνεται ορατή η πραγματική επίπτωση κάθε εφαρμογής.

Ποιος είναι ο πάροχος και ποιος ο χρήστης εφαρμογής

Ο πάροχος αναπτύσσει ή διαθέτει ένα σύστημα υπό τους όρους του κανονισμού, ενώ ο φορέας που το θέτει σε χρήση έχει διαφορετικό σύνολο ενεργειών και ευθυνών. Σε ορισμένα σενάρια η διαμόρφωση ή αλλαγή σκοπού μπορεί να μεταβάλει τον ρόλο ενός οργανισμού. Για αυτό χρειάζονται συμβάσεις, περιγραφές λειτουργίας και σαφής ιδιοκτησία της διαδικασίας. Δεν αρκεί να υποθέσουμε ότι όλες οι υποχρεώσεις ανήκουν στον προμηθευτή λογισμικού.

Τι σημαίνει προσέγγιση βάσει κινδύνου

Το πλαίσιο διακρίνει χρήσεις που μπορούν να απαγορεύονται, περιπτώσεις υψηλού κινδύνου και άλλες χρήσεις με διαφορετικές απαιτήσεις. Η ταξινόμηση δεν γίνεται μόνο βάσει τεχνικής πολυπλοκότητας. Εξετάζεται πού εφαρμόζεται το σύστημα και ποια δικαιώματα ή συμφέροντα μπορεί να επηρεάσει. Δεν συμπεραίνουμε αυτόματα ότι κάθε σύστημα σε έναν ευαίσθητο κλάδο είναι ίδιας κατηγορίας· χρειάζεται αντιστοίχιση με το ισχύον κείμενο και τις σχετικές προϋποθέσεις.

Προσοχή σε απαγορευμένες πρακτικές

Πριν ξεκινήσει μια χρήση, ελέγχουμε αν ο επιδιωκόμενος σκοπός αγγίζει περιοχές που ο κανονισμός αντιμετωπίζει ως μη αποδεκτές. Ο κίνδυνος δεν περιορίζεται στις τεχνικές αποδόσεις: μπορεί να αφορά χειραγώγηση, εκμετάλλευση ευαλωτότητας ή αθέμιτη αξιολόγηση ανθρώπων. Η καταγραφή σκοπού και πιθανών συνεπειών επιτρέπει έγκαιρη απόρριψη μιας ακατάλληλης πρότασης, αντί να επενδυθεί χρόνος σε σύστημα που δεν πρέπει να τεθεί σε λειτουργία.

Συστήματα υψηλού κινδύνου και τεκμηρίωση

Όταν μια εφαρμογή εμπίπτει σε κατηγορία υψηλού κινδύνου, ο σχεδιασμός χρειάζεται ιδιαίτερη προσοχή στην ποιότητα δεδομένων, στην τεχνική τεκμηρίωση, στην ανθρώπινη εποπτεία και στη διαχείριση συμβάντων. Δεν αρκεί μία δήλωση συμμόρφωσης σε εμπορική παρουσίαση. Ο οργανισμός πρέπει να ζητά κατάλληλα στοιχεία από τον πάροχο και να εξετάζει ποιες δικές του λειτουργικές υποχρεώσεις εφαρμόζονται. Οι ακριβείς απαιτήσεις κρίνονται από την περίπτωση και την ισχύουσα φάση εφαρμογής.

Διαφάνεια στην αλληλεπίδραση και στο περιεχόμενο

Σε ορισμένες περιπτώσεις ο άνθρωπος πρέπει να μπορεί να αντιληφθεί ότι αλληλεπιδρά με σύστημα τεχνητής νοημοσύνης ή ότι το περιεχόμενο έχει παραχθεί τεχνητά. Η κατάλληλη ενημέρωση εξαρτάται από το είδος της χρήσης και τις σχετικές νομικές προϋποθέσεις. Πρακτικά, σχεδιάστε εξαρχής τα μηνύματα ενημέρωσης, τα σημεία ανθρώπινης επικοινωνίας και τον τρόπο χειρισμού αιτημάτων διόρθωσης. Η διαφάνεια δεν διορθώνεται αποτελεσματικά μόνο με ένα μικρό υποσέλιδο.

Προσωπικά δεδομένα και άλλα νομικά πλαίσια

Ο κανονισμός τεχνητής νοημοσύνης δεν καταργεί τις απαιτήσεις προστασίας δεδομένων, εργασιακού δικαίου ή άλλων εφαρμοστέων κανόνων. Μία λύση που φαίνεται αποδεκτή από πλευράς τεχνητής νοημοσύνης μπορεί να χρειάζεται πρόσθετους ελέγχους ως προς την επεξεργασία προσωπικών πληροφοριών. Εξετάστε ελαχιστοποίηση δεδομένων, πρόσβαση, διάρκεια διατήρησης και συμβατική βάση. Μην τροφοδοτείτε εξωτερικά συστήματα με υλικό για το οποίο δεν έχει αποσαφηνιστεί η νόμιμη χρήση.

Γενικής χρήσης μοντέλα και ενσωμάτωση εφαρμογών

Τα μοντέλα γενικής χρήσης μπορούν να υποστηρίζουν διαφορετικά προϊόντα και υπηρεσίες, αλλά η χρήση τους μέσα σε συγκεκριμένη διαδικασία δημιουργεί επιπλέον ερωτήματα. Η προέλευση του μοντέλου, η δυνατότητα ελέγχου εξόδων και οι περιορισμοί του πρέπει να τεκμηριώνονται. Αν προστίθενται βάσεις γνώσης ή αυτοματισμοί, αλλάζει και ο πρακτικός κίνδυνος της λύσης. Κρατήστε ξεχωριστή καταγραφή για το υποκείμενο μοντέλο και για την τελική εφαρμογή που βλέπει ο χρήστης.

Πώς οργανώνεται ένας εσωτερικός έλεγχος

Ξεκινήστε μητρώο χρήσεων με υπεύθυνο, σκοπό, εισερχόμενα δεδομένα, αποτέλεσμα, επηρεαζόμενους και πιθανή ανθρώπινη παρέμβαση. Στη συνέχεια εξετάστε κατηγορία κινδύνου και τις απαιτούμενες πολιτικές. Διαχωρίστε την τεχνική δοκιμή από τη νομική έγκριση και τη λειτουργική εκπαίδευση των χρηστών. Επανεξετάστε κάθε χρήση όταν αλλάζει ο σκοπός της ή ενεργοποιούνται νέες δυνατότητες. Η τελική νομική κρίση χρειάζεται ενημερωμένο επαγγελματικό έλεγχο.

Πώς καταγράφουμε τις αποφάσεις ταξινόμησης

Κάθε αξιολόγηση κινδύνου πρέπει να εξηγεί ποιο σύστημα εξετάστηκε, ποιος είναι ο προβλεπόμενος σκοπός, ποιες πραγματικές λειτουργίες δοκιμάστηκαν και ποια τεκμήρια χρησιμοποιήθηκαν. Αποθηκεύστε την έκδοση που εξετάστηκε και ποιος ενέκρινε το συμπέρασμα. Αν αλλάξει η χρήση, η παλιά κρίση δεν μεταφέρεται μηχανικά στο νέο πλαίσιο. Το αρχείο αποφάσεων επιτρέπει σε νομική, τεχνική και διοικητική ομάδα να συζητούν την ίδια πραγματική λειτουργία και όχι διαφορετικές υποθέσεις.

Ανθρώπινη εποπτεία που μπορεί να λειτουργήσει

Δεν αρκεί να προβλέπεται θεωρητικά ότι ένας εργαζόμενος μπορεί να πατήσει «απόρριψη». Πρέπει να διαθέτει χρόνο, κατάλληλη πληροφόρηση και πραγματική αρμοδιότητα για να ανατρέψει ένα λανθασμένο αποτέλεσμα. Ελέγξτε αν βλέπει τη βάση της απόφασης και αν καταγράφονται οι διορθώσεις. Όπου δεν υπάρχει επαρκής κατανόηση, ο ανθρώπινος έλεγχος κινδυνεύει να γίνει τυπική επικύρωση. Η διαδικασία χρειάζεται δοκιμές με δύσκολα ή παραπλανητικά παραδείγματα.

Εκπαίδευση προσωπικού και διαδικασία περιστατικών

Η ομάδα χρειάζεται να γνωρίζει πότε σταματά μια λειτουργία, πώς αναφέρει απρόσμενη συμπεριφορά και ποιος αναλαμβάνει αξιολόγηση. Δημιουργήστε σαφή διαδρομή κλιμάκωσης για λάθη που επηρεάζουν πρόσωπα ή εμπιστευτικές πληροφορίες. Η εκπαίδευση πρέπει να προσαρμόζεται στον ρόλο και να ανανεώνεται όταν αλλάζει η χρήση. Μια εφαρμογή που έχει εγκριθεί αρχικά μπορεί να γίνει ακατάλληλη αν συνδεθεί αργότερα με περισσότερα δεδομένα ή αποκτήσει εξουσία για νέες αποφάσεις.

Συχνές ερωτήσεις

Απαγορεύεται γενικά η τεχνητή νοημοσύνη στην Ευρώπη;

Όχι. Το πλαίσιο διαφοροποιεί υποχρεώσεις ανά χρήση και κίνδυνο. Η αξιολόγηση γίνεται για τη συγκεκριμένη εφαρμογή.

Κάθε συνομιλιακό εργαλείο θεωρείται υψηλού κινδύνου;

Όχι αυτομάτως. Ο πραγματικός σκοπός και το περιβάλλον χρήσης έχουν καθοριστική σημασία.

Αρκεί η βεβαίωση του προμηθευτή;

Όχι ως μοναδικός έλεγχος. Ο φορέας χρήσης πρέπει να κατανοεί τις δικές του υποχρεώσεις και τα πραγματικά όρια λειτουργίας.

Χρειάζεται έλεγχος όταν αλλάζει μια λειτουργία;

Ναι, ιδίως αν προστίθεται νέα χρήση, επηρεάζονται περισσότερα πρόσωπα ή αυξάνεται ο βαθμός αυτοματισμού.

Πού ελέγχουμε τις ισχύουσες ημερομηνίες;

Στο επίσημο, ενημερωμένο κείμενο του ευρωπαϊκού κανονισμού και στις ανακοινώσεις της αρμόδιας ευρωπαϊκής αρχής.

Αν δεν επεξεργάζομαι προσωπικά δεδομένα, δεν έχω υποχρεώσεις;

Όχι απαραίτητα. Οι απαιτήσεις του πλαισίου τεχνητής νοημοσύνης και των λοιπών κανόνων εξετάζονται αυτοτελώς.

Σχετικά θέματα για περαιτέρω μελέτη

Για πληρέστερη θεματική εικόνα μπορείτε να εξετάσετε βασικές έννοιες του ευρωπαϊκού κανονισμού, το πλαίσιο τεχνητής νοημοσύνης και σχετικά θέματα εφαρμογών.