Η αβεβαιότητα γύρω από την ανάπτυξη της Τεχνητής Γενικής Νοημοσύνης (AGI)

Η αβεβαιότητα γύρω από την τεχνητή γενική νοημοσύνη: τι γνωρίζουμε και τι όχι

Η τεχνητή γενική νοημοσύνη, AGI (Artificial General Intelligence), περιγράφει συνήθως μια μορφή τεχνητής νοημοσύνης που μπορεί να ανταποκρίνεται σε ευρύ φάσμα γνωστικών εργασιών. Το πότε, αν και με ποια ακριβώς κριτήρια θα μπορούσε να θεωρηθεί ότι επιτεύχθηκε παραμένει ανοιχτό. Η ουσιαστική συζήτηση δεν χρειάζεται βέβαιες προβλέψεις· χρειάζεται να ξεχωρίζει τις σημερινές δυνατότητες, τα κενά αξιολόγησης και τις αποφάσεις ασφάλειας.

Γιατί δεν υπάρχει μία εύκολη ημερομηνία άφιξης

Η φράση «γενική νοημοσύνη» δεν αποτελεί ενιαίο τεχνικό τεστ στο οποίο όλοι οι ερευνητές συμφωνούν. Άλλοι δίνουν βάρος στην ευρύτητα εργασιών, άλλοι στην ποιότητα επίδοσης και άλλοι στην αυτονομία χωρίς συνεχή ανθρώπινη παρέμβαση. Έτσι, δύο διαφορετικές εκτιμήσεις μπορεί να περιγράφουν διαφορετικό στόχο, όχι απαραίτητα αντικρουόμενα στοιχεία. Προτού αξιολογήσετε μια πρόβλεψη, ρωτήστε τι μετρά, σε ποιες συνθήκες και τι θα θεωρούνταν πραγματική διάψευσή της.

Επίδοση, γενικότητα και αυτονομία δεν είναι το ίδιο

Ένα σύστημα μπορεί να υπερέχει σε πολλές εξετάσεις αλλά να δυσκολεύεται όταν αλλάζουν οι συνθήκες ή λείπουν στοιχεία. Μπορεί επίσης να παράγει πολύ χρήσιμες απαντήσεις χωρίς να είναι ικανό να ολοκληρώσει ανεξάρτητα μια σύνθετη εργασία στον πραγματικό κόσμο. Η ερευνητική εργασία «Levels of AGI» της Google DeepMind προτείνει να εξετάζονται χωριστά η απόδοση, το εύρος ικανοτήτων και η αυτονομία. Αυτή η διάκριση βοηθά να μην παρουσιάζεται κάθε εντυπωσιακή επίδειξη ως τεκμήριο γενικής νοημοσύνης.

Τι μας δείχνουν και τι κρύβουν οι δοκιμασίες

Οι δοκιμασίες αξιολόγησης είναι χρήσιμες όταν περιγράφουν σαφώς την εργασία και επιτρέπουν επανάληψη. Ωστόσο, ένα καλό αποτέλεσμα μπορεί να επηρεάζεται από εξοικείωση με παρόμοια παραδείγματα, από τον τρόπο διατύπωσης μιας ερώτησης ή από τα διαθέσιμα εργαλεία. Χρειάζονται εξετάσεις ανθεκτικότητας σε νέα προβλήματα, διαφορετικές γλώσσες και πραγματικές αλληλεπιδράσεις. Το ότι ένα σύστημα απέδωσε καλά σε συγκεκριμένο περιβάλλον δεν αρκεί για να υποστηριχθεί ότι θα λειτουργήσει εξίσου αξιόπιστα παντού.

Τρεις διαφορετικές πηγές αβεβαιότητας

Η κατηγοριοποίηση αυτή αποτρέπει ένα συνηθισμένο λάθος: να εκλαμβάνεται η αύξηση επιδόσεων σε μία δοκιμασία ως πλήρης απάντηση για το χρονοδιάγραμμα ή για την ασφάλεια μιας μελλοντικής τεχνολογίας.

Τι δεν αποδεικνύει ένα εντυπωσιακό παράδειγμα

Ένα βίντεο επίδειξης δείχνει ότι κάποια συμπεριφορά είναι εφικτή σε συγκεκριμένες συνθήκες. Δεν αποκαλύπτει πόσες δοκιμές απέτυχαν, ποιος διόρθωσε τα δεδομένα ή αν υπήρχε ανθρώπινη παρέμβαση. Αντίστοιχα, η ανθρώπινη γλώσσα που παράγει ένα μοντέλο δεν αποδεικνύει από μόνη της ανθρώπινη κατανόηση, επίγνωση ή στόχους. Είναι προτιμότερο να περιγράφουμε παρατηρήσιμες λειτουργίες παρά να αποδίδουμε ιδιότητες που δεν μπορούμε να μετρήσουμε.

Γιατί η αβεβαιότητα δεν είναι λόγος αδράνειας

Η έλλειψη βεβαιότητας για ένα μελλοντικό ορόσημο δεν καταργεί τους σημερινούς κινδύνους. Ένα σύστημα μπορεί ήδη να παράγει ανακριβείς πληροφορίες, να αποκαλύπτει δεδομένα αν χρησιμοποιηθεί λανθασμένα ή να οδηγήσει σε υπερβολική εμπιστοσύνη. Η αξιολόγηση πρέπει να στηρίζεται στις συγκεκριμένες χρήσεις: τι επιτρέπεται να κάνει, ποιος το επιβλέπει και πώς εντοπίζεται μια αποτυχία. Το εθελοντικό πλαίσιο διαχείρισης κινδύνων τεχνητής νοημοσύνης του αμερικανικού Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας, NIST (National Institute of Standards and Technology), προσφέρει μια δομημένη προσέγγιση για τέτοιες αποφάσεις.

Μια πρακτική μήτρα κινδύνου

Η μήτρα αφορά τη σημερινή πρακτική χρήση εργαλείων, ανεξάρτητα από το πώς θα οριστεί μελλοντικά η γενική νοημοσύνη. Ένα ευάλωτο σύστημα δεν γίνεται ασφαλές επειδή δεν αποκαλείται «γενικό».

Πώς διαβάζουμε προβλέψεις από εταιρείες και ερευνητές

Εξετάστε αν ο ομιλητής ορίζει το αντικείμενο, αναφέρει αβεβαιότητες και διακρίνει μετρημένα αποτελέσματα από προσωπική εκτίμηση. Οι εμπορικές προσδοκίες, η ερευνητική αισιοδοξία και οι ανησυχίες για την ασφάλεια μπορούν να επηρεάζουν τη διατύπωση, χωρίς να καθιστούν αυτόματα κάποιον αναξιόπιστο. Αναζητήστε πρωτογενή μεθοδολογία και ανεξάρτητη κριτική αντί να αναπαράγετε μόνο έναν εντυπωσιακό τίτλο. Οι βεβαιότητες που δεν συνοδεύονται από ελέγξιμα κριτήρια αξίζουν ιδιαίτερη επιφύλαξη.

Ποιες αποφάσεις έχουν σημασία για επιχειρήσεις σήμερα

Πριν ενσωματώσετε εργαλεία τεχνητής νοημοσύνης, προσδιορίστε την εργασία στην οποία μπορούν πραγματικά να βοηθήσουν. Έπειτα εξετάστε ποια δεδομένα θα επεξεργάζονται, πώς ελέγχονται οι απαντήσεις τους, πόσο εξαρτάται η διαδικασία από τον πάροχο και ποιος μπορεί να διακόψει τη λειτουργία όταν εμφανιστεί πρόβλημα. Μην επενδύετε σε μια αόριστη υπόσχεση ότι «σύντομα όλα θα γίνονται αυτόματα». Προτιμήστε μικρές εφαρμογές με ορατό όφελος και αναστρέψιμες αλλαγές.

Ερωτήσεις που πρέπει να προηγούνται των συμπερασμάτων

Είναι η σημερινή τεχνητή νοημοσύνη ήδη γενική;

Η απάντηση εξαρτάται από τον ορισμό και από τα αποτελέσματα ανεξάρτητων αξιολογήσεων. Δεν αρκεί μια συνομιλία που μοιάζει ανθρώπινη ή η επίδοση σε επιλεγμένες εργασίες για να υπάρξει οριστική ταξινόμηση.

Μπορούμε να προβλέψουμε το έτος εμφάνισής της;

Μπορούν να διατυπωθούν σενάρια με ρητές υποθέσεις, όχι όμως εγγυήσεις. Όταν μια εκτίμηση παρουσιάζεται ως βεβαιότητα χωρίς κοινό αποδεκτό κριτήριο επιτυχίας, αξίζει να αντιμετωπίζεται ως γνώμη.

Σημαίνει περισσότερη ικανότητα και μεγαλύτερο κίνδυνο;

Όχι αυτόματα. Ο κίνδυνος εξαρτάται από την αυτονομία, τις διαθέσιμες ενέργειες, το περιβάλλον, την ανθρώπινη εποπτεία και τους μηχανισμούς ασφάλειας. Η αξιολόγηση πρέπει να γίνεται ανά εφαρμογή.

Τι αξίζει να παρακολουθούμε

Ισχυρότερα σημάδια προόδου είναι οι αναπαραγώγιμες δοκιμές σε άγνωστα προβλήματα, οι δημοσιευμένοι περιορισμοί, η ουσιαστική ανεξάρτητη αξιολόγηση και η διαφάνεια για το επίπεδο ανθρώπινης παρέμβασης. Για σχετικές εφαρμογές στον ψηφιακό χώρο μπορείτε να δείτε την ενότητα ιστοσελίδες για νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης και την παρουσίαση υπηρεσιών συμβούλου τεχνητής νοημοσύνης. Το κρίσιμο ερώτημα, πάντως, παραμένει τι έχει αποδειχθεί σήμερα και τι αποτελεί εκτίμηση για αύριο.

Τρία σενάρια χωρίς ψευδή πρόβλεψη

Στο πρώτο σενάριο, οι δυνατότητες βελτιώνονται σταδιακά αλλά διατηρούν σημαντικούς περιορισμούς όταν αλλάζει το πρόβλημα. Σε αυτή την περίπτωση προέχει η αξιόπιστη ενσωμάτωση συγκεκριμένων εργαλείων στην εργασία. Στο δεύτερο, η γενίκευση προχωρά γρηγορότερα από την ικανότητά μας να εξηγούμε τις αποτυχίες, οπότε απαιτούνται αυστηρότερες δικλίδες και ανεξάρτητη αξιολόγηση. Στο τρίτο, οι εξελίξεις μένουν άνισες: μεγάλη πρόοδος σε ορισμένους τομείς, πολύ αργή σε άλλους. Κανένα από αυτά δεν αποτελεί χρονοδιάγραμμα ή πρόγνωση· χρησιμεύουν για να εξετάζουμε την ανθεκτικότητα των αποφάσεών μας.

Πώς μπορούμε να κρατούμε τον άνθρωπο υπεύθυνο

Όσο αυξάνεται η πολυπλοκότητα, τόσο σημαντικότερο είναι να γνωρίζουμε ποιος θέτει τον στόχο και ποιος εγκρίνει μια σημαντική ενέργεια. Ένα εργαλείο μπορεί να συντάξει πρόταση, αλλά η επιλογή να εφαρμοστεί σε πραγματικούς ανθρώπους χρειάζεται ευθύνη, δυνατότητα διόρθωσης και διαδρομή αναφοράς περιστατικών. Η τεκμηρίωση των περιορισμών δεν είναι παραδοχή αποτυχίας· είναι προϋπόθεση για συνετή χρήση.

Αξίζει ακόμη να εξετάζεται τι συμβαίνει όταν αλλάζει η έκδοση του συστήματος. Οι παλιές δοκιμές μπορεί να μην περιγράφουν επαρκώς τη νέα συμπεριφορά, ενώ αλλαγές σε εξωτερικά εργαλεία ή δεδομένα δημιουργούν πρόσθετη αβεβαιότητα. Γι' αυτό απαιτείται επαναληπτικός έλεγχος μετά από ουσιώδεις μεταβολές και δυνατότητα προσωρινής διακοπής μιας αυτοματοποίησης. Το ζητούμενο δεν είναι να δώσουμε στο άγνωστο ένα εντυπωσιακό όνομα, αλλά να το διαχειριστούμε με μετρήσιμες πρακτικές.