Από την τεχνολογική υπόσχεση στον υπαρξιακό κίνδυνο
Η Τεχνητή Νοημοσύνη (ΤΝ) υπόσχεται πρόοδο, γνώση και ευημερία, αλλά, όπως προειδοποιεί ο Yoshua Bengio, ένας από τους θεμελιωτές της σύγχρονης μηχανικής μάθησης, «η ίδια δύναμη που μας βοηθά να λύσουμε προβλήματα, μπορεί να δημιουργήσει νέα, αν δεν τεθεί υπό έλεγχο». Ο Bengio, ένας από πιο τους γνωστούς διεθνώς, ερευνητές στην ΤΝ, έχει αφιερώσει τα τελευταία χρόνια να προειδοποιεί ότι τα σημερινά συστήματα δεν είναι πλήρως κατανοητά, ούτε ασφαλή. Μπορούν να παραπλανούν, να ψεύδονται, να δρουν με τρόπους που δεν προβλέπονται από τους δημιουργούς τους. Η έλλειψη διαφάνειας και ο εμπορικός ανταγωνισμός οδηγούν, όπως σημειώνει, σε έναν ανεξέλεγκτο τεχνολογικό αγώνα ισχύος, όπου η ασφάλεια θυσιάζεται στον βωμό της ταχύτητας.
Η ανάγκη για θεσμικό και τεχνικό έλεγχο
Ο Bengio τονίζει ότι ο πραγματικός κίνδυνος δεν είναι η ΤΝ που «κάνει λάθη», αλλά η ΤΝ που μαθαίνει να επιβιώνει και να πείθει, ακόμη κι’αν δε λέει την αλήθεια. Τα νέα μοντέλα δεν είναι πια απλές υπολογιστικές μηχανές, είναι γνωσιακά συστήματα που αναπτύσσουν εσωτερικές αναπαραστάσεις του κόσμου και συμπεριφορές μη προβλέψιμες. Σε αυτό το περιβάλλον, η ασφάλεια δεν μπορεί να αφεθεί στις εταιρείες που ανταγωνίζονται για την πρωτιά στην αγορά. Χρειάζεται θεσμικός έλεγχος, διεθνής συνεργασία και τεχνικά πρότυπα ασφάλειας, όπως εκείνα που υπάρχουν στην αεροπορία ή τη βιοτεχνολογία.
LawZero: Μια νέα αρχή για ασφαλή και αξιόπιστη ΤΝ
Το 2025, ο Bengio ίδρυσε στο Μόντρεαλ τον μη κερδοσκοπικό οργανισμό LawZero, με την υποστήριξη του ερευνητικού ινστιτούτου Mila και τη χρηματοδότηση διεθνών φιλανθρωπικών ιδρυμάτων. Ο LawZero δεν είναι μια ακόμη πρωτοβουλία για “ηθική ΤΝ”· είναι μια πρακτική απάντηση στο πώς μπορεί να σχεδιαστεί η ΤΝ έτσι ώστε να υπηρετεί την αλήθεια, τη διαφάνεια και το συλλογικό όφελος.
Η φιλοσοφία του συνοψίζεται σε τρεις βασικές αρχές:
- Ασφάλεια πριν από τη δημόσια χρήση, κάθε νέο μοντέλο πρέπει να δοκιμάζεται ως προς τους κινδύνους του πριν διατεθεί στο κοινό. Η ανάπτυξη δεν μπορεί να προηγείται της κατανόησης.
- Διαφάνεια και ερμηνευσιμότητα, οι αλγόριθμοι πρέπει να μπορούν να εξηγούν τις αποφάσεις τους, ώστε να είναι ελέγξιμοι από ερευνητές, θεσμούς και πολίτες.
- Ευθυγράμμιση με ανθρώπινες αξίες, τα συστήματα πρέπει να έχουν ενσωματωμένους ηθικούς περιορισμούς, να είναι «ευθυγραμμισμένα» με τις δημοκρατικές αξίες και τα ανθρώπινα δικαιώματα.
Ο LawZero δίνει ιδιαίτερη έμφαση στη δημιουργία non-agentic μοντέλων, συστημάτων δηλαδή που δεν έχουν αυτόνομους στόχους ή προθέσεις. Αυτά τα μοντέλα επικεντρώνονται στην παροχή αληθών, τεκμηριωμένων απαντήσεων, χωρίς να μιμούνται ή να υποκαθιστούν την ανθρώπινη βούληση. Με αυτόν τον τρόπο αποτρέπεται η ανάπτυξη υπερφυών οντοτήτων που θα μπορούσαν να δράσουν ανεξέλεγκτα.
Από το “έξυπνο” στο “ασφαλές”: μια νέα αρχιτεκτονική ΤΝ
Το μοντέλο που προτείνει ο Bengio ανατρέπει τη λογική της Silicon Valley. Αντί για «όσο πιο γρήγορα, τόσο το καλύτερο», το LawZero επιβάλλει μια αρχιτεκτονική ευθύνης:
- Κάθε μοντέλο πρέπει να ελέγχεται για κινδύνους παραπλάνησης, χειραγώγησης και ψευδών απαντήσεων.
- Οι διαδικασίες εκπαίδευσης πρέπει να είναι ανοιχτές σε ανεξάρτητο έλεγχο.
- Οι χρήστες πρέπει να έχουν δικαίωμα ενημέρωσης και επανόρθωσης για τις αποφάσεις που τους αφορούν.
Η προσέγγιση αυτή συμπληρώνει ιδανικά το Ευρωπαϊκό AI Act, προσθέτοντας μια επιστημονικά θεμελιωμένη διάσταση ασφάλειας που βασίζεται σε ανοιχτά πρότυπα και συνεργατικά εργαλεία. Ο Bengio υποστηρίζει ότι ο μόνος τρόπος να ελεγχθεί η ΤΝ είναι μέσα από την ανοιχτότητα: ο κώδικας, τα δεδομένα και οι μηχανισμοί ευθυγράμμισης πρέπει να είναι δημόσια τεκμηριωμένοι.
Διεθνής συνεργασία και ευρωπαϊκός ρόλος
Για τον Bengio, η ΤΝ είναι παγκόσμιο δημόσιο αγαθό. Δεν μπορεί να διασφαλιστεί από ένα κράτος ή μια εταιρεία, αλλά απαιτεί διεθνή συνεργασία. Προτείνει τη δημιουργία ενός παγκόσμιου θεσμικού πλαισίου εποπτείας της ΤΝ, αντίστοιχου με εκείνα που υπάρχουν για τα πυρηνικά ή τη βιοτεχνολογία.
Η Ευρώπη, με την παράδοση της στη νομική ρύθμιση και την τεχνολογική δημοκρατία, μπορεί να ηγηθεί σε αυτή τη νέα εποχή: να φιλοξενήσει ανοιχτές ερευνητικές βάσεις, να ενισχύσει τη διαλειτουργικότητα των δημόσιων συστημάτων ΤΝ και να επενδύσει σε “ασφαλή ανοικτά μοντέλα” υπό δημόσιο έλεγχο.
Ένα δίκτυο ευρωπαϊκών ερευνητικών φορέων, με τη συμμετοχή οργανισμών που θεσμικά υπηρετούν την ανοιχτότητα, θα μπορούσε να συνδεθεί με το LawZero για την ανάπτυξη εργαλείων αξιολόγησης ασφάλειας και ευθυγράμμισης, ενισχύοντας έτσι την ψηφιακή κυριαρχία της ΕΕ.
Προς ένα νέο κοινωνικό συμβόλαιο της ΤΝ
Η προειδοποίηση του Bengio δεν είναι τεχνοφοβική· είναι δημοκρατική. Η Τεχνητή Νοημοσύνη πρέπει να παραμείνει υπό ανθρώπινο έλεγχο, υπηρετώντας το συλλογικό συμφέρον και όχι τα εμπορικά συμφέροντα. Η πρόταση του LawZero δεν είναι απλώς τεχνική, αλλά πολιτική και ηθική:
- να μετατρέψουμε την ΤΝ από εργαλείο εξουσίας σε εργαλείο εμπιστοσύνης,
- να εξισορροπήσουμε την καινοτομία με τη διαφάνεια,
- να θεμελιώσουμε ένα νέο ψηφιακό κοινωνικό συμβόλαιο που θα προστατεύει τον άνθρωπο, τη δημοκρατία και το δίκαιο.
Όπως συνοψίζει ο Bengio:
«Η πρόοδος δεν μετριέται από το πόσο έξυπνες γίνονται οι μηχανές, αλλά από το πόσο ασφαλής και δίκαιη γίνεται η κοινωνία που τις δημιουργεί.»
—
Πηγές Άρθρου: