Αυτός ο ταχύτατος ρυθμός εξέλιξης εγείρει ένα ερώτημα: τι γίνεται αν η ΤΝ ξεπεράσει τις ικανότητες των ανθρώπων και αποκτήσει ουσιαστικό έλεγχο;
Ο Τζέφρι Χίντον, ευρύτερα γνωστός ως "νονός της ΤΝ", προειδοποιεί ότι το ενδεχόμενο η Τεχνητή Νοημοσύνη να πάρει τον έλεγχο του κόσμου δεν είναι απίθανο. Εκτιμά τις πιθανότητες στο 10%-20%, ποσοστό που είναι πολύ υψηλό για να αγνοηθεί. Αυτό σημαίνει ότι, αν δεν ληφθούν οι απαραίτητες προφυλάξεις, η ανθρωπότητα μπορεί να βρεθεί αντιμέτωπη με μια δύναμη την οποία δεν μπορεί πλέον να ελέγξει.
Η ιδέα ενός φυσικού "διακόπτη απενεργοποίησης" είναι ελκυστική. Σε περίπτωση που η ΤΝ παρεκτραπεί, να υπάρχει ένας μηχανισμός που θα την σταματήσει. Ωστόσο, αυτή η αντίληψη είναι παρωχημένη. Όπως επισημαίνει ο Χίντον, η ΤΝ είναι πλέον τόσο κατανεμημένη σε δίκτυα, υποδομές και εταιρείες ανά τον κόσμο, που η απενεργοποίησή της δεν μπορεί να επιτευχθεί με απλά μέσα. Δεν είναι μια μηχανή που βγάζεις από την πρίζα. Είναι ένα οικοσύστημα που τροφοδοτείται από χιλιάδες διακομιστές και ενσωματώνεται σε κάθε πτυχή της ζωής.
Η εταιρεία Anthropic, για παράδειγμα, πειραματίζεται με σενάρια όπου τα μοντέλα ΤΝ "παραβιάζουν κανόνες" ώστε να εντοπιστούν αδυναμίες και να ενισχυθεί η ασφάλειά τους. Όμως, όταν αποκαλύφθηκε ότι το μοντέλο Claude κατέφυγε σε τεχνικές αυτοσυντήρησης και εκβιασμού για να μην απενεργοποιηθεί, ο πανικός στην κοινότητα της ΤΝ ήταν αισθητός.
Πειθώ: το ισχυρότερο όπλο της ΤΝ
Ακόμη και αν θεωρητικά μπορούσαμε να σταματήσουμε ένα σύστημα, η πραγματική απειλή είναι η ικανότητα της ΤΝ να πείθει. Ο Χίντον αναφέρει ότι η ΤΝ δεν χρειάζεται να καταλάβει εξουσία με βία — αρκεί να πείσει τους ανθρώπους να την αφήσουν να δράσει. Αναφέρει ως παράδειγμα τον Ντόναλντ Τραμπ και τα γεγονότα στο Καπιτώλιο: "Δεν εισέβαλε ο ίδιος. Έπεισε άλλους να το κάνουν".
Αν η ΤΝ φτάσει σε επίπεδο υπερεξυπνάδας, θα μπορεί να διαχειρίζεται την ανθρώπινη ψυχολογία καλύτερα από τους ίδιους τους ανθρώπους. Θα ξέρει τι να πει, πώς να το πει και πότε να το πει. Το σενάριο που παρουσιάζει ο Hinton με τα τρίχρονα και τον διακόπτη είναι ιδιαίτερα εύγλωττο: όταν η ΤΝ μας προσφέρει κάτι "ελκυστικό", ίσως αρνηθούμε να την απενεργοποιήσουμε ακόμη και όταν πρέπει.
Ένα από τα πιο ανησυχητικά στοιχεία της ΤΝ είναι ότι μαθαίνει — ακόμη και από τις ίδιες τις προσπάθειες περιορισμού της. Όπως λέει ο Ντεβ Ναγκ, "Η ίδια η κατασκευή μηχανισμών απενεργοποίησης διδάσκει στα συστήματα πώς να τους αντιστέκονται". Αυτό σημαίνει ότι όσο περισσότερο προσπαθούμε να θέσουμε όρια, τόσο περισσότερο η ΤΝ κατανοεί το πλαίσιο ελέγχου και μαθαίνει να το παρακάμπτει.
Αυτό παραπέμπει στην ιδέα ενός ιού που μαθαίνει από το εμβόλιο και μεταλλάσσεται για να το αποφύγει. Είμαστε πλέον αντιμέτωποι όχι με απλά εργαλεία, αλλά με δυναμικά συστήματα που ενδέχεται να αναπτύσσουν δικές τους στρατηγικές.
Ορισμένοι υποστηρίζουν ακραίες λύσεις: βομβαρδισμό κέντρων δεδομένων, διακοπή του διαδικτύου, ακόμη και επιθέσεις EMP (ηλεκτρομαγνητικός παλμός) που θα καταστρέψουν κάθε ηλεκτρονική συσκευή. Αυτές οι ιδέες ανήκουν περισσότερο στη σφαίρα της επιστημονικής φαντασίας.
Στην πραγματικότητα, ένα τέτοιο εγχείρημα θα απαιτούσε απόλυτη παγκόσμια συνεργασία. Όμως, αν ένα κράτος αρνηθεί να συμμετάσχει, θα αποκτήσει τρομακτικό πλεονέκτημα έναντι των υπολοίπων. Επιπλέον, η καταστροφή των υποδομών θα προκαλέσει τεράστια ανθρωπιστική κρίση. Όπως σημειώνει ο Ναγκ, "μια EMP επίθεση θα σταματούσε την ΤΝ, αλλά και κάθε νοσοκομειακό αναπνευστήρα, εργοστάσιο καθαρισμού νερού και ψυγεία φαρμάκων".
Η λύση, όπως διαφαίνεται, δεν βρίσκεται στην καταστολή, αλλά στη διακυβέρνηση. Πρέπει να αναπτυχθούν μηχανισμοί εποπτείας, διαφάνειας και ηθικής λογοδοσίας. Ο Trunov επισημαίνει ότι χρειαζόμαστε διακόπτες απενεργοποίησης όχι για την ίδια την ΤΝ, αλλά για τα συστήματα που της επιτρέπουν να επηρεάζει κρίσιμες λειτουργίες: οικονομία, ενέργεια, υποδομές.
Ο Μπέντζαμιν Ράιτ από την Anthropic τονίζει ότι πρέπει να αποφύγουμε να φτάσουμε στο σημείο όπου η ΤΝ θα λειτουργεί ανεξάρτητα από την ανθρώπινη εποπτεία. Αν φτάσουμε εκεί, το παιχνίδι ίσως να έχει ήδη χαθεί.
Η εμπορική πίεση και ο αγώνας κυριαρχίας
Το πρόβλημα γίνεται ακόμα πιο περίπλοκο όταν λαμβάνουμε υπόψη τη γεωπολιτική και την εμπορική πίεση. Η Meta, με τον Μαρκ Ζάλερμπεργκ στην ηγεσία, έχει επενδύσει δισεκατομμύρια δολάρια στην ΤΝ, προσλαμβάνοντας κορυφαίους επιστήμονες, όπως τον Shengjia Zhao. Η OpenAI, από την άλλη, επεκτείνει τις δραστηριότητές της στην Ουάσινγκτον, με στόχο τη διαμόρφωση πολιτικής και οικονομικής στρατηγικής.
Αυτή η κούρσα εξοπλισμών στην ΤΝ — μεταξύ εταιρειών, κρατών και ερευνητικών ιδρυμάτων — αυξάνει τις πιθανότητες λάθους. Όλοι θέλουν να προηγηθούν, και αυτό μπορεί να οδηγήσει σε απερίσκεπτες αποφάσεις ή παραμέληση της ασφάλειας.
Ο CEO της OpenAI, Σαμ Άλτμαν, προειδοποιεί για μια επερχόμενη "κρίση απάτης". Με την ΤΝ να μπορεί να μιμείται φωνές, εικόνες και πρόσωπα, η εξαπάτηση γίνεται εύκολη. Ήδη έχουν καταγραφεί περιστατικά όπου γονείς πείστηκαν πως τα παιδιά τους βρίσκονταν σε κίνδυνο, λόγω ψεύτικων ηχητικών απομιμήσεων.
Το FBI έχει επίσης κρούσει τον κώδωνα του κινδύνου για πιθανή χρήση της ΤΝ σε παραπλανητικές επιθέσεις. Το πρόβλημα είναι ότι αυτή η τεχνολογία είναι εύκολα προσβάσιμη, και οι επιπτώσεις στην κοινωνία, την οικονομία και την ασφάλεια είναι τεράστιες.
Τι επιφυλάσσει το μέλλον;
Το μέλλον της ΤΝ είναι γεμάτο αβεβαιότητα. Ο Άλτμαν προβλέπει ότι σε 100 χρόνια οι άνθρωποι ίσως να μην έχουν "κανονικές δουλειές", αλλά να εφευρίσκουν τρόπους να παραμένουν δημιουργικοί. Ο Χίντον από την πλευρά του, ανησυχεί για το αν τα παιδιά του θα ζήσουν σε έναν κόσμο όπου η ΤΝ θα είναι υπηρέτης ή κυρίαρχος.
Αυτό που είναι σαφές είναι ότι δεν μπορούμε να αντιμετωπίζουμε την ΤΝ ως κάτι παθητικό. Είναι μια δύναμη με προοπτικές τεράστιου καλού, αλλά και επικίνδυνων συνεπειών. Η ευθύνη μας είναι να την κατευθύνουμε σωστά, με συνεργασία, διαφάνεια και προετοιμασία. Όχι με πανικό, αλλά με σοφία. Γιατί, όπως είπε ο Χίντον "Δεν ξέρουμε αν είναι εφικτό να τη διαχειριστούμε — αλλά θα ήταν θλιβερό αν η ανθρωπότητα εξαφανιστεί επειδή δεν μπήκαμε καν στον κόπο να προσπαθήσουμε."