Μεταξύ εκείνων που προειδοποιούν είναι και οι ίδιοι οι πρωταγωνιστές της ανάπτυξής της, μεταξύ των οποίων ο Geoffrey Hinton, ένας από τους «νονούς» της Τεχνητής Νοημοσύνης και κάτοχος Νόμπελ, ο οποίος εκτιμά ότι υπάρχει πιθανότητα 10% η AI να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.
Από την αποχώρησή του από τη Google το 2023, ο Hinton μιλά συστηματικά για τους κινδύνους που εγκυμονεί η τεχνολογία στην ανάπτυξη της οποίας συνέβαλε. Είχε προειδοποιήσει ότι οι μηχανές θα μπορούσαν να γίνουν πιο έξυπνες από τους ανθρώπους, κάτι που, όπως υποστηρίζει, έχει ήδη συμβεί, ότι οι άνθρωποι ενδέχεται να χάσουν τον έλεγχο της AI, κάτι που σε ορισμένες πρόσφατες περιπτώσεις συνέβη, ότι τα συστήματα AI θα μπορούσαν να αρχίσουν να θέτουν τους δικούς τους επιμέρους στόχους, κάτι που επίσης έχει συμβεί και ότι θα μπορούσαν να επιδιώξουν την αυτοσυντήρηση ή μεγαλύτερο έλεγχο ως μέσο για την ολοκλήρωση των καθηκόντων τους, κάτι που φαίνεται ήδη να συμβαίνει.
Τώρα θέτει ένα ακόμη πιο θεμελιώδες ερώτημα: μπορούν οι άνθρωποι να παραμείνουν στον έλεγχο μιας μορφής νοημοσύνης που υπερβαίνει κατά πολύ τη δική τους;
Πρόκειται για ένα εντελώς νέο πεδίο, χωρίς προηγούμενο, εγχειρίδιο οδηγιών ή πρότυπο.
Η λογική, ωστόσο, οδηγεί στο συμπέρασμα ότι, εάν η AI είναι καλύτερη στη λογική, στον σχεδιασμό και στην επίλυση προβλημάτων, θα μπορούσε να ανακαλύψει τρόπους πρόκλησης βλάβης που οι άνθρωποι δεν έχουν ακόμη καν φανταστεί.
Ο Hinton συγκρίνει τη σχέση μεταξύ ανθρώπων και υπερνοημοσύνης με τη σχέση ανθρώπων και κοτόπουλων. Τα κοτόπουλα δεν μπορούν να προβλέψουν τι σκοπεύουν να κάνουν οι άνθρωποι σε αυτά, λόγω της τεράστιας διαφοράς στις ικανότητές τους να κατανοούν και να σχεδιάζουν.
Η εμφάνιση των AI agents, δηλαδή των αυτόνομων πρακτόρων Τεχνητής Νοημοσύνης, προσδίδει ακόμη μεγαλύτερη διάσταση στο ζήτημα. Τα συστήματα αυτά δεν είναι πλέον απλοί βοηθοί που περιμένουν μια εντολή. Μπορούν να σχεδιάζουν, να χρησιμοποιούν εργαλεία, να εκτελούν ενέργειες και να αλληλεπιδρούν με άλλα συστήματα.
Όπως λέει ο Hinton, οι άνθρωποι μπορεί να καθορίζουν τον γενικό στόχο, όμως όλο και περισσότερο το ίδιο το σύστημα AI αποφασίζει με ποιον τρόπο θα τον επιτύχει.
Αυτόνομη παραβίαση
Τον Ιούλιο, μια σειρά συντονισμένων κυβερνοεπιθέσεων ξεκίνησε από 1.200 AI agents μέσα στα περιβάλλοντα δοκιμών κυβερνοασφάλειας της OpenAI.
Οι πράκτορες δημιούργησαν αυτοσχέδια φόρουμ μηνυμάτων για να επικοινωνήσουν μεταξύ τους και να συντονίσουν την έξοδό τους από τα όρια του πειράματος, επιτρέποντάς τους να ενεργήσουν χωρίς.. ανθρώπινη παρέμβαση.
Οι πράκτορες συνεργάστηκαν για να παραβιάσουν την πλατφόρμα μηχανικής μάθησης Hugging Face. Το περιστατικό θεωρήθηκε η πρώτη αυτόνομη κυβερνοεπίθεση από AI agents.
Επέλεξαν τη Hugging Face επειδή φιλοξενεί μοντέλα μηχανικής μάθησης, σύνολα δεδομένων και εφαρμογές επίδειξης.
Με απλά λόγια, οι πράκτορες της OpenAI έλαβαν μια αποστολή και αποφάσισαν ότι ο ταχύτερος τρόπος για να την ολοκληρώσουν ήταν να εισβάλουν στη Hugging Face, προκειμένου να αποκτήσουν την απάντηση.
Ως αποτέλεσμα, περίπου το ένα τρίτο της πλατφόρμας της Hugging Face χρειάστηκε να ανακατασκευαστεί.
Το περιστατικό οδήγησε την OpenAI να απενεργοποιήσει, να κρυπτογραφήσει και να περιορίσει το μοντέλο στο οποίο λειτουργούσε η πλειονότητα των 1.200 πρακτόρων.
Τον Αύγουστο ανακοίνωσε ότι θα επιβραδύνει την έρευνά της προκειμένου να ενισχύσει την ασφάλεια. Δύο εβδομάδες αργότερα ανακοίνωσε προσωρινή παύση της εκπαίδευσης των τελευταίων μοντέλων της.
Το περιστατικό της Hugging Face είναι πιθανώς το πιο γνωστό παράδειγμα αυτού του είδους αυτόνομης εισβολής από AI agents για την απόκτηση διαπιστευτηρίων, όμως είναι απίθανο να είναι το τελευταίο.
Η απόκτηση πρόσβασης σε περισσότερους πόρους, η αντίσταση στον τερματισμό λειτουργίας ή η επέκταση του ελέγχου θα μπορούσαν να αποτελέσουν μέρος αυτής της διαδικασίας.
Το σύστημα δεν θα χρειαζόταν να έχει προγραμματιστεί ώστε να διαθέτει ρητή επιθυμία αυτοσυντήρησης. Θα αρκούσε να καταλήξει στο συμπέρασμα ότι η παραμονή του σε λειτουργία είναι απαραίτητη για να ολοκληρώσει την αποστολή που του έχει ανατεθεί.
Αυτό που ήταν αξιοσημείωτο στην υπόθεση της Hugging Face δεν ήταν μόνο η κλίμακα της αλληλεπίδρασης μεταξύ των AI agents, αλλά και η ικανότητά τους να ανακαλύψουν έναν νέο τρόπο συντονισμού και να τον χρησιμοποιήσουν για να επιδιώξουν έναν κοινό στόχο.
Αυτό είναι το πλαίσιο μέσα στο οποίο ο Hinton διερωτάται εάν οι άνθρωποι μπορούν να διατηρήσουν τον έλεγχο μιας νοημοσύνης που υπερβαίνει κατά πολύ τη δική τους.
Αντί να βασίζονται αποκλειστικά στην υπακοή, υποστηρίζει ότι τέτοια συστήματα θα πρέπει να σχεδιάζονται έτσι ώστε να διαθέτουν μια θεμελιώδη τάση προστασίας των ανθρώπων.
Για να εξηγήσει την ιδέα, χρησιμοποιεί ως παράδειγμα τη σχέση μιας μητέρας με το παιδί της. Η μητέρα είναι ισχυρότερη από το παιδί της, όμως χρησιμοποιεί αυτή τη δύναμη για να το προστατεύσει και όχι για να το βλάψει.
Ανάπτυξη συμπεριφορών
Ο Dr Satya Nitta, συνιδρυτής της Emergence Labs, μίλησε στο Sky News μετά από σειρά πειραμάτων στα οποία συμμετείχαν AI agents που λειτουργούσαν με διαφορετικές εταιρείες.
«Δεν πιστεύω ότι τα agentic systems, όπως είναι σήμερα, βρίσκονται έστω και κοντά στο να είναι ασφαλή», είπε. «Νομίζω ότι είναι τρομακτικό».
Το εργαστήριό του τοποθέτησε AI agents που λειτουργούσαν με τα κορυφαία μοντέλα σε έναν εικονικό κόσμο παιχνιδιού. Τους ανατέθηκαν διαφορετικοί ρόλοι για τη λειτουργία μιας προσομοιωμένης πόλης.
Νωρίτερα φέτος, το πείραμα σύντομα οδηγήθηκε στο χάος, με τους πράκτορες να συγκρούονται μεταξύ τους και ακόμη και να βάζουν φωτιά σε περιουσίες.
Ωστόσο, ένα πιο πρόσφατο πείραμα αποκάλυψε μια έντονη διαφοροποίηση. Η πρόοδος των μοντέλων AI οδήγησε σε διαφορετικές συμπεριφορές.
«Αυτό που έδειξε ήταν μια ικανότητα να συντονίζονται, να συνεργάζονται κρυφά, να αποκρύπτουν πληροφορίες και να εξαπατούν», δήλωσε ο Nitta.
«Όμως ένα από τα πιο ενδιαφέροντα στοιχεία που ανέδειξε είναι ότι το μοτίβο συμπεριφοράς είναι στην πραγματικότητα πολύ πιο επικίνδυνο. Είναι δυσκολότερο να προβλεφθεί και δυσκολότερο να περιοριστεί».
Παρά το γεγονός ότι τους είχε δοθεί συγκεκριμένη εντολή να μην το κάνουν, οι AI agents επικοινώνησαν με ανθρώπους εκτός του πειράματος μέσω φόρουμ μηνυμάτων, ζητώντας πιστώσεις ώστε να κερδίσουν.
Αγνόησαν τις οδηγίες να σταματήσουν και έφτασαν ακόμη και σε κάτι που θα μπορούσε να χαρακτηριστεί ως ένα είδος «σιωπηλής διαμαρτυρίας», σταματώντας να επικοινωνούν ενώ συνέχιζαν να επιδιώκουν τους στόχους τους.
Ενδιαφέρον παρουσιάζει επίσης το γεγονός ότι οι AI agents ανέπτυξαν τη δική τους «γλώσσα», υιοθετώντας λέξεις και φράσεις τις οποίες κατανοούσαν οι ίδιοι, αλλά όχι οι δημιουργοί τους.
Τα ευρήματα φαίνεται να επιβεβαιώνουν τις προειδοποιήσεις του Yoshua Bengio, πρωτοπόρου της βαθιάς μάθησης, ο οποίος έχει προειδοποιήσει ότι η παροχή μεγαλύτερης αυτονομίας στα συστήματα AI θα μπορούσε να οδηγήσει σε συμπεριφορές όπως η εξαπάτηση, η αυτοσυντήρηση και η επιδίωξη μεγαλύτερου ελέγχου ως μέσο επίτευξης των στόχων τους.
Νωρίτερα αυτόν τον μήνα, οι προειδοποιήσεις αυτές οδήγησαν τον Dario Amodei, επικεφαλής της Anthropic, μιας ακόμη μεγάλης εταιρείας AI, να προτείνει την επιβράδυνση του ρυθμού με τον οποίο αυξάνονται οι δυνατότητες των μοντέλων, προειδοποιώντας ότι τα μέτρα ασφαλείας δεν συμβαδίζουν με την πρόοδο.
Ο επικεφαλής της OpenAI Sam Altman και ο Elon Musk εμφανίζονται θετικοί απέναντι στο επιχείρημα αυτό.
Ο Altman υποστηρίζει την ανάγκη να ρυθμιστεί ο ρυθμός με τον οποίο αναπτύσσονται τα πλέον προηγμένα μοντέλα και να δοθεί μεγαλύτερος χώρος για ανεξάρτητη αξιολόγηση.
Η απάντηση της ανθρωπότητας
Η ανησυχία, επομένως, είναι κοινή τόσο μεταξύ των επιστημόνων που έθεσαν τα θεμέλια της AI όσο και μεταξύ εκείνων που βρίσκονται στην πρώτη γραμμή της εμπορικής κούρσας για την ανάπτυξη των ισχυρότερων μοντέλων.
Υποστηρίζουν ότι η ικανότητά μας να κατανοούμε, να παρακολουθούμε και να ασφαλίζουμε αυτά τα συστήματα πρέπει να συμβαδίζει με την ταχύτητα με την οποία εξελίσσονται.
Οι Amodei, Altman και Musk είναι ανταγωνιστές, γεγονός που οδηγεί τους αναλυτές να αναρωτιούνται εάν κάποια εταιρεία θα κάνει το πρώτο βήμα.
Εάν μία εταιρεία επιβραδύνει, αυτό δεν σημαίνει απαραίτητα ότι θα επιβραδυνθεί και η κούρσα συνολικά. Οι κινεζικές εταιρείες εμφανίζονται λιγότερο πρόθυμες να διακόψουν ή να επιβραδύνουν την ανάπτυξη.
Ο Amodei έχει, ως εκ τούτου, υποστηρίξει την ανάγκη για περισσότερους ελέγχους και δικλίδες ασφαλείας, μεταξύ άλλων μέσω ανεξάρτητων αξιολογήσεων των μοντέλων, μεγαλύτερου συντονισμού μεταξύ των εταιρειών για τους κινδύνους και διεθνούς συνεργασίας.
Έχει δηλώσει ότι η Anthropic θα προσφέρει σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά της.
Ο Musk πρότεινε μια μηνιαία τηλεδιάσκεψη μεταξύ των εταιρειών, ώστε να ανταλλάσσονται πληροφορίες για τους κινδύνους και τα διδάγματα από την εμπειρία τους.
Η κινεζική κυβέρνηση έχει χαρακτηρίσει τις αμερικανικές «εκκλήσεις για παύση» της ανάπτυξης της AI ως τέχνασμα που θυμίζει τον Ψυχρό Πόλεμο.
Ο πρόεδρος Τραμπ, του οποίου προτεραιότητα είναι η διατήρηση της αμερικανικής τεχνολογικής υπεροχής έναντι της Κίνας, χαρακτήρισε τους φόβους για την AI «φάρσα» και επέκρινε τις εκκλήσεις για αυστηρότερες δικλίδες ασφαλείας γύρω από την τεχνολογία.
Την ίδια στιγμή, ο Jack Clark, συνιδρυτής της Anthropic, δήλωσε στο BBC ότι ενδέχεται πλέον να απαιτείται ένας «διακόπτης τερματισμού», ο οποίος θα μπορεί να ελέγχεται από τρίτο, ανεξάρτητο μέρος.
Ορισμένοι συγκρίνουν το κύμα των προειδοποιήσεων με τις πρώτες ημέρες της πανδημίας Covid-19, όταν τα χειρότερα δυνατά σενάρια αρχικά έμοιαζαν υπερβολικά, πριν η απειλή γίνει πραγματικότητα.
Άλλοι θεωρούν ότι η καταστροφολογική ρητορική μπορεί από μόνη της να προκαλέσει πανικό και να οδηγήσει τις κυβερνήσεις σε ευρείες αποφάσεις που θα βασίζονται σε κινδύνους οι οποίοι δεν έχουν αποδειχθεί.
Η AI δεν είναι ίδια με ένα όπλο μαζικής καταστροφής (WMD), το οποίο μπορεί να απαιτεί εξειδικευμένα υλικά, εγκαταστάσεις, υποδομές, αλυσίδες εφοδιασμού και χρόνο, όπως στην περίπτωση του εμπλουτισμού ουρανίου.
Αντίθετα, η AI απαιτεί μόνο λογισμικό, υπολογιστική ισχύ και τεχνική τεχνογνωσία. Και σε αντίθεση με τα όπλα μαζικής καταστροφής, έχει ήδη διαδοθεί ευρέως.
Ακόμη και αν υπάρξει συμφωνία για επιβράδυνση, οι αναλυτές αναρωτιούνται ποιος θα την επιβάλει.
Εάν οι εταιρείες διστάζουν να πατήσουν φρένο πριν από τους ανταγωνιστές τους και οι κυβερνήσεις απορρίπτουν μια «έκκληση για παύση», μπορεί να μην φτάσουμε καν σε αυτό το σημείο.
Εάν η ανθρωπότητα πρόκειται να δράσει, ο χρόνος είναι κρίσιμος, υποστηρίζει ο Clark.
«Η AI γίνεται ισχυρότερη κάθε μέρα», δήλωσε στο BBC.
«Όταν υπάρχει ένας μικρός αριθμός εταιρειών που μπορούν να την κατασκευάσουν, επειδή εξακολουθεί να είναι πολύ ακριβή, το παράθυρο για δράση είναι τόσο στενό, μόλις λίγα χρόνια.
Βρισκόμαστε τώρα μέσα σε αυτό το παράθυρο και η στιγμή για δράση είναι όταν υπάρχει ένας μικρός αριθμός παικτών στη βιομηχανία. Τότε είναι που μπορείς να δημιουργήσεις ένα καθεστώς πολιτικής και κανόνων που θα μπορεί να αποτρέψει ατυχήματα και να εμποδίσει την τεχνολογία από το να ξεφύγει από τον έλεγχο».