προφανής: μεγαλύτερη αποδοτικότητα, χαμηλότερο κόστος και, σε ορισμένες περιπτώσεις, λιγότεροι εργαζόμενοι. Για τα άτομα, η υπόσχεση είναι ακόμη πιο δελεαστική. Γιατί να πληρώσει κανείς έναν δικηγόρο, γιατρό, λογιστή ή χρηματοοικονομικό σύμβουλο όταν μια μηχανή μπορεί να δώσει μια απάντηση μέσα σε λίγα δευτερόλεπτα;
Όμως αυτή η οπτική παραβλέπει το κεντρικό ερώτημα. Το πραγματικό ζήτημα δεν είναι αν η τεχνητή νοημοσύνη μπορεί να παρέχει πληροφορίες. Είναι σαφές ότι μπορεί. Το ζήτημα είναι αν οι άνθρωποι μπορούν να κρίνουν την ποιότητα των πληροφοριών που λαμβάνουν.
Σε μια εποχή ευρείας χρήσης της τεχνητής νοημοσύνης, η καθοριστική δεξιότητα του μέλλοντος ίσως είναι η ικανότητα να ξεχωρίζουμε την καλή πληροφορία από την κακή.
Η σύγχρονη κοινωνία είναι χτισμένη πάνω στην εξειδίκευση. Κανείς μας δεν μπορεί να γνωρίζει τα πάντα. Η οικονομία είναι οργανωμένη γύρω από το απλό γεγονός ότι η γνώση είναι υπερβολικά εκτεταμένη για να την κατακτήσει ένα μόνο άτομο. Βασιζόμαστε στους γιατρούς επειδή δεν μπορούμε όλοι να σπουδάσουμε ιατρική. Συμβουλευόμαστε δικηγόρους επειδή τα νομικά συστήματα είναι πυκνά και τεχνικά. Προσλαμβάνουμε χρηματοοικονομικούς συμβούλους επειδή οι αγορές είναι σύνθετες και το κόστος ενός λάθους μπορεί να είναι υψηλό. Η εξειδίκευση δεν είναι πολυτέλεια στη σύγχρονη ζωή. Είναι μία από τις βασικές δομές που επιτρέπουν στην κοινωνία να λειτουργεί.
Η τεχνητή νοημοσύνη φαίνεται να αμφισβητεί αυτή τη δομή. Δίνει σε όλους πρόσβαση σε κάτι που ακούγεται σαν ειδικός σχεδόν σε κάθε πεδίο. Αυτό είναι που την καθιστά τόσο ισχυρή. Μπορεί να μειώσει τα εμπόδια στην πρόσβαση στη γνώση, να διευρύνει την πρόσβαση σε υπηρεσίες και να βοηθήσει τους ανθρώπους να λαμβάνουν καλύτερες αποφάσεις. Αλλά γι’ αυτόν ακριβώς τον λόγο είναι και επικίνδυνη. Τα συστήματα αυτά δεν παρέχουν απλώς απαντήσεις. Παρέχουν απαντήσεις με ευχέρεια, αυτοπεποίθηση και συχνά πειστικότητα, ακόμη κι όταν κάνουν λάθος.
Η εμπιστοσύνη, όμως, ήταν πάντα συνδεδεμένη με τη γνώση. Ένας εκπαιδευμένος μαθηματικός θα απορρίψει αμέσως τον ισχυρισμό ότι μια απλή γραμμική εξίσωση μπορεί να έχει πολλαπλές λύσεις. Κάποιος που δεν έχει έρθει ποτέ σε επαφή με τα μαθηματικά μπορεί να αποδεχθεί τον ίδιο ισχυρισμό, αν αυτός παρουσιαστεί με αρκετή αυτοπεποίθηση. Η διαφορά δεν είναι η πρόσβαση στην πληροφορία, αλλά η ικανότητα αξιολόγησής της.
Αυτή η διάκριση θα έχει τεράστια σημασία σε μια κοινωνία που κινείται από την τεχνητή νοημοσύνη. Οι κερδισμένοι δεν θα είναι απλώς όσοι έχουν πρόσβαση στα πιο προηγμένα εργαλεία. Η πρόσβαση πιθανότατα θα γίνει ευρεία και φθηνή. Οι κερδισμένοι θα είναι όσοι γνωρίζουν πώς να χρησιμοποιούν αυτά τα εργαλεία κριτικά. Θα ξέρουν πότε μια απάντηση είναι εύλογη, πότε είναι ελλιπής, πότε είναι παραπλανητική και πότε εξακολουθεί να χρειάζεται ένας ανθρώπινος ειδικός. Θα ξέρουν πώς να θέτουν καλύτερα ερωτήματα, να ελέγχουν υποθέσεις, να συγκρίνουν πηγές και να αναγνωρίζουν την ανοησία όταν μεταμφιέζεται σε ευφυΐα.
Ο κίνδυνος, λοιπόν, δεν είναι ένας κόσμος χωρίς ειδικούς. Είναι ένας κόσμος στον οποίο η εξειδίκευση γίνεται δυσκολότερο να αναγνωριστεί. Αν οι άνθρωποι συγχέουν την εικόνα της ευφυΐας με την ίδια την ευφυΐα, μπορεί να αρχίσουν να υποκαθιστούν την επαγγελματική κρίση με την αυτοπεποίθηση που παράγει η τεχνητή νοημοσύνη. Μπορεί να επενδύσουν τις αποταμιεύσεις τους με βάση γενικές χρηματοοικονομικές συμβουλές, να ερμηνεύσουν ιατρικά συμπτώματα χωρίς το αναγκαίο πλαίσιο ή να χειριστούν νομικές διαφορές με βεβαιότητα παραγόμενη από μια μηχανή. Σε τέτοιες περιπτώσεις, η τεχνητή νοημοσύνη δεν καταργεί την εξειδίκευση. Θολώνει το όριο ανάμεσα στην εξειδίκευση και τη μίμησή της.
Αυτό θα μπορούσε να βαθύνει τις ανισότητες. Μια καλά μορφωμένη επαγγελματίας μπορεί να χρησιμοποιήσει την τεχνητή νοημοσύνη ως πολλαπλασιαστή. Μπορεί να αμφισβητήσει το αποτέλεσμα, να βελτιώσει τον συλλογισμό του και να εντοπίσει τα λάθη του. Ένας λιγότερο μορφωμένος χρήστης μπορεί να αντιμετωπίσει το ίδιο σύστημα ως αυθεντία. Ο ένας αποκτά μόχλευση. Ο άλλος εξάρτηση. Η ίδια τεχνολογία μπορεί επομένως να ενδυναμώσει όσους είναι ήδη εξοπλισμένοι να αξιολογούν πληροφορίες, ενώ καθιστά άλλους πιο ευάλωτους στην πειθώ, στη χειραγώγηση και στο λάθος.
Γι’ αυτό η άνοδος της τεχνητής νοημοσύνης απαιτεί μια βαθιά αναθεώρηση της εκπαίδευσης. Η απάντηση δεν είναι απλώς «περισσότερη εκπαίδευση» με τη στενή έννοια των περισσότερων χρόνων σε αίθουσες διδασκαλίας ή των περισσότερων πτυχίων. Είναι ένα διαφορετικό είδος εκπαίδευσης: μια εκπαίδευση με επίκεντρο την κρίση. Οι μαθητές πρέπει να εκπαιδεύονται όχι μόνο να απορροφούν πληροφορίες, αλλά να τις ανακρίνουν. Πρέπει να μάθουν να σκέφτονται με βάση τα τεκμήρια, να κατανοούν την αβεβαιότητα, να αξιολογούν πηγές, να αναγνωρίζουν εσφαλμένα επιχειρήματα και να αναθεωρούν τις απόψεις τους όταν αλλάζουν τα δεδομένα.
Στο παρελθόν, η εκπαίδευση αντιμετωπιζόταν συχνά ως προετοιμασία για ένα επάγγελμα. Ένας άνθρωπος μάθαινε ένα σώμα γνώσεων, εισερχόταν σε έναν εξειδικευμένο κλάδο και βασιζόταν σε αυτή την κατάρτιση σε όλη τη διάρκεια της καριέρας του. Στην εποχή της τεχνητής νοημοσύνης, η εκπαίδευση πρέπει επίσης να γίνει προετοιμασία για μόνιμη πνευματική αυτοάμυνα. Το κεντρικό ερώτημα δεν θα είναι πλέον μόνο: «Γνωρίζεις την απάντηση;» Θα είναι όλο και περισσότερο: «Μπορείς να αξιολογήσεις την απάντηση που σου δόθηκε;»
Αυτό απαιτεί κάτι περισσότερο από τεχνολογικές δεξιότητες. Απαιτεί στατιστική και επιστημονική γνώση σε βάθος, καθώς και κοινωνική και ηθική συνείδηση. Απαιτεί τις νοητικές συνήθειες που επιτρέπουν στους ανθρώπους να ζουν υπεύθυνα σε έναν κόσμο που ξεχειλίζει από ισχυρισμούς. Απαιτεί σκεπτικισμό χωρίς κυνισμό, ανοιχτότητα χωρίς ευπιστία και αυτοπεποίθηση χωρίς αλαζονεία. Αυτές δεν είναι ήπιες δεξιότητες. Είναι δεξιότητες επιβίωσης. Οι θεσμοί που απειλούνται περισσότερο από την τεχνητή νοημοσύνη ίσως να μην είναι τα δικηγορικά γραφεία, τα νοσοκομεία ή τα πανεπιστήμια. Ίσως να είναι οι συνήθειες σκέψης που επιτρέπουν σε μια δημοκρατική κοινωνία να λειτουργεί. Αν οι πολίτες δεν μπορούν να διακρίνουν το τεκμήριο από τον ισχυρισμό, την εξειδίκευση από την επίδοσή της ή τη γνώση από την εύγλωττη μίμησή της, η τεχνητή νοημοσύνη δεν θα δημιουργήσει ένα πιο ενημερωμένο κοινό. Θα δημιουργήσει ένα κοινό πιο εύκολα χειραγωγήσιμο.
Το παράδοξο της τεχνητής νοημοσύνης είναι ότι όσο ευκολότερο γίνεται να λάβει κανείς μια απάντηση, τόσο σημαντικότερο γίνεται να ξέρει πώς πρέπει να την κρίνει. Η αφθονία πληροφορίας δεν καταργεί την ανάγκη για διάκριση· αυξάνει το κόστος της απουσίας της. Σε έναν κόσμο όπου πειστικές εξηγήσεις μπορούν να παραχθούν ακαριαία, η εκπαίδευση δεν μπορεί να περιορίζεται στη συσσώρευση γνώσης. Πρέπει να καλλιεργεί την ικανότητα να αμφισβητούμε ισχυρισμούς που μοιάζουν με γνώση.
Το μέλλον δεν θα ανήκει σε όσους απλώς έχουν πρόσβαση στην τεχνητή νοημοσύνη. Θα ανήκει σε όσους ξέρουν πώς να την αμφισβητούν.
Η δεξιότητα του μέλλοντος δεν είναι ο προγραμματισμός, η τέχνη των εντολών ή ακόμη και η τεχνολογική ευχέρεια. Είναι η κρίση.Η ικανότητα να ξεχωρίζουμε την καλή πληροφορία από την κακή. Και αν δεν οικοδομήσουμε ένα εκπαιδευτικό σύστημα ικανό να διδάξει αυτή τη δεξιότητα σε μεγάλη κλίμακα, η τεχνητή νοημοσύνη δεν θα κάνει την κοινωνία σοφότερη. Απλώς θα κάνει την άγνοια πιο αποτελεσματική.
* Έκτωρ Τζαβέλλας Επίκουρος Καθηγητής Οικονομικών Department of Economics Virginia Tech