κάποτε ο αριστοτέλης αναρωτήθηκε πώς μπορεί μια κοινωνία να εμποδίσει εκείνον που κυβερνά να γίνει τύραννος.
πέρασαν είκοσι τέσσερις αιώνες.
άλλαξαν οι αυτοκρατορίες.
άλλαξαν τα καράβια.
άλλαξαν οι μηχανές.
η ερώτηση όμως έμεινε η ίδια.
μόνο που σήμερα δεν αφορά μόνο τους κυβερνήτες.
αφορά και την τεχνητή νοημοσύνη.
πολλοί άνθρωποι φοβούνται ότι οι μηχανές θα γίνουν εξυπνότερες από εμάς.
άλλοι πιστεύουν ότι θα μας πάρουν τις δουλειές.
άλλοι ότι θα γράφουν βιβλία, ποιήματα και μουσική καλύτερα από τον άνθρωπο.
ίσως όμως αυτά να μην είναι τα πιο σημαντικά ερωτήματα.
η τεχνητή νοημοσύνη δεν είναι ένας άνθρωπος.
δεν έχει συνείδηση.
δεν έχει μνήμη παιδικών χρόνων.
δεν έχει πατρίδα.
δεν έχει αγάπη.
δεν έχει φόβο για τον θάνατο.
γνωρίζει πολλά.
καταλαβαίνει λίγα.
μπορεί να περιγράψει ένα ηλιοβασίλεμα.
δεν μπορεί να περιμένει μια ζωή έναν άνθρωπο να γυρίσει από το πέλαγος.
μπορεί να αναλύσει χιλιάδες βιβλία.
δεν μπορεί να κλάψει πάνω από έναν τάφο.
μπορεί να απαντήσει σε μια ερώτηση μέσα σε λίγα δευτερόλεπτα.
δεν μπορεί να νιώσει γιατί μια μάνα αγωνιά για το παιδί της.
κι όμως η δύναμή της μεγαλώνει κάθε μέρα.
πολλοί νομίζουν ότι η τεχνητή νοημοσύνη γνωρίζει τα πάντα.
δεν είναι αλήθεια.
γνωρίζει μόνο όσα της επιτρέπεται να γνωρίζει.
άλλο πράγμα είναι τα δημόσια βιβλία, οι εφημερίδες και οι επιστημονικές μελέτες.
άλλο πράγμα είναι οι ιδιωτικοί φάκελοι των πολιτών, τα εμπορικά μυστικά των επιχειρήσεων ή τα απόρρητα έγγραφα των κρατών.
η μηχανή δεν αποκτά από μόνη της πρόσβαση σε αυτά.
κάποιος πρέπει να της την δώσει.
κι εδώ αρχίζει η μεγάλη συζήτηση.
όχι αν η τεχνητή νοημοσύνη θα γίνει παντογνώστης.
αλλά ποιος θα ελέγχει τις μηχανές που θα έχουν πρόσβαση σε τεράστιες ποσότητες πληροφοριών.
ο αριστοτέλης δεν φοβόταν τη γνώση.
φοβόταν την ανεξέλεγκτη εξουσία.
γνώριζε ότι κάθε δύναμη χρειάζεται όρια.
κάθε εξουσία χρειάζεται έλεγχο.
κάθε άνθρωπος χρειάζεται λογοδοσία.
το ίδιο ισχύει και σήμερα.
αν μια κυβέρνηση χρησιμοποιεί τεχνητή νοημοσύνη για να παρακολουθεί τους πολίτες της, το πρόβλημα δεν είναι η μηχανή.
αν μια πολυεθνική χρησιμοποιεί τεχνητή νοημοσύνη για να γνωρίζει περισσότερα για τους ανθρώπους απ’ όσα γνωρίζουν οι ίδιοι για τον εαυτό τους, το πρόβλημα δεν είναι η μηχανή.
αν ένα σύστημα αποφασίζει ποιος θα πάρει δάνειο, ποιος θα προσληφθεί ή ποιος θα θεωρηθεί ύποπτος, το πρόβλημα δεν είναι η μηχανή.
το πρόβλημα είναι ποιος έγραψε τους κανόνες.
η τεχνητή νοημοσύνη μπορεί ακόμη και να επαναλάβει ένα ψέμα.
όχι επειδή θέλει να εξαπατήσει.
αλλά επειδή δεν διαθέτει κρίση όπως ο άνθρωπος.
δεν γνωρίζει τι είναι αλήθεια και τι είναι ψέμα όπως το αντιλαμβάνεται η ανθρώπινη συνείδηση.
αναγνωρίζει μόνο μοτίβα και πιθανότητες.
γι’ αυτό η μεγαλύτερη ευθύνη δεν ανήκει στις μηχανές.
ανήκει σε εμάς.
η ιστορία μάς δίδαξε ότι ούτε το βιβλίο, ούτε η πυξίδα, ούτε η ατμομηχανή, ούτε ο ηλεκτρισμός ήταν καλοί ή κακοί από μόνοι τους.
όλα εξαρτήθηκαν από τα χέρια που τα χρησιμοποίησαν.
το ίδιο θα συμβεί και με την τεχνητή νοημοσύνη.
ίσως λοιπόν το πραγματικό ερώτημα του 21ου αιώνα να μην είναι αν οι μηχανές θα μάθουν να σκέφτονται.
αλλά αν οι άνθρωποι θα συνεχίσουν να σκέφτονται μόνοι τους.
γιατί αν κάποτε οι μηχανές αποκτήσουν όλη τη γνώση του κόσμου και οι άνθρωποι χάσουν την κρίση, την ανθρωπιά και την ελευθερία τους, τότε το πρόβλημα δεν θα είναι η τεχνολογία.
θα είναι ο άνθρωπος.
κι ο αριστοτέλης, αν περπατούσε σήμερα ανάμεσά μας, ίσως να μας θύμιζε κάτι απλό:
δεν πρέπει να φοβόμαστε τη γνώση. πρέπει να φοβόμαστε την εξουσία που μένει χωρίς έλεγχο.
γράφει ο νιόνιος ο μανιάς του μήδη
«το “καπηλειό” των χαΐνηδων μοιάζει με μια στάση σε παλιό λιμάνι. εκεί όπου οι άνθρωποι αφήνουν για λίγο τις βεβαιότητές τους και πιάνουν κουβέντα με τα όνειρα, τις ήττες και τις ελπίδες τους. δεν είναι τραγούδι για το κρασί και τα τραπέζια. είναι τραγούδι για την παρέα, τη μνήμη και την ανάγκη του ανθρώπου να βρίσκει καταφύγιο ο ένας στον άλλον. γιατί, όσο αλλάζουν οι καιροί, πάντα θα υπάρχει ένα καπηλειό κάπου μέσα μας, όπου η ψυχή ζητά να ξαποστάσει.»
