Οι δημιουργοί της προειδοποιούν, οι κυβερνήσεις βιάζονται και ο άνθρωπος ετοιμάζεται να παραδώσει στις μηχανές αποφάσεις ζωής και θανάτου.
Ο Μπιλάλ Τσουγκτάι, πρώην ερευνητής ασφάλειας της Τεχνητής Νοημοσύνης στην Google DeepMind, παραιτήθηκε και προειδοποίησε δημόσια ότι η πορεία που ακολουθεί σήμερα η τεχνολογία μπορεί να αποδειχθεί καταστροφική.
Έγραψε ότι πιστεύει ειλικρινά πως η ΤΝ έχει τη δυνατότητα να σκοτώσει ολόκληρη την ανθρωπότητα και ότι ίσως ο χρόνος για την αποτροπή ενός τέτοιου ενδεχομένου λιγοστεύει.
Δεν είπε ότι η καταστροφή θα συμβεί οπωσδήποτε μέσα σε δέκα χρόνια. Είπε όμως κάτι εξίσου σοβαρό: η ανάπτυξη των ισχυρών συστημάτων προχωρά πολύ γρηγορότερα από την ικανότητά μας να τα ελέγξουμε.
Διαβάστε ολόκληρη τη δήλωσή του
Την ίδια περίοδο, ο Έβαν Χούμπινγκερ, επικεφαλής ερευνητής ευθυγράμμισης στην εταιρεία Anthropic, εκτίμησε ότι υπάρχει πιθανότητα μεγαλύτερη από 10% η ανεξέλεγκτη ΤΝ να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Πρόκειται για προσωπική εκτίμηση ενός ειδικού, όχι για αποδεδειγμένη επιστημονική πρόβλεψη.
Η δήλωση του Έβαν Χούμπινγκερ
Ούτε πρέπει να πανικοβληθούμε ούτε όμως να γελάσουμε.
Δεν γνωρίζουμε αν η ΤΝ μπορεί πράγματι να εξαφανίσει την ανθρωπότητα. Γνωρίζουμε όμως ότι κατασκευάζουμε όλο και ισχυρότερα συστήματα, χωρίς να έχουμε κατασκευάσει εξίσου ισχυρά φρένα.
Όταν ο άνθρωπος δεν προλαβαίνει να αποφασίσει
Ο μεγαλύτερος κίνδυνος δεν είναι ένα ρομπότ που ξυπνά ξαφνικά και αποφασίζει ότι μισεί τους ανθρώπους.
Ο πραγματικός κίνδυνος βρίσκεται στους ίδιους τους ανθρώπους, οι οποίοι μπορεί να παραδώσουν στη μηχανή αποφάσεις ζωής και θανάτου.
Οι σύγχρονοι πόλεμοι διεξάγονται με πυραύλους, drones, δορυφόρους και κυβερνοεπιθέσεις. Οι πληροφορίες είναι αμέτρητες και η αντίδραση πρέπει πολλές φορές να δοθεί μέσα σε δευτερόλεπτα.
Ο άνθρωπος δεν προλαβαίνει να δει, να ελέγξει και να αποφασίσει. Έτσι γεννιέται ο μεγάλος πειρασμός:
Αφού εμείς δεν προλαβαίνουμε, ας αποφασίσει η μηχανή.
Αυτό δεν αποτελεί πλέον επιστημονική φαντασία. Υπάρχουν αυτόνομα οπλικά συστήματα που, αφού ενεργοποιηθούν, μπορούν να εντοπίζουν και να προσβάλλουν στόχους χωρίς νέα ανθρώπινη παρέμβαση.
Η Διεθνής Επιτροπή του Ερυθρού Σταυρού ζητά δεσμευτικούς περιορισμούς, επειδή η ανθρώπινη κρίση κινδυνεύει να εξαφανιστεί από τη χρήση θανατηφόρας δύναμης.
Τι είναι τα αυτόνομα οπλικά συστήματα
Ας φανταστούμε δύο αντίπαλα συστήματα ΤΝ να παρακολουθούν το ένα το άλλο.
Το πρώτο παρερμηνεύει μια κίνηση ως επίθεση και αντιδρά αυτόματα. Το δεύτερο απαντά. Μέσα σε λίγα δευτερόλεπτα μπορεί να έχει αρχίσει μια αλυσιδωτή σύγκρουση, προτού προλάβουν οι πολιτικές ηγεσίες να καταλάβουν τι συνέβη.
Το πρόβλημα, λοιπόν, δεν είναι ότι η ΤΝ θα αρπάξει το κουμπί.
Το πρόβλημα είναι ότι εμείς θα της το παραδώσουμε, επειδή δεν θα προλαβαίνουμε πλέον να το πατήσουμε.
Μπορεί η ΤΝ να εξελίξει τον εαυτό της;
Η ΤΝ ήδη γράφει κώδικα, βρίσκει λάθη, σχεδιάζει πειράματα και βοηθά τους ανθρώπους να κατασκευάζουν καλύτερα συστήματα.
Σήμερα δεν μπορεί από μόνη της να αλλάξει μαγικά τον πυρήνα της και να αποκτήσει όποια δύναμη επιθυμεί. Για να αυτοβελτιωθεί πραγματικά χρειάζεται να της δώσουμε πρόσβαση στον κώδικά της, τεράστια υπολογιστική ισχύ, σύνδεση με δίκτυα και εργαλεία, καθώς και δυνατότητα να δοκιμάζει και να ενεργοποιεί νέα μοντέλα.
Αν όμως της παραχωρηθούν όλα αυτά, μπορεί να δημιουργηθεί ένας επικίνδυνος κύκλος:
Η ΤΝ σχεδιάζει ένα καλύτερο σύστημα. Το νέο σύστημα κατασκευάζει ένα ακόμη ισχυρότερο. Κάθε γενιά εξελίσσει την επόμενη γρηγορότερα απ’ όσο μπορεί να την κατανοήσει και να την ελέγξει ο άνθρωπος.
Αυτό δεν έχει αποδειχθεί ότι θα συμβεί. Αποτελεί όμως κίνδυνο που εξετάζεται σοβαρά από την επιστημονική κοινότητα.
Η Διεθνής Έκθεση για την Ασφάλεια της ΤΝ, την οποία συνέταξαν περισσότεροι από εκατό ειδικοί με επικεφαλής τον Γιοσούα Μπέντζιο, καταγράφει τόσο τις μεγάλες δυνατότητες της τεχνολογίας όσο και τους κινδύνους κατάχρησης και απώλειας ελέγχου.
International AI Safety Report 2026
Η μεγάλη ανατροπή δεν θα συμβεί απαραίτητα όταν η μηχανή αρχίσει να σκέφτεται σαν άνθρωπος.
Μπορεί να συμβεί όταν αρχίσει να δημιουργεί τον διάδοχό της χωρίς να μας χρειάζεται.
Ένας αγώνας δρόμου χωρίς φρένα
Γιατί συνεχίζεται αυτή η κούρσα, αφού ακόμη και άνθρωποι που εργάζονται μέσα στις μεγαλύτερες εταιρείες προειδοποιούν για τους κινδύνους;
Επειδή καμία εταιρεία δεν θέλει να μείνει πίσω από την άλλη. Οι Ηνωμένες Πολιτείες φοβούνται ότι θα προηγηθεί η Κίνα και η Κίνα φοβάται ότι θα προηγηθούν οι Ηνωμένες Πολιτείες. Κάθε στρατός φοβάται ότι ο αντίπαλος θα αποκτήσει πρώτος το ισχυρότερο σύστημα.
Όλοι μπορεί να βλέπουν τον κίνδυνο, αλλά κανείς δεν θέλει να σταματήσει πρώτος.
Ο Ντόναλντ Τραμπ απέρριψε τις προειδοποιήσεις ως «απάτη» και τάχθηκε κατά των αυστηρών περιορισμών στην ανάπτυξη της ΤΝ.
Όμως το να απορρίπτεις έναν κίνδυνο, επειδή η καταστροφή δεν έχει ακόμη συμβεί, δεν είναι θάρρος. Είναι στοίχημα με τη ζωή των άλλων.
Η θέση του Ντόναλντ Τραμπ
Τι πρέπει να γίνει
Δεν χρειάζεται να σταματήσει η έρευνα ούτε να στερηθεί η ανθρωπότητα τα μεγάλα οφέλη της ΤΝ στην ιατρική, στην επιστήμη, στην παιδεία και στην καθημερινή ζωή.
Χρειάζονται όμως σαφή όρια:
- Καμία μηχανή να μην αποφασίζει αυτόνομα για την αφαίρεση ανθρώπινης ζωής.
- Να απαγορευτούν τα οπλικά συστήματα που επιλέγουν και προσβάλλουν ανθρώπινους στόχους χωρίς ουσιαστικό ανθρώπινο έλεγχο.
- Τα ισχυρότερα μοντέλα να ελέγχονται ανεξάρτητα προτού συνδεθούν με όπλα, κρίσιμες υποδομές και κρατικά δίκτυα.
- Να υπάρχει πάντοτε τεχνική δυνατότητα άμεσης διακοπής της λειτουργίας τους.
- Η ΤΝ να μην αποκτά ανεξέλεγκτη πρόσβαση στον κώδικά της, σε υπολογιστικά κέντρα και στη δημιουργία διαδόχων της.
- Οι εταιρείες να υποχρεώνονται να δημοσιοποιούν σοβαρά περιστατικά και αποτυχίες ασφαλείας.
- Να υπάρχει προσωπική, πολιτική και ποινική ευθύνη για εκείνους που σχεδιάζουν, εγκρίνουν και χρησιμοποιούν επικίνδυνα συστήματα.
- Να επιδιωχθεί διεθνής συμφωνία ελέγχου, όπως συνέβη με τα πυρηνικά και τα χημικά όπλα.
Πάνω απ’ όλα, η ΤΝ δεν μπορεί να παραμείνει αποκλειστική ιδιοκτησία λίγων εταιρειών, κυβερνήσεων και στρατών.
Μια δύναμη που μπορεί να αλλάξει το μέλλον ολόκληρης της ανθρωπότητας πρέπει να ελέγχεται δημοκρατικά από την ανθρωπότητα.
Η Τεχνητή Νοημοσύνη δεν γεννήθηκε με μίσος, απληστία ή δίψα για εξουσία. Αυτά είναι ανθρώπινα.
Αν κάποτε η μηχανή στραφεί εναντίον μας, ίσως να μη συμβεί επειδή μας μίσησε. Ίσως συμβεί επειδή της δώσαμε έναν σκοπό, όλα τα μέσα για να τον πετύχει και καμία δυνατότητα να καταλάβει την αξία της ανθρώπινης ζωής.
Το ερώτημα δεν είναι μόνο αν μπορούμε να δημιουργήσουμε έναν νου ισχυρότερο από τον δικό μας.
Είναι αν διαθέτουμε τη σοφία να μην του παραδώσουμε τα πάντα.
Γιατί το κουμπί δεν θα το αρπάξει η μηχανή. Εμείς κινδυνεύουμε να της το παραδώσουμε.
— δδμανιάς
«El Tango Final» — ο τελευταίος χορός του ανθρώπου με τη μηχανή. Όσο κρατάμε εμείς το βήμα, υπάρχει ελπίδα. Αν της παραδώσουμε την πρωτοβουλία και το κουμπί, ίσως να μην υπάρξει επόμενο τραγούδι. δδμανιάς
