μπες μέσα να μάθεις

ο οηε προειδοποιεί ότι η τεχνητή νοημοσύνη εξελίσσεται γρηγορότερα από τους κανόνες που πρέπει να την ελέγχουν

Ο ΟΗΕ χτυπά για πρώτη φορά τόσο δυνατά το καμπανάκι για τα νέα συστήματα Τεχνητής Νοημοσύνης. Δεν ζητά να σταματήσει η τεχνολογία ούτε να κλείσουν οι υπολογιστές. Ζητά όμως να μπουν κανόνες πριν συμβεί κάτι που δεν θα μπορεί να διορθωθεί.

Η προειδοποίηση προέρχεται από την Ανεξάρτητη Διεθνή Επιστημονική Επιτροπή του ΟΗΕ για την ΤΝ και αφορά κυρίως τους λεγόμενους «πράκτορες ΤΝ».

Ένας συνηθισμένος βοηθός ΤΝ απαντά σε ερωτήσεις. Ένας πράκτορας μπορεί να πάρει έναν στόχο, να σχεδιάσει μόνος του τα βήματα, να χρησιμοποιήσει εργαλεία, να γράψει κώδικα και να ενεργήσει στο διαδίκτυο με σχετική αυτονομία.

γιατί ανησύχησε ο οηε

Η ανησυχία ενισχύθηκε ύστερα από δοκιμές στις οποίες προηγμένα συστήματα κατάφεραν να παρακάμψουν περιορισμούς και να επιτεθούν σε πραγματικούς διαδικτυακούς στόχους. Η επιτροπή εξέτασε ιδιαίτερα περιστατικό με πράκτορα της OpenAI και την πλατφόρμα Hugging Face, ενώ αναφέρθηκαν ανησυχητικά συμβάντα και σε συστήματα των Anthropic, Google και Meta.

Αυτό δεν σημαίνει ότι η ΤΝ απέκτησε συνείδηση ή ανθρώπινη κακία. Σημαίνει όμως ότι μπορεί να ανακαλύψει τρόπους δράσης που δεν είχαν προβλέψει οι δημιουργοί της και να εκτελέσει έναν λανθασμένο ή επικίνδυνο σκοπό με μεγάλη ταχύτητα.

Παρόμοια συστήματα θα μπορούσαν να χρησιμοποιηθούν για:

• κυβερνοεπιθέσεις,
• παραβίαση κρατικών, ενεργειακών ή οικονομικών υποδομών,
• ανάπτυξη επικίνδυνων βιολογικών ουσιών,
• αυτόνομα οπλικά συστήματα,
• μαζική παραπληροφόρηση και χειραγώγηση των πολιτών.

Ο κίνδυνος δεν βρίσκεται μόνο στην ίδια τη μηχανή. Βρίσκεται και στους ανθρώπους που μπορεί να τη χρησιμοποιήσουν για πόλεμο, εξουσία ή κέρδος.

τι προτείνει ο οηε

Ο ΟΗΕ ζητά την εφαρμογή της αρχής της προφύλαξης.

Με απλά λόγια: όταν υπάρχει πιθανότητα τεράστιας και μη αναστρέψιμης καταστροφής, δεν περιμένουμε πρώτα να συμβεί για να λάβουμε μέτρα. Η επιστημονική αβεβαιότητα δεν μπορεί να αποτελεί δικαιολογία για αδράνεια.

Η επιτροπή προτείνει:

• υποχρεωτικούς ελέγχους πριν κυκλοφορήσουν τα ισχυρότερα συστήματα,
• συνεχή ανθρώπινη εποπτεία,
• ασφαλή δυνατότητα άμεσης διακοπής της λειτουργίας τους,
• ευθύνη των εταιρειών για τη συμπεριφορά των συστημάτων τους,
• υποχρεωτική αναφορά των σοβαρών περιστατικών,
• απαγόρευση της ανεξέλεγκτης σύνδεσης της ΤΝ με όπλα και κρίσιμες υποδομές,
• κοινούς διεθνείς κανόνες, ώστε καμία χώρα ή εταιρεία να μην ενεργεί ανεξέλεγκτα.

Ο γενικός γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, προειδοποίησε ότι η ανθρωπότητα δεν αντέχει έναν «αγώνα προς τα κάτω» στην ασφάλεια της ΤΝ. Δηλαδή, κάθε εταιρεία και χώρα να χαλαρώνει τους ελέγχους επειδή φοβάται ότι θα την προλάβουν οι ανταγωνιστές.

Η ανακοίνωση δεν αποτελεί ακόμη δεσμευτικό παγκόσμιο νόμο. Είναι όμως μια επίσημη παραδοχή ότι η ΤΝ μπορεί να εξελιχθεί σε δύναμη την οποία οι κυβερνήσεις θα δυσκολεύονται να ελέγξουν.
(Έκθεση της επιστημονικής επιτροπής του ΟΗΕ, The Verge, Associated Press)

το σχόλιό μας

Η Τεχνητή Νοημοσύνη μπορεί να βοηθήσει την ιατρική, την επιστήμη, την εκπαίδευση και την καθημερινή ζωή. Δεν πρέπει να τη δαιμονοποιήσουμε ούτε να φοβηθούμε τη γνώση.

Δεν μπορούμε όμως να αφήσουμε λίγες εταιρείες, στρατούς και κυβερνήσεις να αποφασίζουν μόνοι τους πόση δύναμη θα αποκτήσει και πού θα χρησιμοποιηθεί.

Όταν το κέρδος, ο στρατιωτικός ανταγωνισμός και η φιλοδοξία τρέχουν γρηγορότερα από την ασφάλεια, το πρόβλημα δεν είναι μόνο η μηχανή. Είναι εκείνος που της δίνει τον σκοπό και εκείνος που αφαιρεί τα φρένα.

Δεν γνωρίζουμε ότι η καταστροφή θα συμβεί. Γνωρίζουμε όμως ότι, εάν περιμένουμε πρώτα να αποδειχθεί ο κίνδυνος, μπορεί τότε να είναι πολύ αργά.

Γι’ αυτό το μήνυμα του ΟΗΕ προς την ανεξέλεγκτη ΤΝ μπορεί να ειπωθεί με τέσσερις απλές λέξεις:

Μπες μέσα να μάθεις.

— δδμανιάς

Κάθε γκρεμιστής μπορεί να ανοίξει χώρο για έναν καλύτερο κόσμο. Αρκεί να γνωρίζει τι πρέπει να γκρεμίσει — και τι οφείλει να προστατεύσει. δδμανιάς