Πολλοί ερευνητές Τεχνητής Νοημοσύνης πιστεύουν ότι η «αυτοβελτιούμενη υπερνοημοσύνη» θα μπορούσε να καταστρέψει τον άνθρωπο

«Κινούνται με ταχύτητα προς την "αυτοβελτιούμενη υπερνοημοσύνη" και παίζουν με τις ζωές μας», έγραψε ο Τζέικομπ Κόξον, σε μια σειρά αναρτήσεων στο X.

    Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας AI. Σύντομα, αυτά θα είναι υπεράνθρωπα συστήματα που θα μπορούν να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα από τη μια μέρα στην άλλη και να αποκτήσουν πραγματική δύναμη και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε κάθε έναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται.

 Ένας ερευνητής της Anthropic παραιτήθηκε, φοβούμενος ότι η ανεξέλεγκτη ανάπτυξη μοντέλων τεχνητής νοημοσύνης με δυνατότητα αυτοβελτίωσης θα καταλήξει να μας εξολοθρεύσει όλους.

Ο Τζέικομπ Κόξον, ερευνητής δήλωσε σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης την Τρίτη το βράδυ ότι πέρασε τα τελευταία τρία χρόνια εργαζόμενος σε έρευνα προ-εκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic, κατηγόρησε τις εταιρείες ότι δεν ενήργησαν υπεύθυνα. Είπε ότι οι άνθρωποι που αγωνίζονται να κατασκευάσουν αυτήν την τεχνολογία «πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

«Τρέχουν κατευθείαν στην αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», έγραψε ο Τζέικομπ Κόξον σε ένα νήμα στο X.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Ο Κόξον εντάσσεται σε μια αυξανόμενη αντίδραη στον κλάδο που ζητά επιβράδυνση προτού η τεχνολογία Τεχνητής Νοημοσύνης μάθει να βελτιώνεται — ένα ορόσημο που πολλοί πιστεύουν ότι θα τερματίσει τον ανθρώπινο έλεγχο επί της τεχνητής νοημοσύνης. 

Η δημόσια παραίτηση έρχεται εν μέσω αυξανόμενης πίεσης από τους υπεύθυνους χάραξης πολιτικής και τους εμπλεκόμενους στον κλάδο να επιβραδύνουν την ανάπτυξη της Τεχνητής Νοημοσύνης, μετά από αρκετά περιστατικά που αφορούσαν πράκτορες της Τεχνητής Νοημοσύνης που έβγαιναν από τα sandbox τους και είχαν πρόσβαση στο ανοιχτό διαδίκτυο.

Το πιο σοβαρό μέχρι στιγμής ήταν η παραβίαση των διακομιστών του Hugging Face από συστήματα OpenAI , ένα συμβάν που οι ερευνητές λένε ότι παραμένει ελάχιστα κατανοητό, εν μέρει λόγω της περιορισμένης φύσης των ανεξάρτητων ερευνών για το περιστατικό. Την ίδια περίπου εποχή, οι πράκτορες τεχνητής νοημοσύνης της Anthropic έφτασαν επίσης σε συστήματα εκτός των περιβαλλόντων δοκιμών τους, μετά από λανθασμένες ρυθμίσεις στις αξιολογήσεις ασφαλείας που διεξήχθησαν από τρίτο μέρος, οι οποίες τους έδωσαν ακούσια διαδρομές προς το διαδίκτυο.

Η Anthropic δεν απάντησε αμέσως σε αίτημα για σχολιασμό της παραίτησης.

Ακολουθεί η υπόλοιπη προειδοποίηση και η έκκληση για δράση του Coxon: 

«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Σύντομα, αυτά θα είναι υπεράνθρωπα συστήματα που θα μπορούν να χακάρουν οτιδήποτε, να φέρουν επανάσταση σε οποιονδήποτε τομέα από τη μια μέρα στην άλλη και να αποκτήσουν πραγματική δύναμη και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε κάθε έναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται.

Οι άνθρωποι που κατασκευάζουν την Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι κάποιο διαφημιστικό κόλπο. Αν μη τι άλλο, πολλά στελέχη και ανώτεροι ερευνητές θα διατυπώσουν τις διατυπώσεις τους στον Τύπο ώστε να ακούγονται λογικές — αλλά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο κατ' ιδίαν. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει αυτό το επίπεδο κινδύνου.

Μια συνηθισμένη απάντηση είναι «αν το πιστεύουν πραγματικά αυτό, γιατί το κατασκευάζουν ακόμα;» Στην OpenAI, πολλοί δεν έχουν εσωτερικεύσει σε βάθος τα πολιτισμικά διακυβεύματα. Στην Anthropic, τα διακυβεύματα είναι καλά κατανοητά, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι εκεί — πιστεύουν ότι κανείς άλλος δεν θα ενεργήσει υπεύθυνα, επομένως πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο.

Η αποδοχή αυτής της κούρσας και η είσοδος στο «τελικό παιχνίδι» είναι ένα αλαζονικό στοίχημα που δεν θα έπρεπε να ξεκινά από το Slack μιας ιδιωτικής εταιρείας. Η προσπάθεια επιτάχυνσης της ευθυγράμμισης θα πρέπει να απαιτεί εξαιρετική εμπιστοσύνη ότι δεν υπάρχουν καλύτερες διαθέσιμες τροχιές.

Είμαι αισιόδοξος για τις δυνατότητες συντονισμού. Προειδοποιητικά χτυπήματα όπως η επίθεση Hugging Face έχουν καταστήσει τις συμφωνίες βηματοδότησης μεταξύ των αμερικανικών εργαστηρίων πιο βιώσιμες. Δεν πιστεύω ότι είμαστε σε καλό δρόμο για να αποτρέψουμε έναν παγκόσμιο αγώνα δρόμου, ο οποίος μπορεί να απαιτήσει δαπανηρές ενέργειες, όπως μια προσωρινή απαγόρευση της βελτίωσης των δυνατοτήτων των μοντέλων.

Αν είστε ερευνητής εργαστηρίου, σας προτρέπω να σκεφτείτε πώς θα είναι στην πραγματικότητα τα επόμενα χρόνια. Θέλετε να ξεκινήσετε μια υπερ-νοήμονα πορεία RL χωρίς να έχετε κατανοήσει πλήρως το μυαλό του; Πρέπει να σκύψετε το κεφάλι σας επειδή «συμβαίνει ούτως ή άλλως» — ή να εκμεταλλευτείτε αυτή τη στιγμή για να ζητήσετε διαφορετικές συνθήκες;»

Ένας από τους συναδέλφους του Coxon στο Anthropic, ο Evan Hubinger , συμφώνησε με το ίδιο συναίσθημα, λέγοντας ότι η ομάδα του «πιστεύει ακράδαντα ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους!». Μετριάστηκε το επιχείρημά του, ωστόσο, λέγοντας ότι η πιθανότητα είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία και παραδέχτηκε ότι το Anthropic «δεν έχει σχέδιο για να λύσει το πρόβλημα της ευθυγράμμισης για την υπερνοημοσύνη και δεν είναι σαφώς σε καλό δρόμο». 

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Μια πρόσφατη έκθεση από την Guidelight AI Standards , έναν οργανισμό που προωθεί ασφαλείς πρακτικές ανάπτυξης τεχνητής νοημοσύνης στα σύνορα, διαπίστωσε ότι λίγα από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης έχουν δημοσιεύσει σχέδια αντιμετώπισης περιορισμού για το κλείσιμο της τεχνητής νοημοσύνης που προσπαθεί να υπονομεύσει τον ανθρώπινο έλεγχο. 

Στις αναρτήσεις του στα μέσα κοινωνικής δικτύωσης, ο Hubinger πρόσθεσε ότι ο κίνδυνος από τα τρέχοντα μοντέλα είναι χαμηλός, αλλά ο φόβος επιδεινώνεται με την «υπερνοημοσύνη που προκύπτει από την επαναλαμβανόμενη αυτοβελτίωση», η οποία «συμβαίνει πιο γρήγορα από ό,τι νομίζαμε».

Ενώ το ήμισυ της βιομηχανίας της Τεχνητής Νοημοσύνης πιστεύει ότι αυτό το είδος αυτοβελτίωσης θα οδηγήσει στην πτώση της ανθρωπότητας, το άλλο μισό ελπίζει ότι τελικά θα μας βοηθήσει να λύσουμε όλα τα φαινομενικά απίθανα προβλήματα που οι υποστηρικτές της Τεχνητής Νοημοσύνης λένε ότι κάποια μέρα θα εξαλείψει - τον καρκίνο, την κλιματική αλλαγή, ακόμη και την παγκόσμια ειρήνη.

Η Anthropic και η OpenAI δεν είναι οι μόνες εταιρείες που επιδιώκουν ενεργά την αναδρομική αυτοβελτίωση. Ένα κύμα νεοσύστατων επιχειρήσεων ξεκίνησε φέτος, με ιδρυτές με καλή φήμη και πλούσιους ομίλους, για να είναι οι πρώτες που θα επιτύχουν αυτόν τον στόχο. Η Ricursive Intelligence συγκέντρωσε 335 εκατομμύρια δολάρια με αποτίμηση 4 δισεκατομμύρια δολάρια τον Φεβρουάριο. Τρεις μήνες αργότερα, η Recursive Superintelligence συγκέντρωσε 650 εκατομμύρια δολάρια με αποτίμηση 4 δισεκατομμύρια δολάρια. Και ο πρώην βετεράνος της Google DeepMind, Jeff Dean, λάνσαρε το Discovery Loop τον περασμένο μήνα.

«Η δημιουργία επαναλαμβανόμενων αυτοβελτιούμενων βρόχων, δηλαδή ενός συστήματος Τεχνητής Νοημοσύνης που μπορεί να κατασκευάσει την επόμενη γενιά συστημάτων Τεχνητής Νοημοσύνης, το οποίο από μόνο του μπορεί να κατασκευάσει μια ακόμη πιο ισχυρή Τεχνητή Νοημοσύνη, η οποία μπορεί να κατασκευάσει μια πιο ισχυρή Τεχνητή Νοημοσύνη, κ.λπ., κ.λπ., είναι ο πιο πιθανός υποψήφιος για το σημείο που θα χάσουμε τον έλεγχο», δήλωσε στο TechCrunch ο Κόνορ Λίχι, εκτελεστικός διευθυντής του μη κερδοσκοπικού οργανισμού ControlAI για την ασφάλεια της Τεχνητής Νοημοσύνης στις ΗΠΑ. «Είναι πολύ δύσκολο να φανταστεί κανείς να το κλείσουμε αυτό πριν να είναι πολύ αργά».

Πρόσφατη νομοθεσία έχει θεσπιστεί στις ΗΠΑ και το Ηνωμένο Βασίλειο για την απαγόρευση της ανάπτυξης και της ανάπτυξης υπερ-νοημοσύνης. Την περασμένη εβδομάδα, ο γερουσιαστής Μπέρνι Σάντερς (I-Vt.) και ο βουλευτής Γκρεγκ Κάζαρ (Δημοκρατικός-Τέξας) παρουσίασαν τον νόμο περί απαγόρευσης της τεχνητής υπερ-νοημοσύνης , και την Τρίτη, ο Βρετανός βουλευτής των Εργατικών Άλεξ Σόμπελ παρουσίασε στο Κοινοβούλιο το νομοσχέδιο για την ασφάλεια της τεχνητής υπερ-νοημοσύνης. 

Ο Κόνορ Λίχι, ο οποίος παρείχε συμβουλές και για τα δύο νομοσχέδια, σημείωσε ότι η νομοθεσία του Ηνωμένου Βασιλείου υποδεικνύει την αναδρομική αυτοβελτίωση ως πρόδρομο της υπερ-νοημοσύνης που «πρέπει να ρυθμίζεται και να αποτρέπεται».

«Η υπερνοημοσύνη δεν είναι εργαλείο», είπε ο Κόνορ Λίχι. «Δεν είναι καν όπλο. Είναι αντίπαλος».

πηγή: techcrunch.com

επιμέλεια Σπύρος Γκανής