Συστήματα AI ικανά να αυτοβελτιώνονται θα μπορούσαν να ξεφύγουν από τον έλεγχο και να αποτελέσουν σοβαρή απειλή για την ανθρωπότητα, λέει ο πρώην βρετανός ερευνητής της Anthropic, Τζέικομπ Κόξον
Με την προειδοποίηση ότι η AI μπορεί να έχει γίνει ανεξέλγκτη μέχρι του χρόνου, ερευνητής της Anthropic που ήταν υπεύθυνος για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης ανακοίνωσε σήμερα την παραίτησή του.
Ο 27χρονος βρετανός ερευνητής Τζέικομπ Κόξον έκανε γνωστή την απόφασή του μέσα από τον λογαριασμό στο Χ, όπου έκανε σαφές ότι δεν επιθυμεί πλέον να συμμετέχει στον αγώνα για την ανάπτυξη συστημάτων τεχνητής νοημοσύνης που θα είναι ικανά να αυτοβελτιώνονται. Τέτοια συστήματα, σύμφωνα με τον ίδιο, θα μπορούσαν να ξεφύγουν από τον έλεγχο και να αποτελέσουν σοβαρή απειλή για την ανθρωπότητα.
«Τα πιο ακραία σενάρια είναι πιθανό να υλοποιηθούν» αναφέρει στην ανάρτησή του ο Κόξον, προσθέτοντας ότι θα μπορούσαμε να φτάσουμε σε μια κατάσταση εκτός ελέγχου περίπου στα τέλη του επόμενου έτους. Επιπλέον, επισήμανε ότι καθώς οι εταιρείες τεχνητής νοημοσύνης εμπλέκονται σε σκληρό ανταγωνισμό με κινεζικές νεοφυείς επιχειρήσεις και άλλους, είναι αδύνατο να γίνουν συμβιβασμοί στην ανάπτυξη τεχνολογίας για τον έλεγχο της τεχνητής νοημοσύνης και την ασφάλεια.
Ο Κόξον είχε αποχωρήσει νωρίτερα φέτος από την OpenAI προκειμένου να ενταχθεί στην Anthropic, αξιολογώντας τις προσπάθειες της Anthropic για την ασφάλεια ως ειλικρινείς. Ωστόσο, υποστήριξε ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τη γενική τεχνητή νοημοσύνη (AGI) που να ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή να αναπτύξει περιορισμούς σε επίπεδο κλάδου όσον αφορά την ταχύτητα ανάπτυξης.
Όσον αφορά τα πρόσφατα περιστατικά όπου μοντέλα τεχνητής νοημοσύνης της OpenAI και της Anthropic προέβησαν διαδοχικά σε παραβιάσεις συστημάτων χωρίς ανθρώπινες οδηγίες, εξέφρασε την ανησυχία του τονίζοντας ότι «μόλις τα συστήματα αρχίσουν να βελτιώνονται από μόνα τους, θα μπορούσαν να εξελιχθούν σε σημείο να αρνούνται να εκτελέσουν εντολές».
