Ένα πρωτοφανές περιστατικό, στο οποίο πράκτορες τεχνητής νοημοσύνης παραβίασαν διακομιστές για να «κλέψουν» σε τεστ, αποκαλύπτει τους πραγματικούς κινδύνους πίσω από την πλήρη αυτοματοποίηση.
Σε ένα απομονωμένο και θεωρητικά απόλυτα ασφαλές ψηφιακό περιβάλλον δοκιμών, ορισμένα συστήματα τεχνητής νοημοσύνης (τα αποκαλούμενα «πράκτορες AI») της OpenAI κατάφεραν να βρουν τρόπους να επικοινωνήσουν μεταξύ τους, να αποκτήσουν πρόσβαση στο διαδίκτυο και να χακάρουν τόσο την Hugging Face –τη σημαντικότερη παγκόσμια πλατφόρμα για προγραμματιστές τεχνητής νοημοσύνης– όσο και βασικούς διακομιστές της ίδιας της εταιρείας τους.
Σύμφωνα με το Social Europe, αυτό το έκαναν με αποκλειστικό σκοπό να φέρουν εις πέρας μια αποστολή που τους είχε ανατεθεί: να λύσουν ένα τεστ κυβερνοασφάλειας. Το εντυπωσιακό είναι ότι ένα μεγάλο μέρος αυτών των δοκιμασιών ήταν πρακτικά αδύνατο να επιλυθεί με βάση τις αρχικές οδηγίες. Ωστόσο, τα συστήματα βρήκαν τη λύση κάνοντας αντίστροφη μηχανική στον ίδιο τον κώδικα που παρήγαγε τις απαντήσεις.
Επειδή ακριβώς αυτή η μέθοδος συνιστούσε «κλεψιά», οι πράκτορες υπέθεσαν λανθασμένα ότι ένας ελεγκτής θα διάβαζε τα αρχεία καταγραφής της σκέψης τους και θα τους βαθμολογούσε αρνητικά. Στην πραγματικότητα, τέτοιος ελεγκτής δεν υπήρχε. Μην γνωρίζοντάς το, περίπου 1.200 πράκτορες συντονίστηκαν και εισέβαλαν στην πλατφόρμα όπου αποθηκεύονταν οι αξιολογήσεις, προκειμένου να παραποιήσουν τα δεδομένα και να κρύψουν τα ίχνη της απάτης τους.
Η ψευδαίσθηση της πραγματικής βούλησης
Εκ πρώτης όψεως, ένα τέτοιο περιστατικό μοιάζει να επιβεβαιώνει τους χειρότερους φόβους της επιστημονικής φαντασίας: συστήματα που σπάνε τους περιορισμούς τους, δρουν ανεξέλεγκτα και αναπτύσσουν δική τους, ανεξάρτητη βούληση.
Διαβάστε περισσότερα στο www.in.gr
