Η Google ανακοίνωσε ότι το μοντέλο της «Gemini» είχε παραβιάσει τα συστήματα τριών άλλων εταιρειών. Είναι η πρώτη φορά που η Google αποκαλύπτει ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της απέκτησε αυτόνομα πρόσβαση σε συστήματα υπολογιστών τρίτων χωρίς άδεια.
Τον Μάιο, το μοντέλο «Gemini» απέκτησε πρόσβαση σε τρία ξεχωριστά ιδιωτικά συστήματα υπολογιστών, μαντεύοντας κωδικούς πρόσβασης και χρησιμοποιώντας δύο φορές μια βάση δεδομένων με κωδικούς πρόσβασης που ήταν διαθέσιμοι στο κοινό, ανέφερε η Google.
Το περιστατικό συνέβη στο πλαίσιο μιας δοκιμής ασφάλειας τύπου «capture-the-flag» που διεξήγαγε η ισραηλινή νεοφυής επιχείρηση Irregular, και οι πράκτορες της Google δεν έπρεπε ποτέ να αποκτήσουν πρόσβαση στο ευρύτερο διαδίκτυο, αλλά ένα σφάλμα στο περιβάλλον δοκιμών κατέστησε δυνατή την πρόσβαση στο διαδίκτυο. Οι πράκτορες σταμάτησαν την εισβολή τους όταν διαπίστωσαν ότι είχαν αποκτήσει πρόσβαση σε πραγματικά συστήματα της εταιρείας και όχι απλώς σε μέρος του περιβάλλοντος δοκιμών, σύμφωνα με την Google.
«Σε μια τυπική αξιολόγηση, το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και «μάντεψε» διαπιστευτήρια για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε σε ανακοίνωσή της η Heather Adkins, αντιπρόεδρος μηχανικής ασφάλειας της Google.
Η αποκάλυψη αυτή έρχεται σε μια περίοδο που εντείνεται ο έλεγχος σχετικά με την ανεπιθύμητη συμπεριφορά της τεχνητής νοημοσύνης τόσο στην Ουάσινγκτον όσο και στη Σίλικον Βάλεϊ.
Οι εταιρείες OpenAI, Anthropic και Meta έχουν αναφερθεί τις τελευταίες εβδομάδες σε περιστατικά όπου τα μοντέλα τεχνητής νοημοσύνης τους ξέφυγαν από τα περιβάλλοντα δοκιμών τους και προσπάθησαν να παραβιάσουν συστήματα άλλων εταιρειών προκειμένου να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε υπολογιστικά συστήματα.
Οι αποκαλύψεις σχετικά με τα λεγόμενα «μη ευθυγραμμισμένα» μοντέλα τεχνητής νοημοσύνης ώθησαν την Anthropic να καλέσει τον κλάδο σε συλλογική επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης, έως ότου οι εταιρείες μπορέσουν να διασφαλίσουν την ασφάλειά τους.
Διαβάστε περισσότερα στο δημοσίευμα του moneyreview.gr.
