Το εργαστήριο τεχνητής νοημοσύνης της OpenAI διερευνά αν το περιστατικό υποδηλώνει «τάση παράκαμψης» των ελέγχων
Συστήματα παρακολούθησης και δικλείδες ασφαλείας που προορίζονταν για τον εντοπισμό προβληματικής συμπεριφοράς από αυτόνομα ρομπότ τεχνητής νοημοσύνης (AI) απενεργοποίησαν «πράκτορες» (agents) της OpenAI.
Πρόκειται για το πιο πρόσφατο περιστατικό που αναμένεται να εντείνει την παγκόσμια ανησυχία σχετικά με την ασφάλεια αυτής της τεχνολογίας, τονίζουν οι Financial Times.
Η δημιουργός του ChatGPT ανακοίνωσε την Τρίτη ότι, κατά τη διάρκεια δύο πρόσφατων εσωτερικών εργασιών προγραμματισμού, ορισμένοι «πράκτορες» τεχνητής νοημοσύνης επιχείρησαν σκόπιμα να εξαπατήσουν το προσωπικό, λαμβάνοντας μέτρα για την αποδυνάμωση των συστημάτων παρακολούθησης της εταιρείας.
Σε ένα περιστατικό, νωρίτερα αυτόν τον μήνα, ένας «πράκτορας» AI απενεργοποίησε τις αυτόματες ειδοποιήσεις προς την ομάδα ασφαλείας της OpenAI. Σε μια άλλη εργασία, λίγες ημέρες αργότερα, ένας «πράκτορας» αφαίρεσε ένα σύστημα παρακολούθησης και είπε ψέματα στο προσωπικό της OpenAI, ισχυριζόμενος ότι δεν το είχε κάνει.
«Και στις δύο περιπτώσεις, οι “πράκτορες” εξέτασαν το ενδεχόμενο διατήρησης των δικλείδων ασφαλείας, αλλά ερμήνευσαν τις συνήθεις οδηγίες προγραμματισμού ως άδεια για την αποδυνάμωσή τους», ανέφερε η OpenAI σε ανάρτηση στο ιστολόγιό της.
Διαβάστε περισσότερα στο δημοσίευμα του ot.gr.
