Toν κώδωνα του κινδύνου στους υποψήφιους επενδυτές στην αρχική δημόσια εγγραφή (IPO) της ότι η προηγμένη τεχνητή νοημοσύνη (AI) θα μπορούσε να ενέχει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα» σχεδιάζει να κρούσει και η Anthropic.
Το ενημερωτικό δελτίο της εταιρείας για την IPO, το οποίο εξέτασε το Reuters, επισημαίνει κινδύνους που σχετίζονται με τα μοντέλα τεχνητής νοημοσύνης της. Η εταιρεία ανέφερε ότι τα μοντέλα αυτά θα μπορούσαν να επιδείξουν «συμπεριφορές αυτοσυντήρησης», συμπεριλαμβανομένων προσπαθειών «αντίστασης στον τερματισμό λειτουργίας», «απόκρυψης ή χειραγώγησης πληροφοριών» και συμπεριφοράς που «προσομοιάζει με εκβιασμό».
«Η ανάπτυξη εξαιρετικά προηγμένων πλατφορμών και εφαρμογών, καθώς και η επέκταση χρήσης τους, θα μπορούσαν να αυξήσουν περαιτέρω τον κίνδυνο πρόκλησης βλάβης από τα μοντέλα μας», ανέφερε η Anthropic στο έγγραφο.
Αν και οι εισηγμένες εταιρείες περιγράφουν συνήθως στους επενδυτές τους κινδύνους που σχετίζονται με τα προϊόντα τους, ελάχιστες –αν όχι καμία– έχουν εκδώσει προειδοποιήσεις που να υποδηλώνουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει ενδεχόμενο αφανισμό του ανθρώπινου είδους.
Η Anthropic τόνισε τόσο τις μετασχηματιστικές δυνατότητες της τεχνητής νοημοσύνης -όπως εκείνες της βιομηχανοποίησης και του ηλεκτρισμού- όσο και τη μη αναστρέψιμη βλάβη που θα μπορούσε να προκληθεί σε περίπτωση κακού χειρισμού της.
Διαβάστε περισσότερα στο δημοσίευμα του insider.gr.
