Η αμερικανική εταιρεία αποκάλυψε ότι χρειάστηκε να εντοπίσει και να μπλοκάρει περιπτώσεις κακόβουλης χρήσης του AI μοντέλου Claude, μεταξύ άλλων για δραστηριότητες που θα μπορούσαν να υποστηρίξουν την ανάπτυξη βιολογικών όπλων.
Στην πρώτη έκθεση Threat Intelligence που δημοσιεύει φέτος, η Anthropic αναφέρει ότι από τον Δεκέμβριο του 2025 έως τον Αύγουστο του 2026 εντόπισε και διέκοψε περιστατικά κακόβουλης χρήσης των AI μοντέλων Claude, Haiku, Sonnet και Opus.
Οι περιπτώσεις αφορούσαν ένα ευρύ φάσμα δραστηριοτήτων: από κυβερνοεπιθέσεις, απάτες και επιχειρήσεις παρακολούθησης μέχρι πολιτική προπαγάνδα και έρευνα που θα μπορούσε να έχει εφαρμογές στην ανάπτυξη βιολογικών όπλων.
Η Anthropic υπογραμμίζει ότι δημοσιοποιεί τα ευρήματα επειδή θεωρεί ότι έχει «ευθύνη να αποκαλύπτει την κακόβουλη χρήση των υπηρεσιών της».
Το Claude χρησιμοποιήθηκε για έρευνα που θα μπορούσε να κάνει ιό πιο επικίνδυνο
Μία από τις πιο ανησυχητικές περιπτώσεις που περιγράφονται στην έκθεση αφορά αίτημα σε μοντέλο ΑΙ για βοήθεια στη σύνταξη πρότασης επιστημονικής χρηματοδότησης.
Διαβάστε περισσότερα στο www.iefimerida.gr
