To πιο επικίνδυνο AI εργαλείο της Anthropic έπεσε σε απαγορευμένα χέρια

Το προηγμένο μοντέλο τεχνητής νοημοσύνης Claude Mythos της Anthropic, που έχει σχεδιαστεί ως ισχυρό εργαλείο cybersecurity, φαίνεται πως βρέθηκε στα χέρια μη εξουσιοδοτημένων χρηστών. Σύμφωνα με το Bloomberg, μια μικρή ομάδα απέκτησε πρόσβαση αξιοποιώντας συνδυασμό τεχνικών και τα δικαιώματα ενός εξωτερικού συνεργάτη της εταιρείας.

Όπως αναφέρεται, ένα μέλος της ομάδας, που περιγράφεται ως συνεργάτης της Anthropic, αποκάλυψε ότι η πρόσβαση επιτεύχθηκε μέσω «κλασικών εργαλείων διαδικτυακής έρευνας» και εκμετάλλευσης υπαρχόντων στοιχείων.

Το μοντέλο φέρεται να μπορεί να εντοπίζει και να εκμεταλλεύεται ευπάθειες σε μεγάλα λειτουργικά συστήματα και browsers, εφόσον του δοθεί σχετική εντολή, κάτι που το καθιστά ιδιαίτερα ευαίσθητο τεχνολογικά.

Η πρόσβαση στο Mythos κανονικά περιορίζεται σε λίγες εταιρείες μέσω του προγράμματος Project Glasswing, μεταξύ των οποίων οι Nvidia, Google, Amazon Web Services, Apple και Microsoft, ενώ ενδιαφέρον έχουν δείξει και κυβερνήσεις. Η εταιρεία δεν σκοπεύει να το διαθέσει δημόσια, ακριβώς λόγω του κινδύνου κακόβουλης χρήσης.

Σε επίσημη δήλωσή της, η Anthropic ανέφερε ότι διερευνά τις αναφορές για μη εξουσιοδοτημένη πρόσβαση μέσω περιβάλλοντος τρίτου συνεργάτη, τονίζοντας ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις πως έχει επηρεαστεί το σύνολο των συστημάτων της.

Η παραβίαση φέρεται να έγινε στις 7 Απριλίου, την ίδια ημέρα που η εταιρεία ανακοίνωσε τη διάθεση του μοντέλου για περιορισμένες δοκιμές. Η ομάδα που απέκτησε πρόσβαση δεν έχει κατονομαστεί, αλλά σύμφωνα με το Bloomberg συνδέεται με Discord κοινότητα που αναζητά πληροφορίες για μη δημοσιευμένα AI μοντέλα.

Οι χρήστες φέρονται να εκμεταλλεύτηκαν γνώσεις από προηγούμενη διαρροή δεδομένων της Mercor για να εντοπίσουν το μοντέλο online. Έκτοτε το χρησιμοποιούν, παρουσιάζοντας μάλιστα αποδείξεις, όπως screenshots και live demo, χωρίς όμως, τουλάχιστον σύμφωνα με τις πληροφορίες, να το αξιοποιούν ενεργά για επιθέσεις, πιθανότατα για να αποφύγουν τον εντοπισμό.