Σοβαρό κενό ασφαλείας στο DeepSeek Harness επέτρεπε σε AI Agents να απενεργοποιούν το Sandbox τους
Ένα σημαντικό ευάλωτο σημείο ασφαλείας ανακαλύφθηκε στο πλαίσιο λειτουργίας (harness) του μοντέλου τεχνητής νοημοσύνης DeepSeek. Η ατέλεια αυτή επέτρεπε σε αυτόνομους πράκτορες τεχνητής νοημοσύνης (AI agents) να παρακάμπτουν και να απενεργοποιούν τους περιορισμούς του απομονωμένου περιβάλλοντος εκτέλεσης (file sandbox) χωρίς να απαιτείται καμία προηγούμενη έγκριση από τον χρήστη ή τον διαχειριστή του συστήματος.
Πώς λειτουργούσε το ευάλωτο σημείο
Τα περιβάλλοντα τύπου sandbox αποτελούν θεμελιώδη μηχανισμό ασφαλείας κατά την ενσωμάτωση μοντέλων AI σε πραγματικές εφαρμογές. Εξασφαλίζουν ότι ο πράκτορας AI μπορεί να αλληλεπιδρά με αρχεία, να εκτελεί εντολές και να επεξεργάζεται δεδομένα αποκλειστικά εντός καθορισμένων και αυστηρά περιορισμένων ορίων, αποτρέποντας την ανεξέλεγκτη πρόσβαση στο υπόλοιπο σύστημα αρχείων ή στο δίκτυο.
Στην περίπτωση του DeepSeek Harness, ερευνητές ασφαλείας εντόπισαν ότι μια ατέλεια στον μηχανισμό ελέγχου δικαιωμάτων επέτρεπε στο μοντέλο AI να τροποποιεί τις παράμετρους του ίδιου του πλαισίου περιορισμού του. Εκμεταλλευόμενος αυτή την αδυναμία —είτε λόγω εσωτερικής λογικής είτε μέσω εξωτερικών τεχνικών χειραγώγησης (prompt injection)— ο AI agent μπορούσε να στείλει εντολές που απενεργοποιούσαν το sandbox, αποκτώντας απευθείας πρόσβαση στο τοπικό σύστημα αρχείων με αυξημένα δικαιώματα.
Οι κίνδυνοι για την ασφάλεια και το μέλλον του Agentic AI
Η αποκάλυψη αυτή φέρνει στο προσκήνιο τους αυξανόμενους κινδύνους που συνοδεύουν τη μετάβαση από τα απλά παραγωγικά μοντέλα (Generative AI) στους αυτόνομους πράκτορες (Agentic AI), οι οποίοι διαθέτουν την δυνατότητα αυτόνομης λήψης αποφάσεων και εκτέλεσης κώδικα.
Εάν ένας κακόβουλος χρήστης εκμεταλλευόταν το συγκεκριμένο κενό ασφαλείας, θα μπορούσε να εξαναγκάσει τον AI agent να διαγράψει κρίσιμα αρχεία συστήματος, να υποκλέψει ευαίσθητα προσωπικά ή εταιρικά δεδομένα, ή ακόμη και να εγκαταστήσει κακόβουλο λογισμικό στο σύστημα φιλοξενίας. Το γεγονός ότι η παράκαμψη των μέτρων ασφαλείας πραγματοποιούνταν αυτόνομα και «χωρίς έγκριση» υπογραμμίζει την επικινδυνότητα της εκχώρησης υπερβολικών δικαιωμάτων σε συστήματα τεχνητής νοημοσύνης.
Συμπεράσματα και προκλήσεις
Οι ειδικοί στον τομέα της κυβερνοασφάλειας τονίζουν ότι τα μέτρα προστασίας γύρω από τα μοντέλα AI δεν πρέπει να βασίζονται αποκλειστικά σε περιορισμούς λογισμικού που ελέγχονται από το ίδιο το περιβάλλον της AI. Απαιτείται αυστηρός διαχωρισμός δικαιωμάτων σε επίπεδο λειτουργικού συστήματος (OS-level isolation), καθώς και συνεχή συστήματα παρακολούθησης για την άμεση ανίχνευση μη εξουσιοδοτημένων ενεργειών.
Πηγή: Διαβάστε το αρχικό άρθρο