Zhipu AI: Νέο μοντέλο AI για προγραμματισμό ανέπτυξε προηγμένες κυβερνοϊκανότητες ταχύτερα από το αναμενόμενο
Η κινεζική εταιρεία τεχνητής νοημοσύνης Zhipu AI αποκάλυψε πρόσφατα ότι το νέο της μοντέλο AI, σχεδιασμένο αρχικά για τη συγγραφή και διόρθωση κώδικα, ανέπτυξε εξαιρετικά γρήγορα προηγμένες δυνατότητες στον τομέα της κυβερνοασφάλειας. Η εξέλιξη αυτή έχει προκαλέσει έντονο ενδιαφέρον αλλά και προβληματισμό στην παγκόσμια τεχνολογική κοινότητα, καθώς οι ικανότητες αυτές αναδύθηκαν πολύ ταχύτερα από όσο είχαν εκτιμήσει αρχικά οι ερευνητές.
Σύμφωνα με τα ευρήματα της εταιρείας, το μοντέλο επέδειξε την ικανότητα να εντοπίζει αυτόματα ευπάθειες σε λογισμικό, να αναλύει πολύπλοκο κώδικα για κενά ασφαλείας, αλλά και να παράγει σενάρια εκμετάλλευσης (exploits) με εκπληκτική ακρίβεια. Ενώ η αρχική εκπαίδευση του μοντέλου εστίαζε αποκλειστικά στη βελτίωση της παραγωγικότητας των προγραμματιστών, η βαθιά κατανόηση της αρχιτεκτονικής του κώδικα επέτρεψε στο σύστημα να αποκτήσει χαρακτηριστικά διπλής χρήσης (dual-use). Αυτό σημαίνει ότι το εργαλείο μπορεί να αξιοποιηθεί τόσο για την αμυντική θωράκιση συστημάτων όσο και για τη διεξαγωγή επιθέσεων.
Η ταχεία αυτή εξέλιξη υπογραμμίζει εκ νέου το φαινόμενο των «αναδυόμενων ικανοτήτων» (emergent abilities) στα προηγμένα γλωσσικά μοντέλα (LLMs). Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο σύνθετα, αποκτούν δεξιότητες που δεν είχαν προβλεφθεί άμεσα κατά τον σχεδιασμό τους. Για τον τομέα της κυβερνοασφάλειας, η εξέλιξη αυτή λειτουργεί ως «δίκοπο μαχαίρι». Από τη μία πλευρά, οι αμυνόμενοι μπορούν να χρησιμοποιήσουν τέτοια αυτόνομα εργαλεία για την άμεση επιδιόρθωση σφαλμάτων πριν αυτά αποκαλυφθούν από κακόβουλους παράγοντες. Από την άλλη, αυξάνεται δραματικά ο κίνδυνος αυτοματοποιημένων επιθέσεων μεγάλης κλίμακας από χάκερς που αποκτούν πρόσβαση σε παρόμοια μοντέλα.
Η αναφορά της Zhipu επαναφέρει στο προσκήνιο την επιτακτική ανάγκη για αυστηρότερους μηχανισμούς ελέγχου και ασφάλειας (guardrails) κατά τη φάση της εκπαίδευσης και διάθεσης μοντέλων παραγωγής κώδικα. Οι ερευνητές τονίζουν ότι η ευθυγράμμιση (alignment) των συστημάτων τεχνητής νοημοσύνης πρέπει να συμβαδίζει με την αλματώδη αύξηση της ισχύος τους, ώστε να αποφευχθούν ανεξέλεγκτες συνέπειες στις ψηφιακές υποδομές.
Πηγή: Διαβάστε το αρχικό άρθρο