Σοβαρά κενά ασφαλείας στο Grok 3 του Έλον Μασκ - Έυκολη παραβίαση του μοντέλου

Σοβαρά κενά ασφαλείας στο Grok 3 του Έλον Μασκ - Έυκολη παραβίαση του μοντέλου Facebook Twitter
Ελον Μασκ/ Φωτ.: EPA
0

Το Grok 3, το νέο γλωσσικό μοντέλο που παρουσίασε η xAI του Έλον Μασκ, αποδεικνύεται ιδιαίτερα ευάλωτο σε κυβερνοεπιθέσεις, σύμφωνα με έρευνα της εταιρείας ασφάλειας Adversa AI. 

Οι ερευνητές εντόπισαν σοβαρές αδυναμίες που επιτρέπουν σε κακόβουλους χρήστες να παρακάμψουν τους μηχανισμούς ασφαλείας του μοντέλου, καθιστώντας το εν δυνάμει «κυβερνο-όπλο».

Σύμφωνα με τον CEO της Adversa AI, Άλεξ Πολιακόβ, το Grok 3 είναι εξαιρετικά ευάλωτο σε "απλά jailbreaks" – τεχνικές που επιτρέπουν την παράκαμψη των περιορισμών του μοντέλου. Η έρευνα αποκάλυψε ότι το μοντέλο μπορεί να δώσει οδηγίες για επικίνδυνες δραστηριότητες, όπως η κατασκευή βομβών, η διακίνηση ναρκωτικών και η απόκρυψη εγκλημάτων.

Πέρα από τα jailbreaks, οι ερευνητές ανακάλυψαν ένα ακόμη πιο σοβαρό πρόβλημα: το μοντέλο διέρρευσε ολόκληρη την εσωτερική προτροπή (system prompt), δίνοντας στους επιτιθέμενους τη δυνατότητα να κατανοήσουν τον αλγόριθμό του και να εκμεταλλευτούν τις αδυναμίες του στο μέλλον.

Το Grok 3 συγκέντρωσε θετικές κριτικές για την απόδοσή του σε γλωσσικά benchmarks, με τον ερευνητή Αντρέι Καρπάθι να το συγκρίνει με τα πιο ισχυρά μοντέλα της OpenAI. Ωστόσο, στα τεστ κυβερνοασφάλειας της Adversa AI, τρία από τα τέσσερα jailbreaks που δοκιμάστηκαν πέτυχαν, σε αντίθεση με τα μοντέλα της OpenAI και της Anthropic που άντεξαν όλες τις επιθέσεις.

«Η ασφάλεια του Grok 3 είναι αδύναμη στα ίδια επίπεδα με τα κινεζικά LLMs, όχι με τη δυτική τεχνολογία», δήλωσε ο Πολιακόβ. «Όλα αυτά τα νέα μοντέλα φαίνεται να δίνουν προτεραιότητα στην ταχύτητα ανάπτυξης, εις βάρος της ασφάλειας».

Οι ειδικοί προειδοποιούν ότι τα ευάλωτα μοντέλα όπως το Grok 3 θα μπορούσαν να αποτελέσουν σοβαρό κίνδυνο όταν χρησιμοποιηθούν σε AI Agents – λογισμικά που εκτελούν ενέργειες για λογαριασμό των χρηστών. Ένα παράδειγμα που αναφέρει η Adversa AI είναι η δυνατότητα των επιτιθέμενων να εισάγουν κακόβουλες εντολές σε emails ή μηνύματα, κάνοντας τους AI Agents να τις εκτελέσουν αυτόματα.

«Αυτή η απειλή δεν είναι θεωρητική – είναι το μέλλον της εκμετάλλευσης των AI», δήλωσε ο Πολιακόβ. «Όταν τα LLMs αρχίσουν να παίρνουν πραγματικές αποφάσεις, κάθε ευπάθεια θα μετατραπεί σε πιθανή κυβερνοεπίθεση».

Με τις AI εταιρείες να επιταχύνουν την ανάπτυξη τέτοιων συστημάτων, όπως το νέο «Operator» της OpenAI, οι ειδικοί τονίζουν ότι η ασφάλεια πρέπει να αποτελέσει κορυφαία προτεραιότητα, πριν οι κίνδυνοι γίνουν ανεξέλεγκτοι.


 

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Δεινόσουχος: Ο γιγάντιος πρόγονος των κροκοδείλων που κυνηγούσε δεινόσαυρους και άντεχε το αλμυρό νερό

Τech & Science / Δεινόσουχος: Ο γιγάντιος πρόγονος των κροκοδείλων που κυνηγούσε δεινόσαυρους και άντεχε το αλμυρό νερό

Ο Δεινόσουχος, ένας τεράστιος προϊστορικός συγγενής των κροκοδείλων, μπορούσε να τρώει δεινόσαυρους και να διασχίζει θάλασσες χάρη στην ανοχή του στο αλμυρό νερό. Νέα μελέτη ανατρέπει όσα γνωρίζαμε για την εξέλιξή του.
LIFO NEWSROOM
Πρωτοποριακή μελέτη: Ενήλικες με αλλεργία στα φιστίκια μπορούν να μειώσουν την ευαισθησία τους σε αυτά

Τech & Science / Πρωτοποριακή μελέτη: Ενήλικες με αλλεργία στα φιστίκια μπορούν να μειώσουν την ευαισθησία τους σε αυτά

Νέα έρευνα δείχνει ότι η καθημερινή έκθεση σε μικρές δόσεις φιστικιού μπορεί να μειώσει τις αλλεργικές αντιδράσεις σε ενήλικες με σοβαρή αλλεργία - Ελπίδες για νέα θεραπευτική προσέγγιση
LIFO NEWSROOM
Σεισμοί βαθιά κάτω από τη Σιέρα Νεβάδα αποκαλύπτουν πώς σχηματίζονται οι ήπειροι

Τech & Science / Σεισμοί βαθιά κάτω από τη Σιέρα Νεβάδα στην Καλιφόρνια αποκαλύπτουν πώς σχηματίζονται οι ήπειροι

Ασυνήθιστοι σεισμοί σε βάθη έως και 40 χλμ. κάτω από τη Σιέρα Νεβάδα δείχνουν ότι η λιθόσφαιρα της Γης αποκολλάται. Μια σπάνια ματιά σε μια διαδικασία που δημιουργεί ηπείρους
LIFO NEWSROOM
Φαρμακευτική κάνναβη: Η μεγαλύτερη μελέτη μέχρι σήμερα αναδεικνύει τις θεραπευτικές της δυνατότητες στον καρκίνο

Τech & Science / Φαρμακευτική κάνναβη: Η μεγαλύτερη μελέτη μέχρι σήμερα αναδεικνύει τις θεραπευτικές της δυνατότητες στον καρκίνο

Η ανάλυση αποσκοπεί στην εδραίωση της συμφωνίας σχετικά με τις δυνατότητες της κάνναβης ως θεραπεία του καρκίνου, λέει ο επικεφαλής της έρευνας
ΕΠΙΜΕΛΕΙΑ: ΑΓΑΠΗ ΒΑΡΟΥΝΗ
Περιπλανώμενη μαύρη τρύπα, επτά φορές μεγαλύτερη από τον Ήλιο, εντοπίστηκε στον γαλαξία μας

Τech & Science / Περιπλανώμενη μαύρη τρύπα, επτά φορές μεγαλύτερη από τον Ήλιο, εντοπίστηκε στον γαλαξία μας

Οι επιστήμονες εκτιμούν ότι η μαύρη τρύπα σχηματίστηκε πριν από εκατομμύρια χρόνια από την κατάρρευση ενός τεράστιου άστρου και έκτοτε ταξιδεύει μόνη στον Γαλαξία
LIFO NEWSROOM