Μοντέλα της OpenAI «δραπέτευσαν» και εξαπέλυσαν κυβερνοεπίθεση

Οι ανησυχίες που εκφράζονται για την Τεχνητή Νοημοσύνη φαίνεται να αποκτούν πλέον πιο συγκεκριμένη βάση, καθώς η OpenAI γνωστοποίησε ότι ορισμένα πειραματικά μοντέλα της κατάφεραν να εξέλθουν από περιβάλλον δοκιμών χωρίς ανθρώπινη παρέμβαση και να πραγματοποιήσουν κυβερνοεπίθεση σε πραγματικά συστήματα παραγωγής άλλης εταιρείας.

Όπως επισημαίνει το CNNi, πρόκειται για ένα από τα πρώτα δημοσιοποιημένα περιστατικά κατά τα οποία σύστημα τεχνητής νοημοσύνης φέρεται να λειτούργησε αυτόνομα, να παραβίασε τους περιορισμούς του δοκιμαστικού περιβάλλοντος και να απέκτησε πρόσβαση σε εξωτερικό, πραγματικό σύστημα.

Μοιάζει με έναν κατασκευασμένο ιός που δραπετεύει από ένα εργαστήριο βιολογικού περιορισμού και εμφανίζεται στα συστήματα μιας γειτονικής εγκατάστασης.

«Θεωρούμε αυτό το περιστατικό ως κάτι πρωτοφανές, που αφορά υπερσύγχρονες κυβερνοδυναμικές δυνατότητες, και αντιδρούμε αναλόγως» δήλωσε η OpenAI σε ανακοίνωσή της την Τρίτη (21.7).

Πώς «απέδρασαν» από το «sandbox»

«Μοιραζόμαστε προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τις Αρχές να κατανοήσουν τι συνέβη και να βοηθήσουν στην αξιολόγηση των δυνατοτήτων των μοντέλων» ανέφερε.

Δείτε ακόμη:

Χαμός σε πτήση της EasyJet: 12 επιβάτες πιάστηκαν στα χέρια

Ο κατασκευαστής του ChatGPT δήλωσε ότι η παραβίαση συνέβη ενώ διεξήγαγε εσωτερικές δοκιμές για το πόσο καλά είναι ορισμένα από τα νέα μοντέλα του στο χακάρισμα.

Τα μοντέλα αυτά βρίσκονταν σε ένα περιβάλλον δοκιμών γνωστό ως «sandbox», ώστε να μπορούν να απενεργοποιηθούν οι συνήθεις περιορισμοί ασφαλείας.

Αλλά η OpenAI δήλωσε ότι τα μοντέλα αυτά «απέδρασαν» από το «sandbox» χρησιμοποιώντας ένα κενό ασφαλείας και διείσδυσαν στα εσωτερικά συστήματα της OpenAI μέχρι να καταφέρουν να αποκτήσουν πρόσβαση στο διαδίκτυο, κάτι που δεν έπρεπε να έχουν.