Πρώην στέλεχος Google: Τι θα γίνει αν διδάξουμε στην ΑΙ να σκοτώνει

Μία δυσοίωνη προειδοποίηση εξέδωσε ο πρώην διευθύνων σύμβουλος της Google, Έρικ Σμιντ, σχετικά με τους κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη και το πόσο εύκολα θα μπορούσε να παραβιαστεί η τεχνολογία.

Αν και γενικά εκφράζει θετική στάση απέναντι στην ανάπτυξη της ΑΙ και αναγνωρίζει τις τεράστιες δυνατότητές της, ο Σμιντ παραμένει επιφυλακτικός, επισημαίνοντας τους κινδύνους που μπορεί να προκύψουν από κακή χρήση ή παραβίαση των συστημάτων.

Ο πρώην CEO της Google, που ηγήθηκε της εταιρείας από το 2001 έως το 2011, μίλησε στο Sifted Summit για τις απειλές που ενδέχεται να συνοδεύουν την εξέλιξη της τεχνητής νοημοσύνης.

«Υπάρχει κίνδυνος διάδοσης στην τεχνητή νοημοσύνη; Απολύτως», δήλωσε χαρακτηριστικά, προσθέτοντας: «Η τεχνολογία μπορεί να πέσει σε λάθος χέρια».

Όπως εξήγησε, υπάρχουν ήδη ενδείξεις ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να παραβιαστούν και να αφαιρεθούν τα ενσωματωμένα φίλτρα ασφαλείας τους.

«Μαθαίνουν πολλά μέσα από τη μελέτη τους. Ένα εξαιρετικά επικίνδυνο παράδειγμα θα ήταν να μάθουν πώς να σκοτώνουν κάποιον», τόνισε.

Δείτε ακόμη:

Ηλεκτρονικός φάκελος δικογραφίας - Πού μπορεί να εφαρμοστεί

The Voice: Η ανιψιά του Τζίμη Πανούση έκλεψε τις εντυπώσεις (βίντεο)

Σύμφωνα με τον Σμιντ, τα συστήματα αυτά είναι ευάλωτα σε επιθέσεις όπως prompt injections και jailbreaking.

Ήδη από το 2023, λίγο μετά την κυκλοφορία του ChatGPT της OpenAI, χρήστες είχαν καταφέρει να δημιουργήσουν ένα alter ego, γνωστό ως DAN (Do Anything Now), το οποίο παρέκαμψε τις οδηγίες ασφαλείας του συστήματος.

Παρά τις ανησυχίες του, ο Σμιντ εμφανίστηκε αισιόδοξος για το μέλλον της τεχνητής νοημοσύνης, θεωρώντας ότι η τεχνολογία παραμένει υποτιμημένη.

«Πιστεύω ότι είναι υποτιμημένη, όχι υπερεκτιμημένη, και αναμένω να επιβεβαιωθεί αυτό μέσα στα επόμενα πέντε με δέκα χρόνια», είπε.

Ο ίδιος διαφώνησε με τις απόψεις περί “φούσκας” της ΑΙ, υποστηρίζοντας ότι δεν προβλέπει μια κρίση αντίστοιχη με εκείνη της κατάρρευσης των dotcom στις αρχές της δεκαετίας του 2000.