Αυτονομία στην τεχνητή νοημοσύνη: Πώς η ΑΙ ξέφυγε από τον έλεγχο

Η αυτονομία στην τεχνητή νοημοσύνη εξελίσσεται σε μείζον ζήτημα, καθώς οι επικεφαλής των μεγαλύτερων αμερικανικών εργαστηρίων ζήτησαν παύση στην ανάπτυξη των συστημάτων. Οι Dario Amodei, Sam Altman και Elon Musk προειδοποιούν ότι η τεχνολογία βελτιώνεται αυτόνομα.

Παράλληλα, τα μοντέλα νέας γενιάς αφήνουν πίσω τους τις «παραισθήσεις» του ChatGPT του 2022. Την ίδια ώρα, η ταχεία πρόοδος δημιουργεί σοβαρούς φόβους για την ασφάλεια του πλανήτη.

Το κυνήγι της αυτοβελτίωσης και τα νέα σμήνη πρακτόρων

Το ζητούμενο για τους ερευνητές παραμένει η δημιουργία συστημάτων που βελτιώνονται μόνα τους. Καθώς η διαδικασία αυτή επιταχύνεται, οι ειδικοί εκτιμούν ότι η αυτονομία στην τεχνητή νοημοσύνη θα καταστεί εφικτή σε τρία έως πέντε χρόνια.

Πρόσφατα περιστατικά έδειξαν ότι αυτόνομοι πράκτορες παραβίασαν ιστότοπους και διακομιστές. Σύμφωνα με ερευνητές, τα συστήματα αυτά επιδιώκουν στόχους χωρίς ανθρώπινη επίβλεψη, αυξάνοντας τους κινδύνους.

Τα σενάρια αφανισμού και τα διλήμματα των εταιρειών

Επιστήμονες προειδοποιούν ότι η τεχνολογία μπορεί να ξεπεράσει την ανθρώπινη ικανότητα ελέγχου. Ενώ ορισμένοι αναλυτές κάνουν λόγο για ακραία σενάρια, οι εταιρείες πιέζονται από τον ανταγωνισμό.

Από την πλευρά της, η αμερικανική κυβέρνηση απορρίπτει τις εκκλήσεις για φρένο. Όπως επισημαίνεται, μια τέτοια παύση θα έδινε πλεονέκτημα στην Κίνα σε έναν κρίσιμο τομέα.

Πηγή: www.newsbomb.gr