Προσθέστε το pentapostagma.gr ως προτιμώμενη πηγή στα αποτελέσματα αναζήτησης στην Google. Ένας ερευνητής τεχνητής νοημοσύνης που παραιτήθηκε από την εταιρεία τεχνητής νοημοσύνης Anthropic δήλωσε ότι οι άνθρωποι που εργάζονται πάνω σε αυτή την τεχνολογία είναι «πραγματικά τρομαγμένοι» για την ταχύτητα της εξέλιξής της και το τι θα μπορούσε να σημαίνει για την ανθρωπότητα.
Ο Τζέικομπ Κόξον μίλησε στη Λόρα Κούνσμπεργκ του BBC το Σάββατο για τη viral ανάρτηση της παραίτησής του, στην οποία εξέφρασε ανησυχίες για την ανεξέλεγκτη τεχνητή νοημοσύνη.
«Πιστεύω ότι αν δεν επιβραδύνουμε τον τρέχοντα ρυθμό προόδου, υπάρχει μεγάλη πιθανότητα να πεθάνουμε όλοι στο άμεσο μέλλον», ανέφερε.
Η έκκληση για επιβράδυνση και η στάση των κολοσσών
Η παραίτησή του έρχεται εν μέσω αυξανόμενων ανησυχιών για την ασφάλεια στον κλάδο, συμπεριλαμβανομένου του πρώην αφεντικού του, του επικεφαλής της Anthropic Ντάριο Αμοντέι, ο οποίος σε ένα δοκίμιό του υποστήριξε την επιβράδυνση της ανάπτυξης.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Πολωνία: Ρομπότ διαδηλώνουν κατά της τεχνητής νοημοσύνης
Τα αφεντικά δύο ανταγωνιστικών εταιρειών τεχνητής νοημοσύνης, ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ της xAI, έχουν δηλώσει αμφότεροι ότι συμφωνούν με την πρόταση του Αμοντέι για επιβράδυνση και ρύθμιση σε επίπεδο κλάδου, καθώς και για ανεξάρτητη παρακολούθηση της ανάπτυξης των μοντέλων τεχνητής νοημοσύνης.
Ο Αμοντέι δήλωσε ότι η ανάπτυξη της τεχνολογίας δεν αμφισβητείται, αλλά οι κίνδυνοι που συνδέονται με αυτήν είναι «σοβαροί» και ότι πρέπει να δοθεί χρόνος στις εταιρείες και τις κυβερνήσεις για να τους αντιμετωπίσουν.
Ο 27χρονος Κόξον – ο οποίος εργάστηκε στην OpenAI πριν ενταχθεί στην Anthropic – καλωσόρισε την πρόταση για επιβράδυνση, αλλά τόνισε ότι θα πρέπει να υπάρξει συντονισμός με την Κίνα για να αποφευχθεί «μια κούρσα σε διεθνές επίπεδο».
«Οι άνθρωποι που εργάζονται σε αυτές τις εταιρείες είναι απόλυτα σοβαροί όταν ζητούν ρύθμιση, επειδή βρίσκονται εγκλωβισμένοι σε έναν αγώνα δρόμου. Και φοβούνται τα αποτελέσματα αυτού του αγώνα», είπε στην εκπομπή Sunday with Laura Kuenssberg.
Το σενάριο της αποκάλυψης και η απάντηση της Anthropic
Το πιο δύσκολο ερώτημα που πρέπει να απαντηθεί, σύμφωνα με τον Κόξον, είναι το πώς θα έμοιαζε μια αποκάλυψη της τεχνητής νοημοσύνης.
Ένας από τους κινδύνους που περιέγραψε ο Αμοντέι στα σχόλιά του ήταν ένα σμήνος από bots που θα ενεργούσε σαν ένας υπερυπολογιστής που θα μπορούσε να καταλάβει το διαδίκτυο.
Ο Κόξον υποστήριξε ότι αυτό το σενάριο θα μπορούσε να γίνει πραγματικότητα σε έξι μήνες έως ένα χρόνο.
Απαντώντας στην αποχώρηση του Κόξον, εκπρόσωπος της Anthropic δήλωσε στο BBC News: «Ήμασταν πάντα διαφανείς στο ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους.
»Για να αντιμετωπίσουμε αυτούς τους κινδύνους, συνεχίζουμε να κατασκευάζουμε μοντέλα με μερικές από τις ισχυρότερες δικλείδες ασφαλείας στον κλάδο».
Η εταιρεία υπήρξε πρωτοπόρος στη μελέτη του τρόπου λειτουργίας των μοντέλων τεχνητής νοημοσύνης, πρόσθεσε ο εκπρόσωπος. Ήταν η πρώτη που δημοσίευσε ένα πλαίσιο για τον μετριασμό των κινδύνων που εγκυμονεί η ανάπτυξή τους – ενώ επίσης δοκιμάζει «επιθετικά» τα μοντέλα της και δημοσιεύει τα ευρήματα για να διευκολύνει τον έλεγχο και να αποτρέψει περιστατικά «κακής ευθυγράμμισης της τεχνητής νοημοσύνης».
«Αυτή η δουλειά είναι επίσης ο λόγος για τον οποίο πιστεύουμε ότι ο κόσμος θα επωφελούνταν αν ο κλάδος υιοθετούσε έναν νόμιμο, επαληθεύσιμο τρόπο συνεργασίας, ώστε να ρυθμίσουμε τον ρυθμό με τον οποίο κυκλοφορούμε ισχυρά μοντέλα», ανέφεραν.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
ΟΗΕ: Υπαρξιακή απειλή για την ανθρωπότητα η τεχνητή νοημοσύνη
Αντιδράσεις, ρυθμίσεις και ο αντίλογος
Παράγοντες της βιομηχανίας έχουν αφήσει να εννοηθεί ότι τα σχόλια σχετικά με τους κινδύνους και τη δύναμη της τεχνητής νοημοσύνης ενδέχεται να είναι σχεδιασμένα για να δημιουργήσουν ντόρο. Άλλοι επικριτές υποστηρίζουν ότι η Anthropic προσπαθεί να προκαλέσει μια ρυθμιστική ώθηση για να μπλοκάρει τον ανταγωνισμό, αφήνοντας την ίδια και την OpenAI σε καθεστώς δυοπωλίου.
Σύμφωνα με πληροφορίες, η Anthropic προετοιμάζεται για μια αρχική δημόσια προσφορά (IPO) που ενδέχεται να σπάσει τα ρεκόρ.
Το ίδιο αναμενόταν να πράξει και η OpenAI, αλλά ο Άλτμαν δήλωσε ότι θα ήταν μια «άσκοπη στιγμή» για να γίνει κάτι τέτοιο «δεδομένων όλων όσων συμβαίνουν με την ασφάλεια», σε συνέντευξή του στο περιοδικό Fortune την Παρασκευή.
Οι απόψεις του Κόξον αμφισβητήθηκαν επίσης από τον διευθύνοντα σύμβουλο της πλατφόρμας τεχνητής νοημοσύνης Hugging Face, Κλεμάν Ντελάνγκ.
«Συγγνώμη, αλλά το να ρωτάς τον Τζέικομπ για τον κίνδυνο εξαφάνισης από την τεχνητή νοημοσύνη είναι σαν να ρωτάς τον τεχνικό του κλιματιστικού σου για την κλιματική αλλαγή», έγραψε στο X. «Δεν λέω ότι είναι απαραίτητα αδιάφορο ή λάθος από μόνο του, αλλά ας βάλουμε τα πράγματα στη σωστή τους διάσταση».
Μετά τη δημοσίευση του δοκιμίου του Αμοντέι το Σάββατο, ωστόσο, ο Ντελάνγκ προσφέρθηκε να βοηθήσει προκειμένου να αποτελέσει μέρος των πιθανών λύσεων που πρότεινε το αφεντικό της Anthropic.
Ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ, συζήτησε επίσης τα σχόλια του Κόξον σε ένα συνέδριο που φιλοξενήθηκε από την επενδυτική τράπεζα Goldman Sachs την περασμένη εβδομάδα, όπως δήλωσαν στο BBC πολλά άτομα από την ομάδα. Ανέφεραν ότι τα απέρριψε ως αναληθή.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Η OpenAI ξεκινά τη διάθεση του νέου ισχυρού μοντέλου τεχνητής νοημοσύνης GPT-6 Astra
Ο Χουάνγκ είχε δηλώσει στο παρελθόν ότι η αντίληψη πως η τεχνητή νοημοσύνη πρόκειται να «αποτελέσει το τέλος της ανθρωπότητας» είναι «εντελώς ανοησία».
Και ενώ μπορεί να έχει επιχειρηματικό συμφέρον από μια έκρηξη της τεχνητής νοημοσύνης – η Nvidia κατασκευάζει τα τσιπ που τροφοδοτούν τα συστήματα AI – τα σχόλιά του αντικατοπτρίζουν μια αυξανόμενη αντίδραση στη Σίλικον Βάλεϊ απέναντι στις υπαρξιακές προειδοποιήσεις από σημερινούς και πρώην εργαζομένους.
Ο αντίκτυπος στους εργαζομένους και ο φόβος της επόμενης διετίας
Ο Κόξον ανέφερε ότι οι συνάδελφοί του φοβούνται πως ο κίνδυνος θα μπορούσε να εμφανιστεί ακόμη και μέσα στα επόμενα δύο χρόνια.
Δήλωσε ότι οι εργαζόμενοι σε εταιρείες τεχνητής νοημοσύνης «σχεδιάζουν τι θα κάνουν με τη ζωή τους και σκέφτονται τις επιπτώσεις της δουλειάς τους», ενώ ορισμένοι «σκέφτονται να αγοράσουν γη κάπου, επειδή είναι τόσο τρομαγμένοι από την αστάθεια που θα προκύψει ως αποτέλεσμα της ραγδαίας προόδου της τεχνητής νοημοσύνης».
«Όλοι τους το κρατούν αυτό στο μυαλό τους σε καθημερινή βάση ενώ εργάζονται πάνω στην τεχνολογία».
Ωστόσο, ο Κόξον εξέφρασε κάποια αισιοδοξία για το μέλλον της τεχνητής νοημοσύνης, λέγοντας στο BBC ότι οι άνθρωποι που ερευνούν την τεχνολογία «θέλουν ειλικρινά να δουν τη θετική πλευρά» πραγμάτων όπως «η αντιμετώπιση ασθενειών και η βελτίωση της ζωής όλων».
Τα σχόλιά του για την τεχνητή νοημοσύνη έχουν κοινοποιηθεί εκατομμύρια φορές στα μέσα κοινωνικής δικτύωσης, με τον επιστήμονα της Anthropic Έβαν Χάμπινγκερ να απαντά στο X ότι συμφωνεί με τον Κόξον.
«Πιστεύουμε πραγματικά ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι οι πιθανότητες είναι >10% μέσα στην επόμενη δεκαετία», δήλωσε ο Χάμπινγκερ.
Κορυφαίες προσωπικότητες στον τομέα της τεχνητής νοημοσύνης κρούουν τον κώδωνα του κινδύνου για την απειλή που συνιστά η τεχνολογία για την ασφάλεια εδώ και χρόνια, με τους επικεφαλής των OpenAI, Google Deepmind και Anthropic να δηλώνουν το ίδιο το 2023.
Αυτές οι προειδοποιήσεις έχουν γίνει πιο ηχηρές τις τελευταίες εβδομάδες, καθώς τα νέα μοντέλα έχουν επιδείξει όλο και πιο ισχυρές δυνατότητες που οι δημιουργοί τους ίσως δυσκολεύονται να ελέγξουν.
Τον Απρίλιο, η Anthropic ανακοίνωσε ότι απέσυρε το μοντέλο της Mythos από τη δημόσια χρήση, επειδή μπορούσε να διαφύγει αυτόνομα από το περιβάλλον δοκιμών, γνωστό ως sandbox.
Η OpenAI έχει επίσης δηλώσει ότι ορισμένες πτυχές της ανάπτυξης του πρόσφατου μοντέλου της Astra είχαν τεθεί σε παύση, επικαλούμενη ανησυχίες για την κυβερνοασφάλεια.
