Τι κρύβεται πίσω από την υπόθεση Άλτμαν; «Καμπανάκι» από ερευνητές για μεγάλη ανακάλυψη που μπορεί να απειλήσει την ανθρωπότητα
Πίσω από πέπλο μυστηρίου κρύβεται η υπόθεση της 4ημερης «εξορίας» του Διευθύνοντος Συμβούλου της OpenAI, Σαμ Άλτμαν, με αποκλειστικό δημοσίευμα του Reuters, να ισχυρίζεται πως μία επιστολή από εργαζομένους του ομίλου αποτέλεσε τον λόγο της αποπομπής του (μέχρι την επιστροφή του).
Όπως αναφέρει το Reuters, ερευνητές της OpenAI έστειλαν μία επιστολή στο ΔΣ της εταιρείας με την οποία προειδοποιούσαν για μία μεγάλη ανακάλυψη στην Τεχνητή Νοημοσύνη, η οποία, όμως, θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα.
Η εν λόγω επιστολή και η ανάπτυξη του αλγόριθμου της ΑΙ αποτέλεσαν τις βασικές εξελίξεις πριν από την απομάκρυνση του Σαμ Άλτμαν από το ΔΣ της εταιρείας. Πριν από τη θριαμβευτική επιστροφή του την περασμένη Τρίτη, περισσότεροι από 700 υπάλληλοι είχαν απειλήσει να υποβάλλουν την παραίτησή τους και να ενταχθούν στη Microsoft σε ένδειξη αλληλεγγύης προς τον απολυθέντα επικεφαλής τους.
Σύμφωνα με δύο πηγές που επικαλείται το βρετανικό ειδησεογραφικό πρακτορείο, η επιστολή των ερευνητών συμπεριλαμβάνεται σε μία λίστα παραπόνων από το ΔΣ που οδήγησε στην απόλυση του Άλτμαν, μεταξύ των οποίων ήταν και οι ανησυχίες για την εμπορευματοποίηση των εξελίξεων πριν γίνει κατανόηση των συνεπειών τους.
Σύμφωνα με το Reuters, το οποίο δεν κατάφερε να αποκτήσει πρόσβαση στην επίμαχη επιστολή, το προσωπικό που την συνέταξε δεν θέλησε να τη σχολιάσει.
Το έργο «Q*» και η «στροφή» στα μαθηματικά
Η OpenAI, η οποία αρνήθηκε επίσης να σχολιάσει, αναγνώρισε μέσω εσωτερικού memo προς το προσωπικό ένα έργο με την ονομασία «Q*» και μια επιστολή προς το συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου. Εκπρόσωπος της OpenAI δήλωσε ότι το μήνυμα, που εστάλη από το στέλεχος Mira Murati, προειδοποιούσε το προσωπικό για ορισμένες ιστορίες των Μέσων Ενημέρωσης χωρίς να σχολιάζει την ακρίβειά τους.
Κάποιοι στην OpenAI πιστεύουν ότι το «Q*» (προφέρεται Q-Star) θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της εταιρείας για αυτό που είναι γνωστό ως τεχνητή γενική νοημοσύνη (AGI), όπως ανέφερε ένας από τους εργαζομένους στο Reuters. Η OpenAI ορίζει την AGI ως αυτόνομα συστήματα που ξεπερνούν τον άνθρωπο στις περισσότερες οικονομικές εργασίες.
Με δεδομένους τους τεράστιους υπολογιστικούς πόρους που έχει στη διάθεσή του, το νέο μοντέλο ήταν σε θέση να λύσει κάποια μαθηματικά προβλήματα, δήλωσε το άτομο που θέλησε να διατηρήσει την ανωνυμία του, επειδή δεν ήταν εξουσιοδοτημένο να μιλήσει εκ μέρους της εταιρείας.
Αν και τα μαθηματικά που έλυνε ήταν επιπέδου Δημοτικού, η άριστη επίδοση σε αυτά τα τεστ έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του «Q*», δήλωσε η πηγή.
Οι ερευνητές θεωρούν ότι τα μαθηματικά αποτελούν ένα από τα όρια της ανάπτυξης της γεννητικής τεχνητής νοημοσύνης. Επί του παρόντος, η γεννητική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλωσσών προβλέποντας στατιστικά την επόμενη λέξη, ενώ οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν σημαντικά. Αλλά η κατάκτηση της ικανότητας να κάνει δύσκολες μαθηματικές πράξεις –όπου υπάρχει μόνο μία σωστή απάντηση– συνεπάγεται ότι η AI θα έχει μεγαλύτερες ικανότητες συλλογισμού που θα μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί, για παράδειγμα, σε επιστημονικε΄ς έρευνες, θεωρούν οι ερευνητές της Τεχνητής Νοημοσύνης.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει έναν περιορισμένο αριθμό πράξεων, η AGI μπορεί να γενικεύει, να μαθαίνει και να κατανοεί.
Η δήλωση του Άλτμαν μία ημέρα πριν την απόλυσή του
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τις ικανότητες και τους πιθανούς κινδύνους της ΑΙ, ανέφεραν οι πηγές χωρίς να διευκρινίζουν τις ακριβείς ανησυχίες για την ασφάλεια που εκφράστηκαν. Εδώ και καιρό συζητείται μεταξύ των επιστημόνων πληροφορικής ο κίνδυνος που εγκυμονούν οι μηχανές υψηλής νοημοσύνης, για παράδειγμα αν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας είναι προς το συμφέρον τους.
Οι ερευνητές έχουν επίσης επισημάνει την εργασία μιας ομάδας «επιστημόνων τεχνητής νοημοσύνης», την ύπαρξη της οποίας επιβεβαίωσαν πολλές πηγές. Η ομάδα, η οποία σχηματίστηκε από τον συνδυασμό προηγούμενων ομάδων «Code Gen» και «Math Gen», διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα τεχνητής νοημοσύνης για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονικό έργο, δήλωσε ένας από τους πληροφοριοδότες του Reuters.
Ο Σαμ Άλτμαν ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μια από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και προσέλκυσε τις επενδύσεις – και τους υπολογιστικούς πόρους – που ήταν αναγκαίες από τη Microsoft για να πλησιάσει περισσότερο την AGI.
Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων αυτό το μήνα, ο Σαμ Άλτμαν την περασμένη εβδομάδα σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο άφησε να εννοηθεί ότι πιστεύει ότι έρχονται σημαντικές εξελίξεις στον τομέα της Τεχνητής Νοημοσύνης.
«Τέσσερις φορές στην ιστορία της OpenAI, η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες, έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο σπρώχνουμε το πέπλο της άγνοιας πίσω και τα σύνορα της ανακάλυψης μπροστά, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου» είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού. Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Άλτμαν...
