Μετά την απόλυση του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν, αναφέρεται ότι αρκετοί ερευνητές έστειλαν επιστολή προς το διοικητικό συμβούλιο, προειδοποιώντας για μια σημαντική ανακάλυψη στον τομέα της τεχνητής νοημοσύνης που θα μπορούσε να θέσει σε κίνδυνο την ανθρωπότητα. Αν και το περιεχόμενο της επιστολής δεν έχει διαρρεύσει, αναφέρεται ότι η ανακάλυψη αυτή είναι ένας αλγόριθμος τεχνητής νοημοσύνης με την ονομασία “Q*”.
Ο Άλτμαν, που ηγούνταν της προσπάθειας για την ανάπτυξη του ChatGPT, απολύθηκε μετά από αντιδράσεις από το προσωπικό, που απείλησε με παραίτηση εν συμπαράσταση προς αυτόν. Η επιστολή αναφέρει ότι το “Q*” μπορεί να αποτελέσει σημαντική εξέλιξη προς την επίτευξη της τεχνητής γενικής νοημοσύνης (AGI), καθώς ο αλγόριθμος αυτός έχει δείξει ικανότητα να λύνει μαθηματικά προβλήματα.
Οι ερευνητές της OpenAI πιστεύουν ότι η ικανότητα του “Q*” να επιλύει μαθηματικά προβλήματα ανοίγει τον δρόμο για την επίτευξη προηγμένης γενικής νοημοσύνης. Αν και παραμένουν αισιόδοξοι, δεν έχει επαληθευτεί ανεξάρτητα το επίπεδο των ικανοτήτων που ισχυρίζονται ότι διαθέτει ο αλγόριθμος.
Η επιστολή επίσης επισημαίνει τον κίνδυνο που συνδέεται με την ανάπτυξη τεχνητής νοημοσύνης και τις ανησυχίες για την ασφάλεια, αν και δεν διευκρινίζει λεπτομερώς τη φύση αυτών των ανησυχιών. Οι ερευνητές επίσης αναφέρουν τη δουλειά μιας ομάδας “επιστημόνων AI” που ερευνούσε πώς να βελτιστοποιήσει τα μοντέλα AI, ενισχύοντας τις ικανότητές τους. Η OpenAI, παρόλο που αναγνώρισε την ύπαρξη αυτής της ομάδας και του έργου “Q*”, δεν έχει απαντήσει επίσημα στα αιτήματα για σχόλια.