Μέσω της προ-εκπαίδευσης και της μετα-εκπαίδευσης, τα chatbots μαθαίνουν πώς να προβλέπουν την επόμενη λέξη σε μεγάλες ποσότητες κειμένου.
Όπως αναφέρει το Euro News, μελέτη της OpenAI διαπίστωσε ότι ενώ ορισμένα πράγματα, όπως η ορθογραφία και η γραμματική, ακολουθούν πολύ σαφείς κανόνες και δομή, υπάρχουν άλλα θέματα ή τύποι δεδομένων που θα είναι δύσκολο ή ακόμη και αδύνατο να αναγνωριστούν από μια τεχνητή νοημοσύνη.
Για παράδειγμα, οι αλγόριθμοι μπορούν να ταξινομήσουν εικόνες όταν έχουν την ετικέτα «γάτα ή σκύλος», αλλά αν οι εικόνες είχαν ετικέτα πιο περίπλοκη, το chatbot δεν θα μπορούσε να τις κατηγοριοποιήσει με ακρίβεια.
Τα μοντέλα δεν θα είναι ποτέ 100% ακριβή, επειδή «ορισμένα ερωτήματα του πραγματικού κόσμου είναι εγγενώς αναπάντητα».
Αυτού του είδους οι εργασίες που εκτελεί η τεχνητή νοημοσύνη «θα παράγουν πάντα σφάλματα, ανεξάρτητα από το πόσο προηγμένος είναι ο αλγόριθμος», σύμφωνα με τα ευρήματα της έκθεσης.
Ένα από τα βασικά ευρήματα των ερευνητών στην έκθεση είναι ότι τα μοντέλα δεν θα είναι ποτέ 100% ακριβή, επειδή «ορισμένα ερωτήματα του πραγματικού κόσμου είναι εγγενώς αναπάντητα».
Για να περιορίσουν τις «ψευδαισθήσεις», οι χρήστες θα μπορούσαν να δίνουν εντολή στο LLM να απαντά με ένα «Δεν ξέρω» αν δεν γνωρίζει την απάντηση και να τροποποιούν το υπάρχον σύστημα βαθμολόγησης για τους τύπους απαντήσεων που δίνει, ανέφερε η OpenAI.
Δεν υπάρχουν σχόλια
Δημοσίευση σχολίου