Skip to main content

Επικίνδυνα fake news σκαρφίζεται και διαρρέει το ChatGPT

Αποκαλύφθηκε μια αρνητική στα όρια του κακόβουλου πλευρά του διάσημου προγράμματος τεχνητής νοημοσύνης.

Ο Τζόναθαν Τάρτλει είναι ένας διακεκριμένος καθηγητής νομικής στις ΗΠΑ που εργάζεται στο Πανεπιστήμιο Τζορτζ Ουάσιγκτον στην πρωτεύουσα των ΗΠΑ. Πριν από λίγες μέρες ο καθηγητής έλαβε ένα e-mail στο οποίο τον ενημέρωναν ότι υπάρχει δημοσίευμα της εφημερίδας Washington Post που τον εμπλέκει σε υπόθεση σεξουαλικής παρενόχλησης.

Όλα ξεκίνησαν όταν κάποιος δικηγόρος ζήτησε από το πρόγραμμα τεχνητής νοημοσύνης ChatGPT να του δώσει μια λίστα με στελέχη του ακαδημαϊκού χώρου των ΗΠΑ που το όνομα τους έχει εμπλακεί σε υποθέσεις σεξουαλικής παρενόχλησης. Στη λίστα που έδωσε το πρόγραμμα ήταν και το όνομα του Τάρτλει με το ChatGPT να επικαλείται δημοσίευμα της Washington Post του 2018 σύμφωνα με το οποίο ο καθηγητής είχε κάνει ανάρμοστες κινήσεις σε κάποιο φοιτητή/τρια κατά τη διάρκεια εκπαιδευτικής εκδρομής στην Αλάσκα.

Ο Τάρτλει έμεινε έκπληκτος αφού το περιστατικό δεν θα μπορούσε να έχει συμβεί μιας και το ταξίδι αυτό δεν είχε γίνει ποτέ. Το πρόγραμμα επικαλέστηκε σχετικό άρθρο της Washington Post το οποίο όμως όπως αποδείχτηκε ήταν και αυτό ανύπαρκτο με την εφημερίδα να αντιδρά και να κάνει σχετική δημοσίευση καταγγέλλοντας το περιστατικό.

«Ήταν μια έκπληξη για μένα από την στιγμή που δεν έχω πάει ποτέ με φοιτητές στην Αλάσκα η εφημερίδα ουδέποτε δημοσίευσε τέτοιο ρεπορτάζ και επίσης δεν έχω κατηγορηθεί ποτέ για σεξουαλική παρενόχληση» δήλωσε ο Τάρτλει στην ειδησεογραφική ιστοσελίδα Business Insider που πραγματοποίησε έρευνα σχετικά με αυτό το θέμα. Οι δημοσιογράφοι της ιστοσελίδας αναζήτησαν απαντήσεις για το τι συνέβη τόσο μέσω του ChatGPT όσο και μέσω της μηχανής αναζήτησης Bing της Microsoft η οποία αναβαθμίζεται συνεχώς με βάση την τεχνολογία του ChatGPT αλλά και τα δύο προγράμματα δεν μπόρεσαν να δώσουν κάποιες απαντήσεις για το τι συνέβη.

Το περιστατικό αυτό προκαλεί φυσικά έντονες ανησυχίες για τη δημιουργία και διασπορά ψευδών ειδήσεων με αυτό τον τρόπο και εγείρει μια σειρά από ερωτήματα που ξεκινούν από το πώς και γιατί δημιουργεί ψεύτικες ειδήσεις το ChatGPT και καταλήγουν στο ποιος είναι υπεύθυνος για τη δημιουργία fake news από ένα πρόγραμμα τεχνητής νοημοσύνης.

Ο εκπρόσωπος της εταιρείας Open AI που δημιούργησε και εξελίσσει το ChatGPT τοποθετήθηκε στο συγκεκριμένο περιστατικό μετά τη δημοσιότητα που έλαβε περιοριζόμενος στο να αναφέρει πώς όταν κάποιος χρήστης αποφασίζει να χρησιμοποιήσει το πρόγραμμα κατά τη διαδικασία εγγραφής ενημερώνεται ότι είναι πιθανό το πρόγραμμα να μην δίνει πάντα σωστές απαντήσεις και ότι η ακρίβεια των πληροφοριών που δίνει το πρόγραμμα αποτελούν μόνιμο πεδίο προσπάθειας των τεχνικών της εταιρείας.

Η μαζική χρήση του ChatGPT από δεκάδες εκατ. χρήστες καθημερινά μετά την μεγάλη δημοσιότητα που έχει λάβει τους τελευταίους μήνες έχει αναδείξει διαφόρων ειδών προβλήματα στη λειτουργία του και έχει διαπιστωθεί ότι όχι σπάνια παρέχει απαντήσεις που βασίζονται σε λάθος πληροφορίες τις οποίες είχε συλλέξει από πηγές που με την δική τους σειρά δεν είχαν ελέγξει σωστά ή το πρόγραμμα είχε επεξεργαστεί με λάθος τρόπο κάποια δεδομένα και πληροφορίες καταλήγοντας σε λάθος συμπέρασμα με αποτέλεσμα να δώσει λάθος απάντηση. Όμως είναι η πρώτη φορά που αποκαλύπτεται ότι το πρόγραμμα μπορεί να εφευρίσκει στοιχεία για κάποιο ερώτημα που του τίθεται και να επικαλείται επιπλέον μια πηγή η οποία είναι ανύπαρκτη και αυτό όπως είναι ευνόητο προκαλεί πολύ μεγάλη ανησυχία αφού τέτοιου είδους fake news όπως αυτό για τον καθηγητή νομικής στον διασυνδεδεμένο σύγχρονο κόσμο θα κυκλοφορήσει παντού σε ελάχιστο χρόνο και θα είναι πολύ δύσκολο στη συνέχεια να αναστραφεί η ζημιά που θα έχει προκληθεί.

Naftemporiki.gr