Σφάλμα συστήματος

Η Τεχνητή Νοημοσύνη εξελίσσεται με τόσο γρήγορο ρυθμό, ώστε σύντομα ενδέχεται να μπορεί να βελτιώνεται, χωρίς ανθρώπινη παρέμβαση, σύμφωνα με ανάρτηση της Anthropic της 4ης Ιουνίου. «Τα εσωτερικά μας δεδομένα δείχνουν… μια πιθανή πορεία προς την αναδρομική αυτοβελτίωση ή την αυτόνομη δημιουργία ενός πιο ικανού διαδόχου». Να της ζήσει, με το καλό να ανθίσει. Τι, όχι;

Η εταιρεία-γονιός έχει γνώση. «Ως οργανισμοί και, τελικά, ως κοινωνίες, πρέπει να βρούμε τα εργαλεία, ώστε να επαληθεύουμε ότι όσα παράγουν αυτά τα συστήματα είναι σωστά και ευθυγραμμισμένα με τις ανθρώπινες προθέσεις και μια υγιή κοινωνία».

Με όποιον δάσκαλο καθίσεις, τέτοια πράγματα θα μάθεις. Ποια υγιή κοινωνία; Αυτήν που είναι δομημένη πάνω στον άκρατο ανταγωνισμό και την κυριαρχία, που στα παιχνίδια μηδενικού αθροίσματος ανακαλύπτει την ουσία, που ηδονίζεται από την αήθεια και την αλαζονεία;

Σύντομα ενδέχεται να βελτιώνεται η Τ.Ν., λοιπόν. Δηλαδή, π.χ., ένα αυτόνομο οπλικό σύστημα θα αντιμετωπίσει το απρόβλεπτο, ό,τι δεν εμπίπτει στο μοτίβο που το ταΐσαμε; Θα αυτοσχεδιάσει, θα αντιδράσει σε καταστάσεις που δεν τις ξέρει από ένα μεγάλο πλήθος δεδομένων εκπαίδευσης; Ένα αυτόνομο οπλικό σύστημα, που σήμερα εκτελεί εντολές, θα αρνηθεί να πατήσει το «κουμπί», διακρίνοντας ότι ο στόχος είναι ένα παιδί, ένα σχολείο, ένα νοσοκομείο;

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

«Απολογία» του Κιέβου για το ουκρανικο θαλάσσιο drone στην Λευκάδα

Είναι προφανές ότι σφάλματα ελλοχεύουν και στους ορισμούς. «Βελτίωση», «Νοημοσύνη», «σωστά και ευθυγραμμισμένα».

Αν δεν ξανασκεφτούμε τι σημαίνει άνθρωπος, μήπως θα το ορίσουν τα συστήματα που γεννήθηκαν από τα δικά μας δεδομένα, χωρίς τη δική μας πηγαία εμπειρία; Μήπως μας ορίσουν αρνητικά, ως αυτό που δεν είναι μηχανή;

Υπάρχει κι άλλη εκδοχή. Να μετράμε τον άνθρωπο με όρους μηχανής, ταχύτητας, λειτουργικότητας, αποτελεσματικότητας. Και τότε το αληθινά ανθρώπινο, που κουβαλά τραύμα, σώμα, σχέση με τον άλλο και τον χρόνο, κάτι που δεν εξηγείται, κάτι που δεν δικαιολογείται, σφάλμα συστήματος να θεωρείται.