Το Facebook ανακοίνωσε πως διέγραψε ή απέστειλε προειδοποιήσεις σχετικά με 29 εκατομμύρια posts που παραβίαζαν τους κανόνες του όσον αφορά στη ρητορική μίσους, το βίαιο περιεχόμενο, την τρομοκρατία και το σεξ μέσα στους πρώτους τρεις μήνες του έτους.
Όπως σημειώνει το BBC, είναι η πρώτη φορά που η εταιρεία δημοσιοποιεί αριθμούς και στοιχεία σχετικά με την έκταση των προσπαθειών της για να επιβάλει την τήρηση των κανόνων χρήσης του κοινωνικού δικτύου.
Το Facebook αναπτύσσει εργαλεία τεχνητής νοημοσύνης για να υποστηρίξει τη δουλειά των 15.000 ανθρώπων moderators του, ωστόσο η σχετική αναφορά υποδεικνύει ότι το λογισμικό έχει πρόβλημα στον εντοπισμό κάποιων ειδών χρήσης που γίνεται κατά παράβαση των κανόνων: Για παράδειγμα, η εταιρεία ανέφερε πως οι αλγόριθμοί του υπέδειξαν μόνο το 38% των δημοσιεύσεων ρητορικής μίσους μέσα στην περίοδο αυτή, κάτι που σημαίνει ότι το 62% υποδείχτηκε μέσω αναφορών από χρήστες. Αντίθετα, τα εργαλεία του Facebook εντόπισαν το 99,5% της προπαγάνδας υπέρ του Ισλαμικού Κράτους, της Αλ Κάιντα και άλλων οργανώσεων.
Επίσης τα στοιχεία δείχνουν πως το Facebook πιστεύει ότι οι χρήστες είναι πιο πιθανόν να έχουν δει ακραία βίαιο υλικό και γυμνό στην υπηρεσία του μέσα στο τρίμηνο Ιανουαρίου – Μαρτίου σε σχέση με τους τρεις προηγούμενους μήνες. Ωστόσο, δεν έχει αναπτυχθεί ακόμα τρόπος να διαπιστωθεί εάν αυτό ισχύει για τη ρητορική μίσους και την τρομοκρατική προπαγάνδα.
Το Facebook εκτιμά επίσης ότι περίπου το 3%-4% όλων των ενεργών χρηστών στο Facebook είναι ψεύτικοι λογαριασμοί (fake accounts) και ανέφερε πως 583 τέτοιοι «κατέβηκαν» στο διάστημα Ιανουαρίου – Μαρτίου. Παράλληλα, τα στοιχεία δείχνουν ότι το ακραία βίαιο υλικό έχει αυξηθεί κατά πολύ – με άνοδο της τάξης του 183% μεταξύ των δύο περιόδων που παρουσιάζονται στην αναφορά. Επίσης, στο χρονικό διάστημα αυτό διεγράφησαν 1,9 εκατ. αποσπάσματα εξτρεμιστικού περιεχομένου – αύξηση 73% σε σχέση με το προηγούμενο τρίμηνο. Όσον αφορά στα αίτια πίσω από αυτά τα ποσοστά, αποδίδονται στην κλιμάκωση των συγκρούσεων στη Συρία και στη βελτίωση της τεχνολογίας εντοπισμού.
Σε ό,τι αφορά τη ρητορική μίσους, αντιμετωπίστηκαν 2,5 εκατ. περιπτώσεις (αύξηση 56% σε σχέση με το διάστημα Οκτωβρίου – Δεκεμβρίου). Εδώ αξίζει να σημειωθεί πως συμμετείχαν ευρέως άνθρωποι moderators, οι οποίοι όμως είχαν επίσης πρόβλημα ως προς το να επιλέγουν τι θα έπρεπε να μείνει και τι να διαγραφεί.
Από πλευράς του, το Twitter αναθεώρησε την Τρίτη την στρατηγική του σχετικά με την αντιμετώπιση των «τρολ» στο Ίντερνετ, ανακοινώνοντας ότι θα χρησιμοποιούνται συμπεριφορικές ενδείξεις/ σήματα για να εντοπίζονται αυτοί οι χρήστες και να περιορίζεται το πόσο προβάλλονται τα tweets τους. Όπως σημειώνει το Reuters, ήδη οι κανόνες του Twitter απαγορεύουν αυτή τη δραστηριότητα, και είναι δυνατό το «πάγωμα» ή το μπλοκάρισμα λογαριασμών όταν κάποιος κάνει αναφορά. Επίσης, οι χρήστες μπορούν να κάνουν «mute» αυτούς που βρίσκουν προσβλητικούς.
Ο διευθύνων σύμβουλος, Τζακ Ντόρσεϊ, είπε πως το Twitter τώρα θα προσπαθεί να βρίσκει προβληματικούς λογαριασμούς εξετάζοντας συμπεριφορές, όπως το πόσο συχνά κάνουν tweets για λογαριασμούς που δεν τους κάνουν follow, ή το αν έχουν επιβεβαιώσει τις διευθύνσεις email τους.
Τα tweets από αυτούς τους λογαριασμούς θα εμφανίζονται χαμηλότερα σε συγκεκριμένα σημεία της υπηρεσίας, ακόμα και αν δεν παραβιάζουν τους κανόνες χρήσης. Ωστόσο, όπως διευκρίνισε ο Ντόρσεϊ, τα tweets δεν θα διαγράφονται πλήρως βάσει των συμπεριφορικών ενδείξεων.
