Ερευνητές του School of Interactive Computing του Georgia Institute of Technology ανέπτυξαν μια πρωτοποριακή μέθοδο η οποία θα μπορούσε να βοηθήσει σημαντικά στην αποτελεσματική αντιμετώπιση των προσβλητικών σχολίων online.
Όπως αναφέρεται σε δημοσίευμα του PhysOrg, οι δημιουργοί της συγκεκριμένης τεχνικής την αποκαλούν BoC (Bag of Communities), και αυτό που κάνει είναι να εκπαιδεύει έναν αλγόριθμο στο να εντοπίζει την προσβλητική συμπεριφορά εντός συγκεκριμένων διαδικτυακών κοινοτήτων.
Οι ερευνητές ξεχώρισαν εννιά διαφορετικές κοινότητες. Πέντε χαρακτηρίζονταν από ιδιαίτερα συχνά φαινόμενα προσβλητικής συμπεριφοράς από τους σχολιαστές και τέσσερις, που υποβάλλονται σε στενή, αυστηρή επίβλεψη, έχουν ιδιαίτερα «βοηθητικό/ υποστηρικτικό» χαρακτήρα. Χρησιμοποιώντας γλωσσικά χαρακτηριστικά από αυτά τα δύο είδη κοινοτήτων, οι ερευνητές δημιούργησαν έναν αλγόριθμο που μπορεί να μαθαίνει από σχόλια και, όταν δημιουργείται ένα νέο post, μπορεί να προβαίνει σε εκτίμηση για το αν είναι προσβλητικό ή όχι.
Οι ερευνητές δημιούργησαν δύο αλγορίθμους: έναν στατικό, ο οποίος δεν έχει λάβει εκπαιδευτικά παραδείγματα από την κοινότητα που του έχει ανατεθεί, και έναν δυναμικό, που αξιοποιεί «φρέσκα» δεδομένα, βλέποντας σχόλια που έχουν αξιολογηθεί από ανθρώπους moderators. Στην πρώτη περίπτωση, το ποσοστό ακρίβειας ήταν περίπου 75%, ενώ στη δεύτερη έφτασε το 91.8%, έχοντας πρώτα δει 100.000 posts που αξιολογήθηκαν από ανθρώπους moderators. Όπως επεσήμανε ο Εσβάρ Τσαντρασεχαράν, διδακτορικός φοιτητής του Georgia Tech που ηγήθηκε της ομάδας, μια νέα κοινότητα που δεν έχει επαρκείς πόρους για να αποκτήσει ειδικά διαμορφωμένους/ προσαρμοσμένους αλγορίθμους, θα μπορούσε να χρησιμοποιεί το στατικό μοντέλο.
Όπως εκτιμά ο Έρικ Γκίλμπερτ, βοηθός καθηγητής στo School of Interactive Computing και μέλος της ομάδας των ερευνητών, ένα τέτοιο μοντέλο θα μπορούσε να έχει πολύ ευρεία εφαρμογή. «Πρόκειται για ένα βασικό πρόβλημα του Ίντερνετ. Τόσοι πολλοί το αντιμετωπίζουν με δυσκολία, και πολλοί αποκλείουν σχόλια επειδή απλά δεν θέλουν να πρέπει να αντιμετωπίσουν με τα προβλήματα που αυτά προκαλούν».
