Σοφία Καρακεβά, CMO, DataScouting
Αναστάσιος Αβράμης, Γενικός Διευθυντής, DataScouting
“It’s like public lynching. It has made me frightened for my physical safety when I am out in the streets.”
Δήλωση της δημοσιογράφου Amberin Zaman, μετά τις σφοδρές λεκτικές επιθέσεις που δέχτηκε στο Twitter, επειδή κάλυψε δημοσιογραφικά τη δολοφονική επίθεση κατά δημοσιογράφων του σατιρικού περιοδικού Charlie Hebdo στο Παρίσι, τον Ιανουάριο του 2015[1].
Η ελευθερία λόγου στο διαδίκτυο είναι ουτοπική
Ποτέ στο παρελθόν η ανθρωπότητα δεν ήταν διασυνδεδεμένη σε τέτοιο βάθος και έκταση. Το διαδίκτυο, όμως, έχει τελικά βασιστεί σε «ουτοπικές αρχές της ελευθερίας του λόγου». Αυτή η παραδοχή αποτελεί ένα από τα σημαντικότερα ευρήματα στη παρουσίαση της Google με τίτλο The GoodCensor (Η Καλή Λογοκρισία). Η εν λόγω παρουσίαση διέρρευσε στην BreitbartNews τον Οκτώβριο του 2018.[2]
Η παρουσίαση με 85 διαφάνειες αποτελεί μείγμα ευρημάτων και ιδεών που προέκυψαν μέσα από συνεντεύξεις με διάφορους παράγοντες όπως δημοσιογράφους, ακαδημαϊκούς και παρατηρητές της πολιτιστικής κληρονομιάς.
Οι διαφάνειες δίνουν ένα ιστορικό για το πώς μεγάλα τμήματα του διαδικτύου έχουν κυριαρχηθεί από κακόβουλους χρήστες και το γιατί οι μεγάλες εταιρείες τεχνολογίας, αλλά και οι κυβερνήσεις δεν κατάφεραν να αντιμετωπίσουν αυτά τα θέματα.
Στους τοίχους των social media χωράνε τα πάντα – ακόμη και το μίσος
Αυτή είναι η πρώτη, η θλιβερή παραδοχή. Διότιμέσα σε μόλις δέκα χρόνια έχουμε περάσει σε μια νέα εποχή, όπου η διασύνδεση παράγει διαρκώς νέου τύπου σκέψεις, κίνητρα και ερμηνευτικά πρότυπα. Σε συνδυασμό, όμως, με την ανωνυμία που προσφέρει, έχει δημιουργήσει πρόσφορο έδαφος για τη διάδοση μισαλλόδοξου λόγου.
Με το εύλογο ερώτημα, τι ακριβώς εννοούμε με τον όρο ρητορική μίσους, να ακολουθεί. Και έτσι ερχόμαστε στη δεύτερη παραδοχή, τη ρεαλιστική αυτή τη φορά, ότι, δυστυχώς, δεν υπάρχει κοινά αποδεκτός ορισμός της ρητορικής μίσους.[3]
Το θέμα ρύθμισης της ρητορικής μίσους συχνά σχετίζεται με την ελευθερία της έκφρασης[4].Στην Ευρώπη, οι περισσότερες χώρες προασπίζονται την ελευθερία λόγου αλλά έχουν ταυτόχρονα και νόμους κατά της ρητορικής μίσους. Κάποιες χώρες, όπως η Γερμανία και η Γαλλία, έχουν θεσπίσει πολύ αυστηρές νομοθεσίες επιβάλλοντας πολύ υψηλά πρόστιμα (μέχρι και 50 εκατ. ευρώ) στις πλατφόρμες μέσων κοινωνικής δικτύωσης. Στην Ελλάδα έχουμε τον αντιρατσιστικό νόμο 4285/2014[5], όπου για να τιμωρηθεί ο μισαλλόδοξος λόγος πρέπει να συνδέεται με παρακίνηση σε βιαιοπραγία εναντίον των θιγόμενων. Στον αντίποδα, η Αμερική, όπου η ρητορική μίσους προστατεύεται συνταγματικά με την πρώτη τροποποίηση[6].
Κανόνες στα πλαίσια της κάθε κοινότητας υπάρχουν, αλλά δεν είναι δυνατόν να επιβληθούν αυστηρώς, καθώς ο έλεγχος είναι αρκετά δύσκολος. Ένα από τα κυριότερα προβλήματα που προκύπτουν από την λανθασμένη επιβολή των κανονισμών στο διαδίκτυο, είναι η άνθηση του φαινομένου της ρητορικής μίσους. Ταυτόχρονα όμως υπάρχει ο κίνδυνος να γενικεύσουμε υπερβολικά την έννοια του μισαλλόδοξου λόγου, να χάσει κάθε ρυθμιστικό περιεχόμενο και να γίνει εργαλείο καταστολής της ελευθερίας τους λόγου με τον περιορισμό, την αφαίρεση ή και την απαγόρευση του μη αρεστού λόγου στα μέσα κοινωνικής δικτύωσης.
Code of Conduct
Ας δούμε όμως τι ισχύει και για τις ίδιες τις πλατφόρμες των μέσων κοινωνικής δικτύωσης. Σύμφωνα με την Αμερικανική νομοθεσία και τις Βρυξέλλες, οι πλατφόρμες δεν είναι νομικά υπεύθυνες για το περιεχόμενο που αναρτάται στους ιστότοπους τους.
Ως ιδιωτικές εταιρείες έχουν θεσπίσει τους δικούς τους ορισμούς και όρους χρήσης σχετικά με τη ρητορική μίσους, που όλοι οι χρήστες οφείλουν να τηρούν.
Ως ένδειξη καλής θελήσεως, το 2016, τέσσερις μεγάλες πλατφόρμες (Facebook, Microsoft, Twitter και YouTube) υπέγραψαν το Code of Conduct[7], κώδικας δεοντολογίας της Ευρωπαϊκής Επιτροπής για την καταπολέμηση της διάδοσης της παράνομης ρητορικής μίσους στο διαδίκτυο. Έκτοτε προσχώρησαν στον κώδικα και άλλες εταιρείες, όπως το Instagram, Google+, Snapchat και η Dailymotion. Υπογράφοντας τον κώδικα δεοντολογίας, οι εταιρείες πληροφορικής δεσμεύτηκαν κυρίως ότι θα ελέγχουν την πλειονότητα των βάσιμων ειδοποιήσεων για παράνομη ρητορική μίσους σε λιγότερο από 24 ώρες και θα διαγράφουν τέτοιο περιεχόμενο ή θα αποκλείουν την πρόσβαση σε αυτό, εάν είναι απαραίτητο, βάσει των εθνικών νόμων που μεταφέρουν την ευρωπαϊκή νομοθεσία.
Προσβλέποντας στη Τεχνητή Νοημοσύνη
Τα έως τώρα πορίσματα των αξιολογήσεων του κώδικα δεοντολογίας είναι σίγουρα ενθαρρυντικά και αποτελούν απόδειξη ότι η όλη προσπάθεια αποτελεί σημαντικό βήμα προς τη σωστή κατεύθυνση[8]. Παρόλα αυτά, οι εταιρίες πληροφορικής απέχουν πολύ ακόμη από μια ουσιαστική και αποτελεσματική αυτόματη λύση για την καταπολέμηση της ρητορικής μίσους στις πλατφόρμες τους.
- Το YouTube έχει δηλώσει ότι το σύστημά τους κάνει λάθη και δεν πρόκειται ποτέ να είναι 100% ακριβές.
- Το Twitter παραδέχτηκε ότι η πλατφόρμα τους δεν είναι αρκετά αποτελεσματική στην ανίχνευση της ρητορικής μίσους.
- Και το Facebook ελπίζει ότι η Τεχνητή Νοημοσύνη θα τους βοηθήσει στον εντοπισμό της ρητορικής μίσους στις συνεχώς μεταβαλλόμενες μορφές του μέσα στα επόμενα χρόνια.
Ευρωπαϊκή στήριξη
Η Ευρωπαϊκή Επιτροπή έχει χρηματοδοτήσει αρκετά έργα[9] σχετικά με τη ρητορική μίσους, συμπεριλαμβανομένου του DACHS (A Data-DrivenApproachtoCounteringHateSpeech)[10]. Το έργο ανατέθηκε από κοινού στη DataScouting[11] και το Ευρωπαϊκό Κέντρο Δημοσιογραφίας[12], και υλοποιήθηκε με χρηματοδότηση της Ευρωπαϊκής Ένωσης στο πλαίσιο του προγράμματος «Δικαιώματα, Ισότητα και Ιθαγένεια 2014-2020[13].
Το DACHS εξετάζει για πρώτη φορά τη ρητορική μίσους προς δημοσιογράφους και ειδησεογραφικά κανάλια σε πέντε γλώσσες (Αγγλικά, Γερμανικά, Ισπανικά, Γαλλικά και Ελληνικά) και στοχεύει στη δημιουργία ενός μηχανισμού ανίχνευσης ρητορικής μίσους στα μέσα κοινωνικής δικτύωσης, δίνοντας τη δυνατότητα σε δημοσιογράφους να αναπτύξουν στρατηγικές καταπολέμησης αυτού του φαινομένου.
Μέσω του DACHS οι δημοσιογράφοι, και κατ’ επέκταση και άλλες ομάδες, θα μπορέσουν να κατανοήσουν καλύτερα πως εκδηλώνεται η ρητορική μίσους στα μέσα κοινωνικής δικτύωσης και πως μπορούν οι δημοσιογράφοι να αντιμετωπίσουν αυτό το φαινόμενο.
Στο πλαίσιο του DACHS η DataScouting δημιούργησε ένα ολοκληρωμένο πολυγλωσσικό σύστημα εντοπισμού ρητορικής μίσους στα μέσα κοινωνικής δικτύωσης, το οποίο θα εκπαιδεύεται διαρκώς, καθοδηγούμενο από τους χρήστες του. Οι αλγόριθμοι, αλλά και η πλατφόρμα υποβοήθησης αποφάσεων του DACHS, σχεδιάστηκαν χρησιμοποιώντας τεχνικές προσαρμοστικής μηχανικής μάθησης με την άμεση και βελτιστοποιημένη συμμετοχή του ανθρώπου «αναλυτή».
Μισαλλόδοξος λόγος κατά των δημοσιογράφων…
Οι μορφές του μισαλλόδοξου λόγου είναι πολλές και διαφέρουν και ανά χώρα, όπως διαπιστώσαμε στο πλαίσιο του έργουDACHS.
Οι τρεις κυριότερες προκλήσεις που αντιμετωπίζουν σήμερα οι δημοσιογράφοι είναι, εκτός του λαϊκισμού, η διασπορά ψευδών ή κατασκευασμένων ειδήσεων και οι αδικαιολόγητες παρεμβάσεις στο έργο τους.
Διαπιστώνονται ακόμη, εκφοβισμοί, ψυχολογική βία μέσω απειλών και διώξεων, υβριστική, έως και απειλητική συμπεριφορά, με άκρως προσβλητικά σχόλια, αλλά και παρεμβάσεις στη δραστηριότητα τους στα socialmedia.
Εξαιτίας των ερευνητικών δραστηριοτήτων τους για την προστασία του δημόσιου συμφέροντος οι δημοσιογράφοι συχνά αντιμετωπίζουν διακρίσεις και παρενόχληση ενώ υπονομεύεται και η ίδια η προσωπικότητά τους λόγω ταυτότητας φύλου, θρησκευτικών πεποιθήσεων, σεξουαλικού προσανατολισμού ή της εθνικότητας τους.[14]
Οι γυναίκες δημοσιογράφοι στοχοποιούνται σε μεγαλύτερο βαθμό από τους άνδρες συναδέλφους τους[15]. Και σε πολλές περιπτώσεις τα θύματα διστάζουν να καταγγείλουν τις επιθέσεις που δέχθηκαν και ιδιαίτερα τις απειλές που δέχθηκαν μέσω διαδικτύου.[16]
Οι ψευδείς ειδήσεις (fakenews), οι παραπλανητικές πληροφορίες και τα ψευδή, επεξεργασμένα βίντεο (cheepfakes)[17] υπονομεύουν τη σωστή, αντικειμενική και ερευνητική δημοσιογραφία. Το Facebook[18] ναι μεν ανακοίνωσε στις αρχές του 2020 νέα μέτρα για τον περιορισμό των επεξεργασμένων βίντεο και εικόνων, αλλά το μέτρο αφορά μόνο σε βίντεο που είναι προϊόν απλού μοντάζ και όχι προϊόν Τεχνητής Νοημοσύνης (deepfakes). Και άρα αρκετά deepfakes παραμένουν στις πλατφόρμες με την απλή επισήμανση ότι είναι ψεύτικα.
…και οι επιπτώσεις
Η ρητορική μίσους μπορεί να προκαλέσει άμεσες και έμμεσες επιπτώσεις στην ψυχολογία των δημοσιογράφων, βραχυπρόθεσμα και μακροπρόθεσμα, με σημαντικό αντίκτυπο και παρεμβολές στη δουλειά τους.
Τέτοιες πρακτικές υπονομεύουν το ρόλο των δημοσιογράφων με απώτερο σκοπό τη διαδικτυακή παρενόχληση τους, τον εκφοβισμό τους και την ταπείνωση τους. Έρχονται αντιμέτωποι με δημόσια δυσφήμιση, διαπόμπευση και εξευτελισμό, δέχονται απειλές θανάτους, απειλές για σωματική και σεξουαλική βία, με κάποιος να γίνονται θύματα «εικονικού λιντσαρίσματος» με στοχοθετημένες δυσφημιστικές καμπάνιες από συγκεκριμένες ομάδες.
Και μπορεί οι δημοσιογράφοι να έχουν συνηθίσει στο να γίνονται στόχος και να πρέπει να υπερασπιστούν στους εαυτούς τους. Παρόλα αυτά, πολλοί δεν καταφέρνουν να μένουν αλώβητοι απέναντι στη διαδικτυακή βία και τη ρητορική μίσους, που έχουν σοβαρό αντίκτυπο επάνω τους.
Ως θύματα της ρητορικής μίσους στο διαδίκτυο, οι δημοσιογράφοι παρουσιάζουν συχνά χαμηλή αυτοεκτίμηση, μπορεί να αισθάνονται μοναξιά ή απομόνωση ή να υποφέρουν από αυξημένο άγχος και αισθήματα φόβου και ανασφάλειας, με συνέπεια να καταλήγουν συχνά στην αυτολογοκρισία. Σαφέστατα παραβιάζεται και η ανθρώπινη αξιοπρέπειά τους.
Σύμφωνα με τη μελέτη Δημοσιογράφοι υπό πίεση: αδικαιολόγητες παρεμβολές, φόβος και αυτολογοκρισία στην Ευρώπη που δημοσίευσε το Συμβούλιο της Ευρώπης το 2017[19], πολλοί δημοσιογράφοι δήλωσαν αναγκασμένοι να υποβαθμίσουν αμφιλεγόμενα θέματα, να αποκρύψουν πληροφορίες ή να εγκαταλείψουν εντελώς κάποιο θέμα.
Όταν το μίσος σκοτώνει
Η ρητορική μίσους εναντίον των δημοσιογράφων και των μέσων μαζικής ενημέρωσης συνεχίζεται μέχρι τις μέρες μας και λαμβάνει ολοένα και πιο σοβαρές διαστάσεις.
Δε λείπουν, μάλιστα, και οι περιπτώσεις όπου οι απειλές γίνονται πραγματικότητα. Στις 7 Ιανουαρίου του 2015, στο Παρίσι, σημειώθηκε τρομοκρατική επίθεση στα γραφεία του σατιρικού περιοδικού Charlie Hebdo, με την εν ψυχρώ δολοφονία 12 ατόμων (δημοσιογράφων, σκιτσογράφων και 2 αστυνομικών).
Πριν 2 χρόνια, ένας 38-χρόνος, οπλισμένος με τουφέκι, μπήκε στην αίθουσα σύνταξης της εφημερίδας Capital Gazette στην πρωτεύουσα της πολιτείας Μέριλαντ στις Ηνωμένες Πολιτείες Αμερικής και σκόρπισε το θάνατο με πέντε νεκρούς δημοσιογράφους. Και στις δύο περιπτώσεις η επίθεση ήταν στοχευμένη και προμελετημένη.
Στην πρώτη περίπτωση αφορμή ήταν τα σατιρικά σκίτσα του προφήτη Μωάμεθ, ενώ στη δεύτερη ο δράστης θεώρησε ότι αδικήθηκε από άρθρο της εφημερίδας και δε δίστασε, πριν τη φονική επίθεση του, να αναρτήσει τις απειλές του κατά των δημοσιογράφων στο Twitter.
Μηχανική Μάθηση ενάντια στη ρητορική μίσους
‘Όλα τα παραπάνω αποτελούν αδιαμφισβήτητη απόδειξη ότι όταν η ρητορική μίσους δεν ανιχνεύεται έγκαιρα, οι επιπτώσεις μπορεί να είναι θανάσιμες. Τα τελευταία χρόνια έχει ενταθεί σε μεγάλο βαθμό το ενδιαφέρον για την αυτόματη ανίχνευση της ρητορικής μίσους στο διαδίκτυο. Το πρόβλημα όμως είναι πολυσύνθετο, καθώς δεν μιλάμε για ένα φαινόμενο το οποίο μπορεί να αντιμετωπιστεί και να ανιχνευτεί με ένα απλό φιλτράρισμα λέξεων ή με απλή προεπεξεργασία. Οι εκφάνσεις του μίσους αλλάζουν και η διαχωριστική γραμμή με το μισαλλόδοξο λόγο είναι δύσκολο να διακριθεί ακόμα και από ανθρώπους.
Στην Πληροφορική, ο τομέας της Τεχνητής Νοημοσύνης (Artificial Intelligence) είναι αυτός που προσφέρει τις σημαντικότερες λύσεις πάνω στο συγκεκριμένο πρόβλημα. Συγκεκριμένα οι εξελίξεις στην περιοχή της Μηχανικής Μάθησης (Machine Learning), και ιδιαίτερα στον τομέα των νευρωνικών δικτύων Βαθιάς Μάθησης (Deep Learning), μας έχουν δώσει τη δυνατότητα να μεταφέρουμε τη γνώση που έχει ο άνθρωπος, στην κατανόηση γραπτού λόγου και στην κατηγοριοποίηση κειμένου, εκπαιδεύοντας “έξυπνα” υπολογιστικά μοντέλα.
Για τον σκοπό αυτό στο έργο DACHS δημιουργήθηκαν πολυγλωσσικές βάσεις δεδομένων αναρτήσεων από μέσα κοινωνικής δικτύωσης που επισημάνθηκαν από ανθρώπους καθώς και άλλα μοντέλα Μηχανικής Μάθησης ως προς την ύπαρξη ή όχι ρητορικής μίσους. Αξίζει να σημειωθεί, ότι ίσως το σημαντικότερο κομμάτι πέρα από την επιλογή της αρχιτεκτονικής των μοντέλων Μηχανικής Μάθησης είναι η ποιότητα του συνόλου δεδομένων που χρησιμοποιείται για την εκπαίδευση των αλγορίθμων. Μια αφαιρετική προσέγγιση στη διαδικασία αυτή θα προσομοίαζε τη διαδικασία της τεχνητής μάθησης με αυτή του ανθρώπου όπου με βάση τα παραδείγματα που διαβάζουμε φτάνουμε στη γνώση αποκτώντας τη δυνατότητα να κρίνουμε και νέα παραδείγματα που δεν έχουμε δει ποτέ. Ταυτόχρονα, όπως ο άνθρωπος συνεχίζει να εκπαιδεύεται δια βίου, έτσι και τα μοντέλα αυτά έκαναν χρήση της τεχνολογίας ενεργής μάθησης, έτσι ώστε το λογισμικό ανίχνευσης να μπορεί να ζητά την βοήθεια ανθρώπων όταν συναντήσει μια ανάρτηση για την οποία δεν έχει σαφή απάντηση και έτσι, λαμβάνοντας υπόψη του αυτή την οδηγία, να μπορεί να γίνεται όλο και καλύτερο προσθέτοντας στην πρότερη του γνώση.
Για την υποστήριξη όλων αυτών των διαδικασιών ήταν απαραίτητη η συλλογή και η διαχείριση τεράστιου όγκου δεδομένων, με απόλυτο σεβασμό στην ιδιωτικότητα και τις κατευθύνσεις του Γενικού Κανονισμού Προστασίας Δεδομένων. Ταυτόχρονα αξιοποιήθηκαν τεχνολογίες της τρέχουσας τεχνολογικής στάθμισης στον τομέα της κατανόησης γραπτού λόγου αντιμετωπίζοντας προκλήσεις όπως οι διάφορες γλωσσικές ιδιαιτερότητες και χαρακτηριστικά της κάθε γλώσσας, τις διαλέκτους, καθώς και τους διαφορετικούς τρόπους έκφρασης που “επιβάλλουν” τα κοινωνικά δίκτυα ως μέσο διάδοσης.
Η συμβολή της έρευνας και της τεχνολογίας στην κοινωνία
Στο πλαίσιο του έργου DACHS[20], η DataScouting υλοποίησε:
- Μοντέλα ανίχνευσης ρητορικής μίσους και μισαλλόδοξης ομιλίας που βασίζονται σε τεχνολογίες Μηχανικής Μάθησης.
- Βάσεις δεδομένων ρητορικής μίσους σε πέντε γλώσσες (Αγγλικά, Ελληνικά, Ισπανικά, Γαλλικά και Γερμανικά).
- Έναν μηχανισμό έγκαιρης ειδοποίησης[21] με τον οποίο μπορούν οι δημοσιογράφοι να ενημερώνονται για περιπτώσεις ρητορικής μίσους.
- Αλλά και ένα μηχανισμό[22] που μπορούν οι ίδιοι οι δημοσιογράφοι να αξιολογούν αναρτήσεις ως ρητορική μίσους και με αυτό τον τρόπο να βοηθούν στην εξέλιξη των αντίστοιχων μοντέλων.
Από το έργο αναμένεται να ωφεληθεί ένας σημαντικός αριθμός δημοσιογράφων στην Ευρώπη, όπως και ερευνητές[23], ενώ το έργο στοχεύει και στην περαιτέρω επέκταση του σε άλλες ευάλωτες ομάδες στην Ευρώπη.
Το πρωτότυπο άρθρο δημοσιεύτηκε στο περιοδικό ΣΥΝήΓΟΡΟΣ, τεύχος 138/2020, Μάρτιος – Απρίλιος 2020
[1]https://www.bbc.com/news/blogs-eu-31162437
[2]https://www.breitbart.com/tech/2018/10/09/the-good-censor-google-growth-strategy-shift-towards-censorship-to-appease-authoritarian-governments/
[3]H Σύσταση (97) 20 της Επιτροπής Υπουργών του Συμβουλίου της Ευρώπης είναι ένα από τα λίγα έγγραφα που παρέχει ένα περιεκτικό ορισμό της ρητορικής μίσους. https://www.echr.coe.int/Documents/Convention_ENG.pdf
[4]Η ελευθερία της έκφρασης προβλέπεται από αρκετά διεθνή, ευρωπαϊκά και εθνικά έγγραφα (για παράδειγμα το Άρθρο 10 της Ευρωπαϊκής Σύμβασης για τα Δικαιώματα του Ανθρώπου, την Ευρωπαϊκή Ένωση και την απόφαση-πλαίσιο 2008/913/ΔΕ, ή το Διεθνές Σύμφωνο για τα Ατομικά και Πολιτικά Δικαιώματα.
[5]https://www.taxheaven.gr/law/4285/2014
[6]http://www.ala.org/advocacy/intfreedom/hate
[7]The EU Code of conduct on countering illegal hate speech online; https://ec.europa.eu/info/policies/justice-and-fundamental-rights/combatting-discrimination/racism-and-xenophobia/eu-code-conduct-countering-illegal-hate-speech-online_en
[8]Η τέταρτη αξιολόγηση του κώδικα δεοντολογίας της ΕΕ, https://ec.europa.eu/greece/news/20190204/kodikas_deontologias_el
[9]Hate Speech Watch (http://archives.nohatespeechmovement.org/hate-speech-watch/instructions); eMore(https://www.rissc.it/our-projects/emore-project/); Mandola (http://mandola-project.eu/)
[10]https://hatedetection.com/
[12]European Journalism Centre; https://ejc.net/
[13]https://ec.europa.eu/commission/presscorner/detail/en/ip_20_358
[14]https://www.europarl.europa.eu/doceo/document/A-8-2018-0144_EL.html
[15]New Challenges to Freedom of Expression: Countering Online Abuse of Female Journalists, OSCE;https://www.osce.org/fom/220411?download=true
[16]http://ergasianet.gr/2016/03/10/meta100316-15614/
[17]γνωστών επίσης και ως shallowfakes ή dumpfakes
[18]https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/
[19]Journalists under pressure – Unwarranted interference, fear and self-censorship in Europe; https://rm.coe.int/journalists-under-pressure-fa-en-/168097e9e1
[20]https://hatedetection.com/
[21]https://alert.hatedetection.com/login
