Automazione e agency: i sistemi di counter-speech tra effi-cienza algoritmica e resistenza comunitaria

È precisamente la tensione tra efficienza algoritmica e agency comunita-ria che questo capitolo si propone di indagare. L’analisi muove dal presup-posto che i sistemi di counter-speech automatizzato costituiscano un feno-meno intrinsecamente sociotecnico, che richiede attenzione simultanea alle dimensioni strutturali, culturali e performative del discorso d’odio (Brown, 2017; Pohjonen e Udupa, 2017). Il framework teorico adottato si colloca all’intersezione tra Science and Technology Studies (STS) e teoria della governamentalità algoritmica (Rou-vroy, 2013; Rouvroy e Berns, 2013; Introna, 2016). Questa prospettiva con-sente di analizzare i sistemi automatizzati di counter-speech come tecnologie di governo: dispositivi che non si limitano a “rispondere” a contenuti preesi-stenti, ma che producono attivamente categorie, soggettività e relazioni di potere (Bucher, 2018; Gorwa et al., 2020; Yeung, 2017). Il concetto di co-produzione (Jasanoff, 2004) guida l’analisi: i sistemi di counter-speech non sono strumenti neutrali applicati a un problema sociale preesistente, ma par-tecipano alla definizione stessa di cosa costituisca hate speech e di quali ri-sposte siano considerate appropriate. La riflessione si fonda su uno studio di caso multiplo che esamina quattro architetture sociotecniche paradigmatiche: la classificazione automatica di Perspective API (2017), la generazione knowledge-grounded di CONAN (2019), l’intelligenza artificiale generativa dei Large Language Models (2022+), e il sistema collaborativo human-in-the-loop CounterQuill (2024).