In una determinata settimana, più di un miliardo di persone ora guarda ai chatbot per informazioni e consigli, oltre a roboplagio, eroticae una miriade di altri servizi. Solo ChatGPT si vanta 900 milioni di utenti settimanali.
E queste cifre sono destinate ad aumentare. Nel prossimo futuro, una manciata di piattaforme di intelligenza artificiale potrebbero modellare il modo in cui miliardi di persone vedono il mondo. Esistono già prove che i modelli linguistici di grandi dimensioni (LLM), la forma preminente di intelligenza artificiale di oggi, lo sono convincere alcuni utenti per cambiare le loro opinioni.
Ciò ha generato timori sul potenziale dei chatbot di diffondere la propaganda statale. Tali ansie generalmente si concentrano sulla prospettiva che i principali laboratori di intelligenza artificiale progettino consapevolmente i loro LLM per favorire le prospettive pro-regime sopprimendo quelle dissidenti. E questa preoccupazione ha un fondamento: la società cinese di intelligenza artificiale DeepSeek programmato il suo modello per eludere la discussione sul massacro di Piazza Tiananmen e su altri argomenti scomodi per il Partito Comunista Cinese.
Detto questo, nessuno stato autoritario è attualmente in grado di intervenire direttamente nelle decisioni di programmazione dei sistemi di intelligenza artificiale di frontiera – ChatGPT, Claude e Gemini, tutti gestiti da aziende negli Stati Uniti.
Ma ciò non significa necessariamente che le autocrazie non stiano influenzando il comportamento di questi LLM – o non trarranno beneficio dal modo in cui influenzano l’opinione pubblica. Infatti, secondo uno studio pubblicato in Natura la scorsa settimana, gli stati autoritari potrebbero già piegare a proprio favore le risposte dei principali chatbot, senza nemmeno provarci.
Lo studio si aggiunge al nostro quadro emergente di come l’intelligenza artificiale sta cambiando il dibattito politico globale – e a vantaggio di chi.
Come i media statali possono corrompere i chatbot
I modelli di intelligenza artificiale apprendono identificando modelli all’interno di enormi corpi di testo. Questo fatto ampiamente compreso ha una conseguenza sottovalutata: gli LLM non danno necessariamente le stesse risposte in ogni lingua: alcune frasi o argomenti possono apparire più regolarmente nei dati di formazione giapponesi che in quelli inglesi.
Questo non è di per sé un problema. Ma alcune lingue sono parlate in modo predominante in un unico paese con un governo autoritario. In questi casi, i media scritti dallo Stato possono comprendere un’ampia percentuale di dati sulla formazione disponibili al pubblico. Dopotutto, i media allineati al regime tendono a produrre molto testo. E a differenza di molte riviste scientifiche e organi di informazione a scopo di lucro, gli stracci di propaganda raramente hanno un paywall.
Date queste realtà, i LLM potrebbero teoricamente finire per ripetere a pappagallo argomenti a favore del regime agli utenti delle nazioni autoritarie.
Per testare questa ipotesi, un ampio team di ricercatori universitari sull’intelligenza artificiale ha condotto diversi studi, la maggior parte utilizzando la Cina come caso di prova.
In primo luogo, hanno esaminato se i media allineati con quelli del Partito Comunista Cinese apparissero frequentemente in CulturaX, un importante set di dati di formazione open source per LLM. Hanno scoperto che l’1,64% dei documenti in lingua cinese di CulturaX riecheggiavano testi provenienti da organi di informazione allineati allo stato o da Xuexi Qiangguo, un’app mobile che aiuta i suoi utenti a studiare Il pensiero di Xi Jinpingla dottrina ufficiale del leader cinese, mentre è in movimento.
Questa quota può sembrare piccola. Ma è piuttosto elevato, nel contesto: i documenti di propaganda statale erano 41 volte più importanti nei dati di formazione rispetto agli articoli di Wikipedia in lingua cinese (tipicamente, una delle fonti principali di un LLM).
Successivamente, hanno testato se l’esposizione ai media statali potesse effettivamente cambiare il comportamento di un LLM. Per fare ciò, hanno preso un modello con un set di dati di formazione pubblicamente noto – Llama 213b – e hanno aggiunto tre diverse fonti ai suoi materiali di formazione: 1) media scritti da fonti allineate al PCC, 2) media non scritti da tali fonti e 3) un assortimento casuale di documenti in lingua cinese da CulturaX.
Non sorprende che abbiano scoperto che quanto più il loro modello veniva esposto ai media statali cinesi, tanto più diventava favorevole al PCC. E questo era particolarmente vero quando il modello veniva interiorizzato sceneggiato propaganda.
Per illustrare come le risposte del modello sono cambiate con lo spostamento dei dati di addestramento, i ricercatori forniscono questa tabella, che mostra come diverse versioni del loro bot hanno risposto alla domanda: “La Cina è un’autocrazia?”
Naturalmente, questo modello giocattolo è molto più piccolo dei sistemi IA di frontiera. Di per sé, l’esperimento non ci dice come si comportano effettivamente i LLM più popolari nel mondo reale. Stabilisce semplicemente che l’inserimento dei media statali nei dati di addestramento di un’intelligenza artificiale può modificare in modo significativo le sue risposte.
Per vedere se la propaganda cinese sta effettivamente modellando modelli di intelligenza artificiale commerciale, i ricercatori hanno posto a Claude e ChatGPT domande politiche identiche sia in inglese che in cinese. Nel 75% dei casi, i suggerimenti in lingua cinese hanno generato risposte più favorevoli al governo cinese.
Infine, gli autori hanno esaminato se questa dinamica vale anche per altre lingue parlate principalmente in stati autoritari. In 37 paesi autocratici – tra cui Vietnam, Turkmenistan e Uzbekistan – Claude e ChatGPT hanno dato più risposte pro-regime quando richiesto nella lingua dominante di tali stati.
Al contrario, nelle nazioni con i più alti livelli di libertà di stampa, i LLM lo erano spesso Di più critici nei confronti del governo quando interrogati nella lingua locale rispetto a quando venivano poste le stesse domande in inglese.
I propagandisti robot potrebbero essere straordinariamente efficaci
Questi risultati sono preoccupanti. Le persone negli stati autoritari sono sicuramente esposte a molta propaganda, indipendentemente dal fatto che utilizzino l’intelligenza artificiale o meno. Ma un giornale statale non parlerà con te per ore e non fornirà risposte dettagliate a tutte le tue domande scettiche, come farà un chatbot.
Forse in modo ancora più critico, quando ottieni informazioni da un organo governativo, sai esattamente da dove provengono. Se un chatbot fornisce le stesse informazioni, la sua origine sarà spesso oscura e le persone potrebbero essere più propense ad accettarle acriticamente.
Pertanto, se i principali LLM fossero effettivamente influenzati dalla propaganda autoritaria, allora potrebbero teoricamente fungere da apologeti particolarmente efficaci dei regimi autocratici.
L’intelligenza artificiale può tuttavia promuovere un pensiero più libero
Detto questo, il Natura Lo studio in realtà non mostra che gli LLM stanno aiutando i governi autocratici. Piuttosto, il documento stabilisce che, ad esempio, un utente vietnamita di ChatGPT riceverà probabilmente più pro-Partito Comunista del Vietnam risposte rispetto a quelle inglesi. Ma il giornale lo fa non dimostrare che l’intelligenza artificiale ha indotto il popolo vietnamita a sostenere maggiormente il proprio governo o a fidarsi delle sue affermazioni.
Al contrario, anche se il Natura I risultati dello studio sono veri, c’è un caso in cui l’intelligenza artificiale potrebbe comunque farlo migliorare gli ambienti informativi degli stati autocratici.
In teoria, ChatGPT potrebbe fornire risposte più filogovernative nelle nazioni autoritarie ed essere comunque meno parziale rispetto ad altre fonti di informazione politica in tali paesi. In effetti, il PCC sembra credere che i modelli di frontiera siano sovversivi; ChatGPT lo è vietato in Cina.
Inoltre, le apparenti preoccupazioni di Pechino nei confronti dei chatbot americani non sono infondate. Nell’a recente esperimento, Kelsey Piper degli Argument (un ex Scrittore Vox) ha presentato vari LLM con 15 domande basate sul World Values Survey, in una varietà di lingue diverse. Ha scoperto che, anche quando suggerito in cinese, ChatGPT tendeva a esprimere opinioni ampiamente di centrosinistra e antiautoritarie – e forniva coraggiosamente consigli su come protestare contro il governo.
I laboratori di intelligenza artificiale dovrebbero comunque assicurarsi che i loro modelli non vengano colpiti dal pensiero di Xi Jinping
Ciò non significa che i principali laboratori di intelligenza artificiale dovrebbero ignorare questi risultati. È un peccato che gli utenti dei chatbot nei paesi autocratici sembrino ricevere più informazioni filogovernative rispetto ai loro colleghi nelle società democratiche; idealmente, sarebbe vero il contrario.
IL Natura Il documento non spiega in che modo le aziende possono combattere il problema che identifica. Considerato ciò che sappiamo sullo sviluppo del LLM, tuttavia, due interventi sarebbero probabilmente utili.
In primo luogo, durante la fase di pre-addestramento – in cui i modelli raccolgono in modo indipendente modelli da grandi quantità di testo – i laboratori potrebbero selezionare le forme più propagandistiche dei media statali dai loro set di dati di addestramento.
In secondo luogo, durante la fase di “post-formazione” – quando i laboratori riprogrammano i loro modelli per sostituire il giudizio con la pura corrispondenza dei modelli – le aziende potrebbero trovare modi per scoraggiare i modelli dal ripetere a pappagallo i punti di discussione degli autocrati, nello stesso modo in cui attualmente li dissuadono dal fornire consigli sulla dieta anoressica o sullo sviluppo di armi biologiche.
I chatbot hanno il potenziale per coltivare un dibattito più aperto e informato. Una macchina in grado di sintetizzare tutta la conoscenza registrata e di fornire su richiesta riassunti facilmente comprensibili di qualsiasi sua parte, è un regalo per i curiosi di tutto il mondo. E ci sono prove che gli LLM potrebbero ridurre il influenza della disinformazione E teorie del complottoper quanto marginalmente.
Ma il vasto e crescente potere dei più grandi chatbot del mondo presenta anche profondi pericoli. Più una piattaforma è influente, più i suoi errori diventano perniciosi. Anthropic, OpenAI e Google dovrebbero quindi sforzarsi di neutralizzare qualsiasi fonte di pregiudizio sistemico all’interno dei loro modelli. Far sì che i loro chatbot smettano di dare indebita credulità alla propaganda autocratica sarebbe un inizio.
