Il problema della pornografia non consensuale di Grok fa parte della lunga e grossolana eredità della tecnologia

Nelle ultime settimane, quello di Elon Musk Il bot Grok AI ha generato immagini pornografiche di donne e ragazze minorenni, senza il loro consenso, a un ritmo sorprendente. Un recente L’analisi di Bloomberg ha scoperto che Grok crea 6.700 immagini di questo tipo all’ora o più di una al minuto. Venerdì, X ha finalmente messo alcune protezioni minori sullo strumento, con una nuova politica che solo gli abbonati paganti possono utilizzare Grok per generare o modificare immagini. Sull’app Grok standalone, tuttavia, chiunque può farlo chiedi a Grok di generare nuove immaginiil che significa che il porno deepfake continua.

Grok è stato a lungo uno dei modelli più suggestivi tra i principali modelli di intelligenza artificialecon impostazioni “piccante” e “sexy” che possono essere attivate e disattivate. Mentre i dipendenti hanno avvertito che il bot viene utilizzato per generare materiale pedopornograficoMusk è rimasto fedele all’idea che Grok sarebbe il modello di intelligenza artificiale più sexy. Su X, Musk ha difeso la scelta per motivi commercialicitando la famosa storia di come VHS batté Betamax negli anni ’80 dopo che l’industria del porno ha sostenuto il VHScon la sua maggiore capacità di archiviazione. “Alla fine il VHS ha vinto”, ha scritto Musk, “in parte perché hanno consentito la modalità piccante 😉.”

C’è una certa dose di verità nell’opinione di Musk. L’industria del porno tende a premiare i primi ad adottarlo, e i soldi che si possono guadagnare con il porno significano che ha una leva impressionante quando si tratta di scegliere tra due forme di tecnologia concorrenti e incompatibili.

Eppure l’idea che il porno come industria, neutrale e amorfa, risolva le guerre tecnologiche non ci mostra tutta la verità. Sarebbe più accurato affermare che le tecnologie che utilizziamo per generare e condividere immagini sono, nella maggior parte dei casi, modellate da persone che distribuiscono immagini di corpi femminili, spesso con il dubbio consenso delle donne stesse. In questo senso, le abilità di Grok sono alla pari.

Il porno non ha aiutato solo il VHS a vincere su Betamax. L’industria è stata anche collegata a mainstreaming delle pellicole Super 8 (facile e conveniente per i registi dilettanti), il sviluppo di video in streaming (privato e facilmente accessibile), il sviluppo dei pagamenti web (viene fornito con video in streaming con paywall), il sviluppo di analisi web (buono per le complesse transazioni commerciali dello streaming per adulti) e il vittoria del Blu-ray su HD DVD. (Come il VHS, i Blu-ray contenevano molti più dati rispetto ai suoi concorrenti, il che è particolarmente interessante nel mercato del porno.)

Poi ci furono i sistemi di distribuzione delle immagini che si svilupparono al di fuori dell’industria del porno. Una quantità sorprendente di essi riguardava persone che cercavano di condividere immagini sessualizzate di corpi femminili il più rapidamente possibile; solo che in questi casi le persone le cui immagini venivano distribuite non erano necessariamente adulti consenzienti che venivano pagati per il loro disturbo.

A volte l’innovazione era più o meno innocua. È stato sviluppato Google Immagini perché così tante persone sono andate alla ricerca di foto di Jennifer Lopez nel suo famoso abito scollato di Versace nel 2000, una distinzione che Lopez ha considerato un fiore all’occhiello. In questo caso, Lopez ha indossato l’abito per un evento di alto profilo e voleva essere visto e parlato, quindi è ragionevole presumere il consenso.

Altre volte è diventato più nuvoloso. L’impulso per YouTube è arrivato quando gli sviluppatori volevano guardare Il malfunzionamento del guardaroba di Janet Jackson nel 2004 ed eravamo frustrati dal fatto che ci fosse voluto così tanto tempo per trovare il video su Internet. Jackson lo ha sempre sostenuto che non intendeva che il suo seno fosse visto sulla TV nazionale, quindi qui abbiamo a che fare con nudità non consensuale.

Nel frattempo, il progenitore di Mark Zuckerberg per Facebook lo era FacesmashUN Caldo o no una fregatura sviluppata per paragonare le donne del corpo studentesco dell’Università di Harvard agli animali da fattoria. L’intento qui non era tanto quello di creare pornografia non consensuale quanto quello di eseguire un’umiliazione sessualizzata di donne non consenzienti – un atto che si è rivelato così popolare da travolgere i server di Harvard la notte in cui è stato lanciato.

Quindi Musk non ha del tutto torto quando dice che le tecnologie con quella che eufemisticamente chiama “modalità piccante” tendono ad avere successo. Un’espressione più accurata, tuttavia, potrebbe essere quella di dire che nella nostra società misogina, oggettivare e umiliare i corpi delle donne non consenzienti è così prezioso che il destino delle tecnologie che alterano il mondo dipende da quanto sono brave a facilitarlo.

L’intelligenza artificiale sarebbe sempre stata utilizzata per questo, in un modo o nell’altro. Ma solo qualcuno così brutalmente indifferente e disposto a prendere scorciatoie come Elon Musk avrebbe permesso che le cose andassero così storte.