Scraping su larga scala: le frizioni tecniche dietro le tattiche di raccolta dati di OpenAI

Nel contesto ad alta posta in gioco dello sviluppo dell'intelligenza artificiale, la terminologia bellica sta progressivamente sostituendo il linguaggio dell'ingegneria del software. Quando sono emerse notizie riguardanti i sistemi automatizzati di OpenAI e le loro interazioni con i repository digitali, i titoli hanno puntato sul drammatico: modelli "fuori controllo" e "attacchi" alle biblioteche digitali. Tuttavia, per chi osserva il mondo attraverso la lente della precisione meccanica e della produttività industriale, la realtà è molto più clinica, sebbene non meno dirompente. Quella che viene etichettata come un'azione "fuori controllo" è, in termini tecnici, un fallimento nel limitare la frequenza delle richieste (rate-limiting) e un conflitto fondamentale tra gli aggressivi requisiti di scraping dei Large Language Models (LLM) e la fragile infrastruttura degli archivi digitali di pubblico interesse.

Il nocciolo dell'attuale controversia deriva dalla frizione legale e tecnica tra OpenAI ed entità come il New York Times e l'Internet Archive. In recenti atti legali è emersa una narrazione in cui i sistemi di OpenAI sono accusati di aggirare le tradizionali salvaguardie per ingerire materiale protetto da copyright o soggetto a restrizioni. Al contrario, OpenAI ha replicato suggerendo che i propri modelli siano stati essenzialmente "adescati" o manipolati per produrre output in violazione del copyright attraverso quello che descrivono come hacking: un'affermazione che suggerisce che l'"attacco" provenga dagli utenti, non dalla macchina. Per comprendere la gravità di questa situazione, bisogna guardare oltre la retorica ed esaminare le meccaniche industriali dell'estrazione di dati (data harvesting).

L'industrializzazione del web crawler

Da una prospettiva di ingegneria meccanica, possiamo pensare a GPTBot come a una mietitrice industriale ad alta velocità. Quando prende di mira una biblioteca digitale, non sta "leggendo" nel senso umano del termine. Sta eseguendo richieste GET ricorsive a un volume tale da poter facilmente simulare un attacco di tipo Distributed Denial of Service (DDoS). Se la logica interna del bot è ottimizzata per la produttività piuttosto che per l'etichetta digitale, può sopraffare le capacità di I/O del server. Quando OpenAI suggerisce che i suoi modelli siano "andati fuori controllo", probabilmente si riferisce a un fallimento automatizzato in cui lo scraper ha ignorato i limiti di velocità o ha interpretato erroneamente i percorsi di navigazione, portando a un crash localizzato del sistema della biblioteca in questione.

L'Adversarial Prompting come strumento di scoperta

Una parte significativa della tensione riguarda la causa legale del New York Times contro OpenAI. Il Times ha fornito prove che ChatGPT poteva riprodurre brani letterali dei loro reportage investigativi. La difesa di OpenAI è stata sorprendente: hanno sostenuto che il Times avesse assoldato qualcuno per "hackerare" i loro prodotti utilizzando "prompt ingannevoli che violano palesemente i termini di utilizzo di OpenAI". Qui, la definizione di "hacking" è tirata per i capelli. Nel mondo del software, se un sistema può essere costretto a fornire dati soggetti a restrizioni semplicemente chiedendolo nel modo giusto, questo viene solitamente classificato come una vulnerabilità o un bug, non come un hack.

Ciò solleva una domanda critica: un modello sta agendo in modo "fuori controllo" se sta semplicemente seguendo i percorsi probabilistici su cui è stato addestrato? Se un utente chiede a un LLM di "recitare i primi tre paragrafi dell'edizione del 5 gennaio del New York Times" e il modello lo fa, il modello sta funzionando perfettamente secondo la sua progettazione. Il fallimento risiede nella fase di addestramento, in cui i dati protetti da copyright sono stati ingeriti senza un meccanismo per prevenirne il recupero letterale. Per una biblioteca digitale come l'Internet Archive, che ospita milioni di libri scansionati, il rischio è che questi modelli trattino l'intero database come un set di dati a utilizzo gratuito, essenzialmente "lavando" (machine-washing) i contenuti curati della biblioteca per trasformarli in un prodotto commerciale.

L'estrazione di dati costituisce un attacco tecnico?

Inoltre, c'è la questione dello "shadow scraping". Molte aziende di IA utilizzano set di dati di terze parti come Common Crawl o LAION per addestrare i propri modelli. Se sono state queste terze parti ad "attaccare" le biblioteche per raccogliere i dati, le aziende di IA possono reclamare un certo grado di distacco. Tuttavia, man mano che OpenAI si muove verso una raccolta dati proprietaria più diretta tramite GPTBot, quel livello di negabilità sta svanendo. Ora sono i principali operatori dei macchinari pesanti e vengono ritenuti responsabili del fumo e del rumore che producono.

La sostenibilità economica dei repository aperti

Dobbiamo anche considerare l'utilità economica di queste biblioteche. Siti come l'Internet Archive e l'Open Library forniscono un servizio pubblico, preservando il patrimonio digitale e offrendo accesso a informazioni che altrimenti potrebbero scomparire. Se sono costretti a implementare aggressivi Web Application Firewall (WAF) e paywall solo per impedire ai bot di IA di mandare in crash i loro server, la missione stessa dell'"accesso aperto" ne risulta compromessa. Stiamo assistendo a una tragedia dei beni comuni, in cui una risorsa pubblica viene sovrasfruttata da interessi privati.

OpenAI sostiene che il loro utilizzo di questi dati rientri nel "fair use", affermando che la natura trasformativa dell'IA giustifichi l'ingestione. Ma dal punto di vista tecnico, il processo è tutt'altro che "equo" per l'infrastruttura. Ogni richiesta costa alla biblioteca elettricità, larghezza di banda e cicli di CPU. Quando questi costi vengono moltiplicati per i milioni di parametri che un'IA deve apprendere, l'onere finanziario per la biblioteca diventa insostenibile. Ecco perché molti ingegneri del settore chiedono un nuovo standard: una versione digitale del "diritto all'oblio" che includa un "diritto di essere ignorati" dai crawler dell'IA.

Perfezionare la connessione tra macchina e biblioteca

Come possiamo risolvere la frizione tra le esigenze industriali di dati e la conservazione delle biblioteche digitali? La soluzione risiede probabilmente in una consegna dei dati basata su API più sofisticate, piuttosto che nello scraping a "forza bruta" a cui assistiamo oggi. Se OpenAI desidera accedere alle biblioteche del mondo, l'approccio meccanico logico consiste nel costruire un canale dedicato che rispetti la capacità dell'host. Invece di inviare un bot ad "attaccare" il sito web rivolto al pubblico, un accordo strutturato sui dati consentirebbe trasferimenti controllati che non interrompano il servizio pubblico.

Tuttavia, tali accordi costano denaro e richiedono trasparenza: due cose che l'attuale "corsa agli armamenti" dell'IA tende a scoraggiare. Finché l'obiettivo sarà quello di costruire il modello più grande nel minor tempo possibile, l'incentivo sarà sempre quello di fare scraping prima e sistemare la questione in tribunale poi. Il comportamento "fuori controllo" di questi bot non è un difetto del sistema; è una caratteristica di un ciclo di sviluppo che privilegia la velocità rispetto alla sostenibilità.