Secondo un'indagine pubblicata da New York Times e Daily News, OpenAI avrebbe nascosto prove relative al caso legale attorno all'utilizzo illegale di contenui protetti da copyright nella costruzione del modello ChatGPT. Queste accuse rappresentano un’escalation di una causa legale iniziata due anni fa contro la società di intelligenza artificiale per presunto violazione della legge sul copyright.

Allegazioni su ricerche interne e privacy

Durante il processo, OpenAI aveva sostenuto di non essere in grado di effettuare ricerche all’interno del proprio corpus di addestramento. Inoltre, aveva presentato argomenti tecnici e preoccupazioni per la privacy suggerendo che l’accesso ai log di conversazioni di ChatGPT sarebbe stato estremamente complesso e oneroso. Le riviste avevano richiesto quei dati per valutare se le loro opere proteggibili fossero state utilizzate o riprodotte nel processo di addestramento del modello.

In un interrogatorio del mese di aprile, un ingegnere responsabile della privacy di OpenAI, Vinnie Monaco, avrebbe rivelato che la società aveva effettuato internamente ricerche e valutazioni del proprio corpus di addestramento, cercando specificamente opere protette da copyright. La dichiarazione di Monaco avrebbe inoltre svelato che, prima che il New York Times presentasse la causa, OpenAI aveva accumulato un database di circa 78 milioni di conversazioni anonimizzate di ChatGPT, utilizzate internamente per calcolare la portata dell’eventuale violazione del copyright.

Tools e filtri interni di OpenAI

OpenAI avrebbe sviluppato un cosiddetto filtro “Bloom” nel quadro di una serie di strumenti battezzati “Project Giraffe.” Questo strumento avrebbe funzionato per rilevare e registrare l’eventuale “regurgitazione” (reproduzione diretta) di contenuti protetti in uscita. Queste informazioni, diventate pubbliche durante la causa, sono state ritenute di estrema importanza per la comprensione del comportamento dell’algoritmo.

Riduzione della campione di log

I clienti hanno inizialmente richiesto a OpenAI di fornire un campione di 120 milioni di log conversazionali, ma la società lo ha negoziato riducendolo a soli 20 milioni. OpenAI ha consegnato quel campione al tribunale nell’ottobre scorso, ma stando alle denunce, l’azienda ha incluso un numero così elevato di cancellature da reso il contenuto “inutilizzabile.” I ricorrenti hanno anche accusato OpenAI di aver cancellato miliardi di output di ChatGPT dopo la presentazione della causa, non in conformità con l’ordine del tribunale per la conservazione degli stessi.

OpenAI ha sostituito log?

Secondo l’accusa, l'azienda avrebbe anche sostituito milioni di log nel campione richiesto. I clienti sostengono quindi che OpenAI abbia deliberatamente reso accesso alle informazioni più complicato, pur essendo già in possesso dei dati necessari. “Se OpenAI avesse veramente ritenuto legale e lecito copiare la giurisprudenza dei nostri clienti, non avrebbe nascosto la verità riguardo a tale azione,” ha dichiarato Ian B. Crosby, avvocato principale del gruppo di clienti.

Punizione richiesta per OpenAI

Il New York Times e The Daily News hanno chiesto al giudice di disciplinare OpenAI per le accuse di occultamento di prove e manipolazione delle procedure di scoperta. Hanno formulato specifiche richieste al tribunale: rifiutare l’utilizzo da parte di OpenAI del campione di 20 milioni di log come prova, accettare come fatto che ChatGPT avrebbe generato riproduzioni di contenuti di terzi, vietare a OpenAI di sostenere che i log forniti non mostravano un uso esteso dei materiali di terzi, e costringere OpenAI a pagare le spese legali per la ricerca di questi elementi.

Rilievi di OpenAI

In una dichiarazione, il portavoce di OpenAI, Drew Pusateri, ha negato le accuse, accusando The New York Times di cercare di accedere a conversazioni private di utenti a causa del deterioramento delle loro possibilità legali. “Mentre il caso del New York Times si affievolisce e sono costretti a rinunciare a parte delle loro accuse, i loro sforzi per invadere la privacy di persone estranee a questa causa continuano, incluse queste dichiarazioni palesemente false,” ha affermato Pusateri. “Continueremo a difendere la privacy dei nostri utenti e i ben stabiliti principi di uso lecito.”