USA, ChatGPT finisce sotto inchiesta

Ancora una volta Lina Khan non le manda a dire. E’ lei il nuovo sceriffo in città da quando nel marzo 2021 Joe Biden l’ha chiamata alla guida dell’Antitrust USA.

La presidente della Federal Trade Commission (FTC) deve proteggere consumatori e mercati da pratiche sleali o fraudolente, dai cartelli anticompetitivi, ma non è sempre facile.

Pochi giorni fa ha perso duramente una causa contro Microsoft che adesso potrà comprare Activision Blizzard, il gigante dei videogiochi famoso per Call of Duty o World of Warcraft (tra i tanti titoli).

Ma Lina Khan non si è persa d'animo ed eccola subito all'attacco dell’intelligenza artificiale con una citazione (tecnicamente un subpoena) contro OpenAI, la casa di ChatGPT.

Nella lettera che avvia l'indagine finiscono così tutta una serie di domande scomode che questa volta potrebbero non piacere agli algoritmi. 

CHATGPT, una questione di privacy

Al centro della nuova indagine ci sono le pratiche di OpenAI, la società fondata dal CEO Sam Altman che sta cambiando il mondo.

Il sospetto è che non siano state adottate tutte le migliori pratiche a tutela dell’utenza e che anzi ci siano significativi rischi sul fronte della privacy e della diffusione di informazioni sensibili.

Oltretutto con la scusa dell’indagine la FTC avvia una vera e propria radiografia di OpenAI, chiedendole di tutto, dagli assetti proprietari alle collaborazioni per la realizzazione dei modelli linguistici di grandi dimensioni (gli LLM che sono i modelli di machine learning), dai costi dei prodotti alla clientela all’accesso di terzi ai dati.

In realtà non si tratta poi di un fulmine a ciel sereno. I dati personali sensibili o meno sono stati alla base del blocco di Chat GPT in Italia appena dopo il lancio lo scorso marzo e lo stop venne proprio dall’Antitrust italiana.

La stessa OpenAI rivelò già nel marzo 2023 che un bug in una libreria open-source aveva permesso ad alcuni utenti l’accesso alla chat di un altro utente e alle informazioni sui suoi pagamenti dati personali. 

Le domande per un’Autorità Antitrust in questi casi sono quasi automatiche: quanti incidenti come questi avete avuto? Quante persone sono state coinvolte? Quali dati sono stati diffusi? Quali rimedi avete approntato? Quali sistemi di sicurezza ci sono oggi? Come trattate i dati personali? Dove li archiviate? Come li proteggete? Con chi li condividete? E così via…

Ci sono poi anche gli “attacchi”. La FTC chiede infatti informazioni su eventuali “prompt injection” che sono tentativi non autorizzati di aggirare i filtri o manipolare l’intelligenza artificiale per fare in modo che il modello o il prodotto ignori le istruzioni ricevute o compia azioni non volute dagli sviluppatori.

ChatGPT, l’inizio o la fine delle regole?

Il problema è che il mondo dei giganti del tech a stelle e strisce è per certi versi molto piccolo e siccome molti colossi di settore hanno le mani in pasta praticamente dappertutto, va da sé che procedimenti, accuse, sospetti, battaglie si inseguono.

Sicuramente quando, pochi giorni fa, la giudice Jacqueline Scott Corley ha dato ragione a Microsoft e le ha permesso di procedere con l’acquisizione da 70 miliardi di dollari del colosso dei videogiochi Activision Blizzard, alla FTC non hanno festeggiato.

Era stata proprio Lina Khan a bloccare il deal per il timore di gravi danni per la concorrenza e la sentenza comunque fa ancora discutere.

Nel bene o nel male la presidente 34enne dell’Antitrust USA sta aprendo tutta una serie di questioni strategiche per il mercato.

Ma in fondo tra i firmatari del foglio di fine maggio che paventava il rischio di estinzione dell’umanità senza nuove regole sull’intelligenza artificiale c’erano anche lo stesso Sam Altman e Demis Hassabis, il CEO di Google DeepMind.

Allora perché stupirsi se la FTC chiede informazioni?

Forse perché in ballo ci sono migliaia di miliardi di dollari, interi modelli di business, monopoli basati sui dati e potere, tanto potere. Così regolare va bene se metto la palla al piede della start-up che mi disturba, ma diventa un attacco all’America se tocco i Master of the Universe del Tech.

Lina Khan però non mostra alcun timore reverenziale ed è spesso imprevedibile.

Quando a giugno ha aperto il caso contro Amazon, non ha chiesto a Jeff Bezos se Alexa ci spia, ma ha accusato Amazon Prime di impedire con una serie di trucchetti (i “dark patterns”) la cancellazione dal servizio ai clienti.

Sembra un dettaglio (miliardario), ma in realtà se poi si fa una ricognizione dei servizi online poco trasparenti e semplici da cancellare, diventa un pilastro della difesa del consumatore di oggi.

Adesso è la volta dei dati personali e dell’intelligenza artificiale e c’è già chi contesta alla Khan di avere spinto il suo mandato oltre i poteri legittimi dell’Antitrust USA, chi magari la accusa di avercela per principio (o per approccio politico) con le multinazionali del tech, magari perché sono casi che finiscono sui giornali.

C’è anche chi la accusa di vendette personali e mormora che se oggi accusa ChatGPT è perché ha forti legami con Microsoft e quindi si sta vendicando del caso di Activision Blizzard. Microsoft, insieme a Khosla Ventures e Reid Hoffman è tra i maggiori finanziatori di OpenAI.

OpenAI è una LLC americana che ha raccolto circa 11,3 miliardi di dollari in 8 round di finanziamento. Quasi tutti da Microsoft in realtà: ci ha messo 10 miliardi a gennaio.

E in effetti l’intelligenza artificiale applicata da Microsoft, fra l’altro, al motore di ricerca Bing e a servizi su Skype, ha permesso al CEO Satya Nadella di sfidare davvero dopo decenni Google, un sogno nel cassetto alimentato da molto molto tempo, ma inverosimile fino a pochi mesi fa e ora nel tavolo degli sviluppi possibili.

Insomma attaccare l’intelligenza artificiale può disturbare molto e sicuramente anche Lina Khan lo sa.

Forse, come mormorano i maligni, è ansia di visibilità, forse ripicche stile Billions (ricordate la serie con Paul Giamatti che fa il giudice e si scontra a ogni stagione con il miliardario interpretato da Damian Lewis?).

Forse semplicemente la FTC sta cercando di difendere i consumatori e i loro dati in un’epoca di cambiamenti senza precedenti e di pericoli montanti.