L'insostenibile leggerezza dell'AI (#35)

Ma che fine ha fatto Greta Thunberg? Prima del Covid la sua popolarità era in ascesa e non si faceva che parlare di lei; oggi, a 21 anni (li ha compiuti il 3 Gennaio), sembra quasi che il suo “personaggio” e le sue battaglie siano di colpo diventate meno interessanti per il grande pubblico. Come mai?

Certo: le guerre, le crisi diplomatiche, ma poi c’è l’AI. E che c’entra l’AI con la sostenibilità?

Beh c’entra, per almeno due buoni motivi!

Quanto costa l’AI?

L’abbiamo detto in tutte le salse; il 2023 è stato l’anno 0 dell’AI. E a confermarlo ci sono i numeri del mercato:

• gli investimenti nelle startup legate all’AI hanno superato i 68,7 miliardi di dollari;

• su Linkedin ci sono quasi 60.000 offerte di lavoro legate all’AI;

• non solo crescono le ricerche, ma anche gli stipendi delle posizioni legate all’AI.

Ed anche i numeri delle aziende sembrano promettenti:

• alcune stime ci dicono che Microsoft Copilot potrebbe generare già quest’anno 360milioni di dollari in recurring revenue integrandosi in modo efficace con PowerPoint, Word ed Excel;

• Canva, il software preferito dai social media manager per creare copy, immagini e presentazioni, stima ricavi per 2,6miliardi di dollari con una spinta derivante dall’AI pari a 1,7miliardi.

• OpenAI, pur dopo le turbolenti vicende delle ultime settimane, proietta ricavi per 1,6miliardi di dollari.

Tutto bene quindi? Non esattamente; crescita dei ricavi non significa necessariamente crescita dei profitti (ne avevamo già parlato qui). Il paradigma dei costi marginali che abbiamo imparato a conoscere ed apprezzare nel digitale, per ora sembra non funzionare con l’AI.

Quindi quanto costa usare l’AI? Dipende.

Per un caso d’uso tipico in cui un utente inserisce una query e si aspetta una risposta di circa 200 parole, il costo varia da 0,03 centesimi per i modelli gratuiti come Llama2 di Meta a 3,60 centesimi per Gpt4.

Ad avere un impatto fondamentale sulla struttura dei costi è il “contesto”, ovvero le informazioni aggiuntive rispetto alla semplice richiesta diretta al modello. Chi usa quotidianamente questi strumenti sa però che è proprio il contesto a rappresentare una chiave fondamentale per far si che l’output sia effettivamente utile e di valore.

Per capirci, con 500 parole di output attese e un contesto di 32k si può tranquillamente arrivare a 8,4 centesimi di dollaro per query.

Considerati anche gli altri costi tipici per una startup, come cloud etc, queste tariffe possono rappresentare un investimento non sostenibile nel lungo periodo per molte nuove aziende/prodotti/servizi.

Capire quindi l’impatto sul margine lordo di questo nuovo layer di software sarà essenziale; in diversi stanno già ragionando su soluzioni tecniche, magari small data, per risolvere questo “blocco”.

Per ora è curioso notare come la natura stessa di questi strumenti ci metta di fronte ogni volta a riflessioni non banali sulla natura delle nostre attività, sul modo in cui desideriamo crescere e sul valore che intendiamo offrire ai nostri clienti.

Quanto consuma l’AI?

Dal punto di vista ambientale le cose sono se possibile ancora più complesse: gli effetti collaterali dell’esplosione di interesse per l’AI sono tutti da esplorare ed analizzare.

Da una parte ci sono gli “apocalittici”, come direbbe Umberto Eco, che sostengono che la potenza di calcolo richiesta dall’AI anche per i task più semplici sia non sostenibile e quindi non scalabile. C’è anche chi ritiene che la “moda” dell’AI stia portando ad integrare questa tecnologia per realizzare soluzioni che in realtà non la richiederebbero aumentando costi, ed impatti sull’ambiente, senza reali benefici. (insomma se ci serve un IVR, facciamo un IVR, no?)

Addestrare un modello di deep learning richiede una quantità di energia paragonabile a quella utilizzata da un cervello umano nell’arco di una vita intera, circa 78 anni. Ma non finisce qui. Dopo l’addestramento, l’energia necessaria per elaborare le richieste inviate all’AI continua ad accumularsi.

Pensiamo ai data center che permettono a queste tecnologie di funzionare. Queste strutture non solo consumano enormi quantità di energia elettrica, ma hanno anche un impatto significativo sull’ambiente in termini di emissioni di gas serra. Inoltre, l’acqua utilizzata per raffreddare questi sistemi spesso proviene da fonti potabili, aggravando la crisi idrica in alcune regioni.

Ovviamente c’è anche chi pensa che questa situazione sia una fase, per così dire, transitoria; l’utilizzo stesso dell’AI potrebbe infatti fornire rendimenti esponenziali sull’energia e sulle risorse utilizzate, aiutandoci a decarbonizzare più rapidamente la società e a risolvere altre questioni ambientali. Insomma se boicottiamo questa tecnologia per il suo impatto di oggi, potremo non conoscere mai i suoi benefici potenziali pur subendone tutti gli effetti negativi. Quindi?

La risposta è dentro di te

Da una parte costi e impatti molto reali e concreti, dall’altro opportunità entusiasmanti, ma tutte da costruire e provare. Con ogni probabilità tutto dipenderà da come le persone e le aziende decideranno di usare la tecnologia piuttosto che dalla tecnologia stessa.

Quello che continua ad affascinarmi di questo mondo e di questa fase di sviluppo dell’AI è il suo potenziale; per riuscire a sfruttarlo a pieno, è evidente, le domande più scomode e cruciali sul modello di business e sulla società che vogliamo costruire, dobbiamo rivolgerle forse a noi stessi, prima ancora di scrivere una riga di codice o di aprire una nuova finestra di chat.

Sempre avanti, condannati all’ottimismo!

Giuseppe