Introduzione
Un Large Language Model può fare cose sorprendenti. Ma per utilizzarlo seriamente in azienda bisogna capire altrettanto bene cosa sa fare e cosa no.
Negli ultimi anni l'intelligenza artificiale generativa è entrata rapidamente nelle aziende. Scrive testi, analizza documenti, sintetizza riunioni, produce codice, ricerca informazioni e risponde a domande espresse in linguaggio naturale.
Il risultato può essere impressionante. Ed è proprio questo il problema: quando una tecnologia funziona così bene, è facile attribuirle capacità che in realtà non possiede.
RAG, agenti, automazione e integrazione dell'AI nei processi aziendali meritano approfondimenti dedicati. Prima, però, serve una base comune: capire cos'è davvero un Large Language Model, o LLM, cosa sa fare e quali limiti porta con sé.
Cos'è un LLM
Un Large Language Model è un modello matematico addestrato su enormi quantità di testo per apprendere le relazioni statistiche presenti nel linguaggio.
Semplificando molto, quando genera una risposta il modello riceve una sequenza di informazioni e calcola quale elemento potrebbe plausibilmente venire dopo. Poi ripete l'operazione, un token dopo l'altro.
Descritta così sembra quasi banale. Eppure, aumentando enormemente la dimensione dei modelli, la quantità di dati utilizzati durante l'addestramento e la capacità di calcolo, da questo meccanismo emergono comportamenti estremamente sofisticati.
Un LLM può seguire istruzioni, collegare informazioni, classificare contenuti, trasformare testi, produrre codice, individuare relazioni e generare risposte coerenti con il contesto ricevuto.
Ma è importante capire cosa sta succedendo sotto il cofano.
Un LLM riesce a rappresentare molto bene significati e relazioni tra concetti, ma non lo fa attraverso una struttura esplicita come un'ontologia o un insieme di regole logiche.
La semantica emerge dalle relazioni statistiche apprese durante l'addestramento: il modello impara che determinati concetti tendono a comparire in certi contesti e secondo determinate relazioni, costruendo rappresentazioni interne estremamente ricche ma non formalmente strutturate.
Lo stesso vale per ciò che chiamiamo reasoning. Un LLM può produrre inferenze corrette e affrontare problemi complessi, ma non applica necessariamente un insieme deterministico di regole logiche. Anche questi comportamenti emergono dai pattern appresi dal modello.
La conseguenza pratica è importante: un ragionamento può essere plausibile, articolato e corretto senza che esista una garanzia strutturale che venga applicato sempre nello stesso modo o che conduca sempre alla conclusione corretta.
È uno dei motivi per cui, nelle applicazioni aziendali, bisogna distinguere attentamente ciò che può essere affidato al modello da ciò che deve essere verificato o eseguito attraverso sistemi deterministici. Questo limite, però, non riduce la portata della tecnologia: ciò che rende gli LLM particolarmente interessanti non è l'aver ricreato dentro un computer il pensiero umano, ma il fatto che un sistema costruito su basi probabilistiche riesca comunque a manipolare linguaggio, informazioni e contesto con una flessibilità che fino a pochi anni fa era impossibile da ottenere nel software.
Cosa un LLM fa male o non fa
A questo punto possiamo smontare un po' il giocattolo, perché gli LLM hanno limiti importanti e ignorarli è uno dei modi più rapidi per costruire una pessima soluzione AI.
Il primo è probabilmente il più noto:
un LLM può sbagliare. E può sbagliare in maniera estremamente convincente.
Il modello produce una risposta plausibile, non garantisce automaticamente una risposta vera. Può inventare un dato, confondere due informazioni, attribuire una caratteristica al prodotto sbagliato o costruire una spiegazione perfettamente coerente partendo da una premessa falsa.
È il fenomeno normalmente chiamato allucinazione.
Il problema è che una risposta sbagliata non viene necessariamente prodotta con meno sicurezza di una risposta corretta. Per questo un LLM, utilizzato da solo, non dovrebbe essere considerato una fonte autoritativa quando la correttezza dell'informazione è critica.
Se dobbiamo sapere quanto deve pagare un cliente, il dato deve arrivare dal sistema di billing. Se dobbiamo verificare lo stato di una fattura, dobbiamo interrogare il sistema che gestisce le fatture. Se dobbiamo conoscere una procedura interna, dobbiamo partire dalla documentazione ufficiale.
Il modello può interpretare quei dati.
Non dovrebbe essere lui a inventarli.
C'è poi un secondo equivoco molto comune.
Un LLM non è un database.
Non conserva un archivio strutturato di fatti interrogabile con precisione. Le informazioni apprese durante l'addestramento sono incorporate nel modello sotto forma di relazioni statistiche.
Questo significa che può conoscere moltissime cose senza poter garantire che una specifica informazione sia aggiornata, completa o esatta. E soprattutto non conosce automaticamente la nostra azienda: clienti, progetti, contratti, fatture, procedure interne e stato corrente dei processi devono arrivare da sistemi esterni.
Un altro limite riguarda la prevedibilità. Il software tradizionale è normalmente costruito affinché una determinata operazione produca un risultato determinato. Alle stesse condizioni, gli stessi input produrranno sempre gli stessi output. Un LLM lavora invece su distribuzioni probabilistiche.
Questo lo rende estremamente flessibile nei problemi ambigui, ma anche una scelta discutibile quando il problema non è affatto ambiguo.
Non serve un Large Language Model per fare una somma. Non serve per applicare una formula fiscale. Non serve per verificare una condizione booleana. Non serve per eseguire una query perfettamente conosciuta.
In questi casi il software tradizionale è normalmente più semplice, economico, veloce e affidabile.
Infine, un LLM da solo non agisce sui sistemi aziendali. Può suggerire che un'opportunità commerciale dovrebbe essere aggiornata, individuare la necessità di creare un'attività o riconoscere una possibile anomalia amministrativa.
Ma non può modificare autonomamente il CRM, creare realmente il task o intervenire sul sistema di fatturazione se nessun software gli ha fornito gli strumenti necessari per farlo.
Il modello, da solo, processa un input solitamente testuale e produce un output solitamente testuale. Senza modificare nulla.
Tutto ciò che viene dopo dipende dal sistema costruito intorno a lui.
Dove un LLM è straordinariamente efficace
Abbiamo passato metà articolo a spiegare perché non utilizzare questa tecnologia, gli enormi limiti e l' inaffidabilità dello strumento.
Ma la conclusione è esattamente opposta.
Bisogna utilizzarla nei problemi nei quali possiede un vantaggio reale. E quel vantaggio emerge soprattutto quando entrano in gioco linguaggio naturale, ambiguità, informazioni non strutturate e contesto.
Un LLM può sintetizzare documenti, estrarre informazioni da testi, classificare richieste, confrontare contenuti, trasformare appunti in dati strutturati, analizzare conversazioni, interpretare documentazione e lavorare su istruzioni formulate nel normale linguaggio umano.
Pensiamo a una richiesta apparentemente semplice:
"Controlla cosa è successo con questo cliente nelle ultime settimane e dimmi se dobbiamo intervenire."
Per un software tradizionale questa frase non significa quasi nulla finché qualcuno non progetta esplicitamente una funzione che stabilisca:
- cosa significa "ultime settimane";
- quali informazioni relative al cliente devono essere recuperate;
- cosa significa "è successo";
- quali condizioni determinano la necessità di intervenire;
- quale risultato deve essere mostrato all'utente.
Un LLM può invece interpretare direttamente la richiesta e riconoscere che potrebbero essere rilevanti, per esempio, lo storico delle comunicazioni, lo stato delle opportunità commerciali, eventuali attività aperte, problemi segnalati e informazioni sul progetto in corso.
Questo non significa necessariamente che possieda una rappresentazione del cliente analoga a quella di una persona. Significa qualcosa di più utile dal punto di vista applicativo:
riesce a trasformare una richiesta umana ambigua in una rappresentazione sufficientemente utile da poter essere elaborata dal software.
Da una parte abbiamo persone che comunicano attraverso linguaggio, intenzioni, obiettivi, informazioni incomplete e contesto implicito. Dall'altra abbiamo sistemi informatici costruiti su database, API, tipi, parametri e operazioni rigorosamente definite.
Gli LLM possono diventare uno strato tra questi due mondi.
Possono trasformare intenzioni umane in qualcosa che il software può utilizzare e trasformare informazioni provenienti dal software in qualcosa che una persona può comprendere.
Probabilmente è proprio questa, più ancora della capacità di scrivere un'email o riassumere un PDF, la proprietà più interessante degli LLM nel software aziendale.
Il modello è solo una parte del sistema
Quando si parla di intelligenza artificiale, gran parte dell'attenzione viene concentrata sul modello. GPT, Claude, Gemini, Llama e gli altri modelli disponibili hanno naturalmente caratteristiche e capacità differenti.
Ma in una soluzione aziendale il modello è soltanto uno dei componenti.
Il valore del sistema dipende in larga misura da ciò che gli viene costruito intorno.
RAG: dare al modello la conoscenza necessaria
Un sistema RAG, Retrieval-Augmented Generation, permette di recuperare informazioni da fonti esterne e fornirle al modello insieme alla richiesta dell'utente.
Queste informazioni possono provenire da documentazione tecnica, procedure aziendali, contratti, manuali, knowledge base o altre fonti informative. Il modello non deve quindi affidarsi soltanto a ciò che è stato incorporato durante il proprio addestramento: può ricevere informazioni specifiche dell'azienda e, soprattutto, recuperate nel momento in cui servono.
Il RAG non elimina magicamente ogni possibile errore, ma cambia profondamente il problema.
Invece di chiedere al modello di "sapere" qualcosa, gli forniamo le informazioni sulle quali deve lavorare.
Agenti: dare al modello degli strumenti
Possiamo poi fornire al modello degli strumenti.
Un agente può avere accesso ad API, database, funzioni applicative o servizi esterni. A quel punto il modello non deve più limitarsi a generare una risposta: può interpretare un obiettivo, individuare un'operazione utile, scegliere uno degli strumenti disponibili e richiederne l'esecuzione.
Una richiesta come:
"Gestisci il follow-up di questo cliente."
può quindi trasformarsi in una sequenza di operazioni:
Recuperare il cliente. Leggere le informazioni disponibili. Verificare lo stato dell'opportunità. Creare attività. Aggiornare il CRM. Preparare una comunicazione.
Il modello interpreta e orchestra.
Il software continua a eseguire le operazioni reali.
È una distinzione importante, perché permette di utilizzare ogni tecnologia dove funziona meglio: l'LLM nella gestione dell'ambiguità e del linguaggio, il software tradizionale nell'esecuzione deterministica delle operazioni.
RAG agentico: quando conoscenza e strumenti entrano nello stesso processo
Nei sistemi RAG più semplici il funzionamento è relativamente lineare: l'utente pone una domanda, il sistema recupera alcuni contenuti pertinenti e li passa al modello.
Ma una domanda complessa non sempre può essere risolta con una singola ricerca. Può essere necessario cercare informazioni differenti, confrontare fonti, approfondire un risultato o recuperare nuovi dati sulla base di ciò che è stato scoperto durante l'esecuzione.
In un RAG agentico, è l'agente stesso a decidere quali informazioni cercare, quando cercarle e come utilizzarle insieme agli strumenti disponibili.
Conoscenza e azione entrano nello stesso ciclo.
L'agente può cercare informazioni per determinare quale strumento utilizzare, interrogare un sistema attraverso un tool e utilizzare il risultato ottenuto per formulare una nuova ricerca. Può recuperare documentazione per comprendere come deve essere eseguita un'operazione e utilizzare poi quella conoscenza per agire.
Il RAG può diventare carburante per l'utilizzo dei tool, così come i risultati prodotti dai tool possono diventare nuova informazione da utilizzare nei passaggi successivi.
L'orchestrazione non dipende più esclusivamente dalla richiesta iniziale: evolve sulla base di ciò che il sistema recupera e scopre durante l'esecuzione.
È qui che RAG e agenti smettono di essere semplicemente due funzionalità separate e iniziano a diventare parti dello stesso sistema.
Naturalmente, più capacità diamo a un sistema, più diventano importanti elementi meno spettacolari ma decisamente più concreti: autorizzazioni, controllo degli accessi, supervisione umana, verifica dei risultati, gestione degli errori e limiti operativi.
Sono proprio questi elementi a distinguere una demo interessante da una soluzione AI progettata per lavorare realmente all'interno dei processi aziendali.
Alla fine, due applicazioni che utilizzano esattamente lo stesso LLM possono avere capacità radicalmente differenti.
Una può essere una semplice chat.
L'altra può accedere alla documentazione aziendale, interrogare sistemi, utilizzare strumenti, eseguire operazioni, applicare autorizzazioni, effettuare verifiche incrociate e coinvolgere una persona nei passaggi più delicati.
Il modello può essere identico.
Il sistema costruito intorno al modello no.
Per questo, quando si valuta una soluzione AI, chiedere soltanto quale modello utilizza dice relativamente poco. Bisogna capire quali informazioni può utilizzare, come vengono recuperate, quali strumenti possiede, quali operazioni può eseguire, quali autorizzazioni vengono applicate, quali controlli sono presenti e dove interviene la supervisione umana.
La realtà è meno spettacolare della narrativa sull'intelligenza artificiale, ma dal punto di vista applicativo è molto più interessante.
Un LLM non è un oracolo. Non è un database. Non è un motore logico infallibile.
È un componente software con capacità estremamente particolari e, sotto molti aspetti, rivoluzionarie.
Usato da solo può essere un ottimo assistente. Integrato correttamente con conoscenza, software e processi può diventare qualcosa di molto più rilevante.
È su questa distinzione tra modello e sistema che progettiamo le nostre soluzioni AI: modelli integrati con conoscenza aziendale, strumenti, autorizzazioni e processi reali.