Prompt engineering
Il prompt engineering è la pratica di scrivere e migliorare le richieste, dette prompt, da dare a un modello di intelligenza artificiale generativa per ottenere risultati utili, corretti e in un formato prevedibile. Comprende le istruzioni, il contesto fornito, gli esempi e i vincoli. Non richiede di programmare, ma metodo e verifica.
Cos’è il prompt engineering e perché conta
Un modello linguistico risponde a ciò che riceve. Una richiesta vaga produce una risposta generica, una richiesta precisa produce un risultato che si può usare. Il prompt engineering è il lavoro di rendere le richieste precise, controllarne l’effetto e trasformarle in modelli riutilizzabili. In un’azienda conta perché lo stesso modello, con richieste scritte meglio, dà risultati più affidabili senza costi aggiuntivi: spesso è il primo intervento da provare, prima del RAG o dell’affinamento del modello.
Gli elementi di una buona richiesta
- Compito: che cosa deve fare il modello, espresso con un verbo preciso come classificare, riassumere, confrontare, riscrivere.
- Contesto: le informazioni di cui il modello ha bisogno, come il testo da elaborare, il pubblico e lo scopo.
- Formato: la forma della risposta, per esempio un elenco, una tabella, un testo di una certa lunghezza o un oggetto JSON con campi stabiliti.
- Vincoli: ciò che il modello deve evitare, le fonti da usare e la lingua.
- Criterio di riuscita: come si riconosce un buon risultato.
Tecniche principali
Le guide dei principali fornitori di modelli concordano su alcune pratiche. Si danno istruzioni chiare e specifiche, si separano le istruzioni dal testo da elaborare con delimitatori, e si dichiara il formato desiderato. Gli esempi nella richiesta, la tecnica detta few-shot, mostrano al modello lo schema da seguire e rendono più stabile l’output. Un compito complesso si divide in passaggi più piccoli, ciascuno con la sua richiesta. Conviene indicare cosa fare, oltre a cosa evitare, e permettere al modello di rispondere che non sa quando mancano le informazioni.
Prompt di sistema e prompt dell’utente
Molti servizi distinguono le istruzioni di sistema dal messaggio dell’utente. Le istruzioni di sistema fissano ruolo, tono, regole e limiti e restano valide per tutta la conversazione: sono il posto per le regole dell’azienda, come le informazioni da non dare o il modo di rivolgersi ai clienti. Il messaggio dell’utente contiene la richiesta specifica. In un chatbot aziendale la qualità delle istruzioni di sistema determina gran parte del comportamento.
Ragionamento passo per passo e modelli di ragionamento
Con molti modelli, chiedere di ragionare per tappe prima di rispondere migliora i risultati su problemi di logica e calcolo. I modelli progettati per ragionare lo fanno già da soli, e per loro conviene dare istruzioni brevi e dirette sul risultato atteso, senza dettagliare il procedimento. Le raccomandazioni cambiano con i modelli, quindi vanno verificate sulla documentazione della versione in uso.
Come si prova e si migliora un prompt
Un prompt si valuta come un software: si prepara un insieme di casi di prova con i risultati attesi, si esegue la richiesta su tutti e si confrontano le risposte. Ogni modifica si prova di nuovo su tutto l’insieme, perché una correzione che migliora un caso può peggiorarne altri. Le versioni dei prompt si conservano, con la data e il motivo della modifica, in un repository come Git. I risultati variano da una esecuzione all’altra, quindi ogni caso va provato più volte.
Limiti del prompt engineering
Una buona richiesta non rende il modello infallibile. Le risposte inventate restano possibili, la conoscenza del modello ha una data di aggiornamento e un testo molto lungo può far perdere i dettagli centrali. Un prompt che funziona con un modello può dare risultati diversi con un altro o con una nuova versione. Per i compiti in cui serve precisione, il risultato va verificato da una persona o da controlli automatici.
Prompt injection
Quando un sistema legge testi di origine esterna, come pagine web, email o documenti caricati dagli utenti, quei testi possono contenere istruzioni rivolte al modello, che le scambia per ordini legittimi. L’attacco si chiama prompt injection. Le difese comprendono separare con chiarezza i dati dalle istruzioni, limitare i permessi del modello, chiedere la conferma di una persona prima di azioni sensibili e controllare le risposte prima di usarle. Si collega al tema più ampio della sicurezza informatica.
Prompt engineering in azienda
Le aziende che usano l’intelligenza artificiale generativa con regolarità raccolgono i prompt migliori in una libreria condivisa, con una descrizione di scopo, di dati da inserire e di controlli da fare sul risultato. Per i compiti ripetitivi, un prompt scritto una volta, provato e usato da tutti riduce i tempi e le differenze di qualità tra persone. Le regole su quali dati si possono inserire negli strumenti restano valide anche in questo caso.
Differenza tra prompt engineering, RAG e fine-tuning
Il prompt engineering cambia ciò che si chiede al modello, senza modificarlo e senza dati aggiuntivi. Il RAG fornisce al modello documenti pertinenti al momento della richiesta, per colmare la mancanza di informazioni. Il fine-tuning modifica il modello con esempi propri, per adattarne stile e comportamento. Si procede dal più semplice al più costoso: prima si migliora la richiesta, poi si aggiungono i documenti e solo se necessario si addestra.