✅ Demistificazione: 𝑪𝒉𝒂𝒕𝑮𝑷𝑻 𝒏𝒐𝒏 𝒔𝒂𝒊 𝑴𝑨𝑰 𝒍𝒂 𝒓𝒊𝒔𝒑𝒐𝒔𝒕𝒂. I modelli di AI Generativa non hanno la risposta “in mente in toto” e poi la scrivono ma eseguono una iterativa aggiunta di token al contesto.
➡️ Ecco che vuol dire. Quando scriviamo un prompt il modello non “pensa” alla risposta e poi ce la scrive, ma, una volta ricevuto il prompt, fa una serie di computazioni che portano a dei token (per semplificare, parole) candidati con una certa distribuzione statistica ad essere aggiunti a quel contesto.
🤖 Poi il modello “sceglie” (è sempre statistica) uno di quei token che viene così aggiunto al contesto. Questo processo è 𝐢𝐭𝐞𝐫𝐚𝐭𝐢𝐯𝐨 e il testo che vediamo è figlio di questa continua computazione sul contesto, ogni volta aggiornato con il nuovo token, per predire quale parola è meglio aggiungere in quel contesto.
🤔 Aggiungo una cosa e vi faccio una 𝐝𝐨𝐦𝐚𝐧𝐝𝐚. I modelli non scelgono necessariamente il token che ha più probabilità di seguire il contesto. Se nel caso del prompt “𝘴𝘵𝘢𝘷𝘰 𝘢𝘭 𝘥𝘪𝘴𝘵𝘳𝘪𝘣𝘶𝘵𝘰𝘳𝘦 𝘥𝘪…” il modello facesse una predizione che risultasse in “benzina 48%, bevande 31%, snack 15%, farmaci5%, etc”, il modello non sceglie sempre benzina, ma la sceglierà il 48% delle volte. Insomma non inserisce il token che ha più probabilità di star bene come prosecuzione del contesto.
😵 Sapreste spiegare il motivo? Scriveteci.
🖼️ René Magritte, 𝘛𝘩𝘦 𝘛𝘳𝘦𝘢𝘤𝘩𝘦𝘳𝘺 𝘰𝘧 𝘐𝘮𝘢𝘨𝘦𝘴, 1929
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Ut elit tellus, luctus nec ullamcorper mattis, pulvinar dapibus leo.
