IA generative di testo e modelli linguistici

Il metodo LSTM (Long Short-Term Memory) è un software che esiste dal 1995 e che viene utilizzato per riconoscere determinati schemi nei dati. Ciò consente al software di ricordare le informazioni precedenti e di riutilizzarle quando necessario.

Per far funzionare questa tecnologia, l'LSTM utilizza una rete neurale speciale, la cosiddetta Recurrent Neural Network (RNN), che funziona con processi ripetitivi. Ciò significa che il software è in grado di elaborare le informazioni passo dopo passo.

Tuttavia, anche l'LSTM ha i suoi limiti. Poiché elabora le informazioni in modo sequenziale, non può gestire bene grandi quantità di dati e tende a trascurare le informazioni più distanti.  

Nel 2017, Google ha presentato il documento scientifico "Attention is All You Need"(apre una nuova finestra). In esso gli autori suggeriscono che nuovi meccanismi di attenzione possono migliorare significativamente la qualità el'efficienza dei modelli di rete neurale esistenti:

Il team di ricerca propone una "semplice architettura di rete, il Transformer, che si basa esclusivamente su meccanismi di attenzione [...]"(apre una nuova finestra). Questotrasformatore utilizza meccanismi innovativi per comprendere meglio il contesto ed elaborarlo in modo più efficiente. Gli esperimenti sono stati condotti con compiti di traduzione automatica.

Il Transformer ha fatto progredire in modo significativo lo sviluppo dell'intelligenza artificiale generativa del testo. Poiché è in grado di gestire meglio le lunghe dipendenze nei testi e può essere addestrato in modo più efficiente, è ideale per compiti come la generazione di testi, i chatbot e altre applicazioni che devono generare o comprendere il linguaggio naturale. Non c'è quindi da stupirsi che tutte le IA testuali oggi conosciute siano costruite sull'architettura Transformer.

L'intelligenza artificiale non solo impara a calcolare la probabilità della prossima parola corretta,
ma genera anche parole e frasi coerenti a partire da queste probabilità calcolate. 

Per calcolare queste probabilità, l'IA è stata addestrata con una grande quantità di dati di conoscenza umana. 

Transformer descrive la tecnica utilizzata dalla rete neurale per comprendere e utilizzare il contesto e le relazioni presenti nei testi. 

Con ChatGPT,
OpenAI è leader nella qualità dei generatori di testo AI. L'azienda sta sviluppando rapidamente il suo modello di generazione di testi, garantendo una rapida diffusione del campo di applicazione del modello di IA.

Informazioni su ChatGPT: https://chat.openai.com/(apre una nuova finestra)

Google
Gemini è un modello di intelligenza artificiale generativa di Google AI. Situato nel cosmo di Google, Google Gemini può essere integrato e utilizzato direttamente nelle app di produttività di Google con il relativo abbonamento AI Premium. 

Più informazioni: https://gemini.google.com/app(apre una nuova finestra)

Llama di Meta è un modello di generazione di testo open source, sviluppato appositamente per sviluppatori, ricercatori e aziende. La base open source garantisce che Meta Llama possa essere eseguito anche direttamente sul vostro computer, con l'opportuna integrazione.

 Meta AI è un assistente intelligente per privati, basato sull'ultima versione di Llama 3, in grado di risolvere compiti complessi e sfumati, ragionare o visualizzare idee.

Informazioni su Llama 3: https://llama.meta.com/llama3(apre una nuova finestra)

A Meta AI: https://www.meta.ai/(apre una nuova finestra)

Claude è un'intelligenza artificiale generativa che è stata addestrata da Anthropic con Constitutional AI. Claude può elaborare informazioni, raccogliere idee o generare testo e codice in risposta.

Su Claude: https://claude.ai/(apre una nuova finestra)

Io schema (o struttura) CO-STAR è composto da sei elementi e aiuta a creare suggerimenti chiari ed efficaci.

Contesto: spiegare il contesto e le circostanze del compito.

Obiettivo: definire l'obiettivo da raggiungere. 

Ambito: limita l'area o l'ambito del compito.

Compito: descrivere il compito specifico che si vuole far eseguire all'intelligenza artificiale. 

Azione: specificare le azioni da eseguire.

Risultato: descrivere il risultato desiderato. 

Un esempio di prompt:

"Non ho molto tempo e non ho esperienza di cucina. Puoi darmi una ricetta di pasta facile e veloce? Gli ingredienti dovrebbero essere disponibili in qualsiasi supermercato. Spiegami la preparazione passo dopo passo".

Anche lo schema (o struttura) TIDD-EC si compone di sei elementi e vi supporta nel prompt strutturato. 

Task type (Tipo di compito): Dare al modello linguistico un'idea chiara del tipo di compito che deve svolgere.  

Instructions (Istruzioni): Descrivere i passi specifici o le linee guida che il modello linguistico deve seguire durante l'esecuzione del compito.  

Do (Fare): Quali azioni aiuteranno il modello linguistico a svolgere il compito? 

Don’t (Evitare): Quali sono gli elementi che il modello linguistico deve evitare quando risponde al prompt? 

Examples (Esempi): Fornire esempi concreti del tipo di risultati o risposte desiderate. 

Content (Contenuto): In qualità di utente, fornire dati specifici (attenzione: solo generali, nessun dato personale!) con cui il modello linguistico possa lavorare, utilizzare nella risposta o a cui fare riferimento.

Un esempio di prompt:

"Spiegatemi  in termini semplici i benefici del tè verde per la salute. Fate  riferimento alle scoperte scientifiche e ai risultati delle ricerche attuali. La risposta deve essere facile da capire e non deve contenere termini tecnici complicati. Un esempio potrebbe essere: 'Il tè verde può aiutare a rafforzare il sistema immunitario'".