Jan: il modo più semplice per eseguire chatbot LLM come ChatGPT4 localmente sul tuo PC

Presentiamo Jan AI, un gioiello open source che sta per rivoluzionare la tua esperienza con l'intelligenza artificiale

2
4166
Jan: il modo più semplice per eseguire chatbot LLM come ChatGPT localmente sul tuo PC
Ecco Jan AI, un gioiello open source che sta per rivoluzionare la tua esperienza con l’intelligenza artificiale.
L’avvento delle Intellegenze artificiali ha cambiato radicalmente il modo di lavorare per molte persone e sta cambiando in maniera importante anche la fruizione dei contenuti e del web in generale. Ecco qualcosa di davvero interessante per chi fosse interessato a sperimentare sul proprio PC la magia dei chatbot più popolari come ChatGPT. La parte migliore è che non costa un centesimo.
1*d87uyg3ZGRreYe4Xw4mRLg

Cos’è Jan AI?

Jan AI è una piattaforma open source che ti consente di scaricare, installare ed eseguire vari modelli di intelligenza artificiale conversazionale e chatbot localmente, sul tuo computer.

Alcune cose fondamentali da sapere su Jan AI:

  • Completamente gratuito e open source con licenza AGPLv3
  • Funziona su Windows, Mac (compresi i chip M1/M2) e Linux
  • Ti consente di eseguire modelli di chatbot popolari come LaMDA di Google, Blenderbot di Meta, ecc. offline
  • Ti dà pieno controllo e salvaguarda l privacy poiché tutti i dati rimangono locali
  • Sviluppato attivamente su GitHub.

Perché eseguire un chatbot localmente?

Ecco alcuni dei principali vantaggi derivanti dall’esecuzione locale dei chatbot con uno strumento come Jan AI:

  • Privacy: nessun dato, messaggio o informazione viene inviato su Internet quando si eseguono modelli offline. Tutto rimane al sicuro sul tuo dispositivo locale.
  • Controllo : sei tu a decidere quali modelli installare, come funzionano e tutte le politiche relative al loro utilizzo. Nessuna dipendenza da servizi esterni.
  • Costo : è gratuito al 100% e open source. Nessuna tariffa per messaggio come i servizi scalati. L’unico costo sono le risorse di calcolo locali.
  • Personalizzazione : open source significa piena flessibilità per modificare, mettere a punto o alterare lo strumento e i modelli come desiderato.

Quindi, se la privacy, il controllo, i costi e la personalizzazione sono importanti, eseguire i chatbot localmente è molto allettante!

Iniziare con Jan AI

Iniziare a utilizzare Jan AI per eseguire chatbot localmente è semplice. Basta seguire questi passaggi:



1. Scarica Jan AI

Vai su jan.ai e scarica la versione compatibile con il tuo sistema operativo: Windows, Mac o Linux. L’installazione richiede solo un minuto o due. Quindi avrai accesso all’interfaccia Jan AI localmente sul tuo dispositivo.

2. Sfoglia i modelli disponibili

1*0JB F7dm4Pb1GiXgrvgwnQ
Interfaccia dell’elenco dei modelli disponibili in Jan AI

Nell’interfaccia Jan AI puoi sfogliare e scaricare parecchi modelli di AI conversazionale e chatbot da installare localmente.

Alcuni dei modelli open source disponibili sono:

  • Mistral Instruct 7B Q4
  • OpenHermes Neural 7B Q4
  • Trinity-v1.2 7B Q4
  • Starling alpha 7B Q4
  • Llama 2 Chat 7B Q4
  • Trinity-v1 7B Q4
  • Noromaid 7B Q5
  • Wizard Coder Python 13B Q5
  • Pandora 11B Q4
  • Solar Slerp 10.7B Q4
  • Capybara 200k 34B Q5
  • Phind 34B Q5
  • Yi 34B Q5
  • Deepseek Coder 33B Q5
  • Mixtral 8x7B Instruct Q4
  • Llama 2 Chat 70B Q4
  • Lzlv 70B Q4
  • Deepseek Coder 1.3B Q8
  • OpenAI GPT 3.5 Turbo — API is Required
  • OpenAI GPT 3.5 Turbo 16k 0613 — API is Required
  • OpenAI GPT 4 — API is Required
  • TinyLlama Chat 1.1B Q4
  • Phi-2 3B Q4

noi consigliamo di utilizzare Mixtral 8x7B Instruct Q4 perché utilizza otto diversi modelli esperti da 7 miliardi di parametri. In breve, è il migliore finora!

Jan AI offre anche la possibilità di accedere a modelli proprietari come GPT-3 e GPT-4 che richiedono una chiave API per l’accesso. Per questa guida ci concentreremo sui modelli gratuiti e open source.

3. Installa i modelli desiderati

Sfoglia i modelli disponibili all’interno di Jan AI e fai clic su Installa su quelli che desideri utilizzare localmente.

I download sono di grandi dimensioni (5–15 GB ciascuno) ma richiedono solo pochi minuti con una connessione Internet decente.

Una volta installati, i modelli sono pronti per l’uso completamente offline!

4. Inizia a chattare con la tua IA!

Interfaccia chat utente di Jan AI

Con i modelli installati, vai all’interfaccia della chat in Jan AI per iniziare a conversare.

Scegli il modello desiderato dal menu a discesa e inizia a fare domande per avere conversazioni organiche e fluide!

Funzionalità chiave e personalizzazioni

Jan AI semplifica l’esecuzione dei chatbot a livello locale. Ma offre anche alcune potenti personalizzazioni e funzionalità per sbloccare tutto il potenziale.

Modelli multipli

Una delle parti migliori di Jan AI è la possibilità di installare e passare tra più modelli di conversazione diversi senza soluzione di continuità. È possibile installare LaMDA 7B, Mistol 8X 7B e altro ancora. Quindi modifica dinamicamente i modelli per testare le differenze in termini di capacità e risultati.

Essere in grado di confrontare più modelli offline è una funzionalità straordinaria unica per soluzioni locali come Jan AI.

Regola i parametri del modello

Migliora le prestazioni del modello modificando i parametri chiave come:

  • Temperatura
  • Campionamento Top K
  • Campionamento Top P
  • Penalità di frequenza
  • Penalità di presenza

Ciò ti consente, ad esempio, di personalizzare il comportamento del modello per preferire output più creativi rispetto a quelli più coerenti.

Inserisci istruzioni personalizzate

Guida le prestazioni del modello fornendo istruzioni personalizzate sui casi d’uso previsti, sulle priorità relative agli output e altro ancora.

Ad esempio, puoi fornire linee guida come:

  • Sii utile, innocuo e onesto
  • Non inventare fatti
  • Correggersi se si rende conto di aver commesso un errore

Ciò ti consente di modellare meglio l’esperienza di conversazione.

Utilizza la cronologia della chat

Jan AI memorizza la cronologia e il contesto della chat per impostazione predefinita. Pertanto i modelli possono fare riferimento ad affermazioni precedenti in una conversazione per rimanere contestualmente rilevanti, proprio come accadrebbe in una conversazione reale tra umani.

Puoi cancellare la cronologia in qualsiasi momento per fare domande isolate. Ma il comportamento predefinito per utilizzare il contesto è ideale per la maggior parte dei casi d’uso del mondo reale.

Controlla le risorse di calcolo

L’esecuzione locale di modelli complessi richiede notevoli risorse di elaborazione in termini di potenza di CPU e GPU. Jan AI consente controlli granulari sull’utilizzo delle risorse. Per impostazione predefinita, i modelli sfrutteranno tutte le risorse disponibili per massimizzare le prestazioni.

Puoi, però, anche personalizzare l’impegno per limitare l’utilizzo del calcolo del modello se desideri liberare risorse di sistema per altre attività contemporaneamente.

Casi d’uso dell’intelligenza artificiale di Jan

Considerando il livello di capacità e personalizzazione consentito da Jan AI, quali sono alcuni dei casi d’uso ideali nel mondo reale?

Assistente personale

Uno degli usi più pratici è come assistente personale che aiuta con le attività e le domande quotidiane in un’ampia gamma di settori. Puoi chiedere aiuto per scrivere e-mail, ricevere consigli su film o cene, risolvere problemi di matematica, correggere bozze e qualsiasi altra cosa che si presenta quotidianamente!

Analisi e ricerca dei dati

La capacità di acquisire ed elaborare informazioni su molti argomenti specializzati rende Jan AI ideale anche per analizzare dati e condurre ricerche. Se hai bisogno di aiuto per analizzare articoli scientifici, dare un senso ai rapporti finanziari o ottenere risposte rapide a domande di ricerca, Jan AI può fungere da assistente esperto.

Sviluppo software

Per sviluppatori e programmatori, Jan AI offre anche tantissime potenzialità.

Può aiutare a diagnosticare bug, suggerire soluzioni a errori, fornire esempi di codice in dozzine di linguaggi di programmazione, chiarire documentazione complessa e molto altro ancora. Avere un programmatore di coppia AI integrato direttamente nel tuo IDE tramite le integrazioni Jan AI può aumentare seriamente la produttività!

Creazione di contenuti

Jan AI può anche funzionare come assistente alla scrittura per aiutare nella creazione di contenuti. In realtà è così che è stato composto questo stesso post sul blog! Il modello ha generato uno schema e una bozza iniziali che poi il redattore ha ampliato, revisionato e modificato secondo il suo gusto.

Quindi, se hai bisogno di aiuto per fare brainstorming di idee, tradurre pensieri in parole o correggere bozze di lavori scritti, lascia che Jan AI ti dia una mano.

E tutto il resto!

Se hai bisogno di:

  • Un compagno di studio che ti aiuta a conservare le informazioni
  • Un membro del clan di giocatori con cui collaborare
  • Ispirazione progettuale per progetti creativi
  • Feedback per esercitarsi a parlare in pubblico
  • Supporto emotivo nei momenti difficili

…Jan AI mira a gestire tutto questo!

I casi d’uso sono quasi infiniti, data la notevole ampiezza della conoscenza di tutti gli argomenti e la natura umana unica delle conversazioni che Jan AI consente completamente offline.

Jan, Roadmap futura dell’IA

Per quanto Jan AI sia già straordinaria, il team di sviluppo ha piani audaci per renderla ancora più capace. Ecco uno sguardo a cosa c’è in serbo per le versioni future:

Sistema di versione

Consenti il ​​blocco di versioni stabili specifiche di modelli e Jan AI anziché l’aggiornamento automatico per garantire la continuità.

Ottimizzazioni M1/M2

Prestazioni migliorate sui chip Mac M1 e M2 sfruttando il motore neurale e garantendo la piena compatibilità.

Sincronizzazione multidispositivo

Sincronizza i dati degli utenti come modelli, personaggi, conversazioni ecc. su app desktop e mobili.

App mobili

App native iOS e Android Jan AI per consentire l’accesso mobile ai modelli in movimento.

Accesso all’API

Accesso API per sfruttare le funzionalità Jan AI per gli sviluppatori che creano integrazioni personalizzate in altri software.

Integrazione di modelli di terze parti

Supporto per modelli proprietari aggiuntivi come GPT-4 tramite una più stretta integrazione con le API ufficiali.

Jan AI ha piani ambiziosi per allargare i confini di ciò che è possibile quando si eseguono chatbot a livello locale. Il progetto mantiene, infatti, uno slancio incredibile grazie alla sua natura open source e agli appassionati contributi degli sviluppatori della comunità.

Prova subito Jan AI!

Ora che hai visto l’enorme potenziale offerto da Jan AI per l’esecuzione di modelli di intelligenza artificiale conversazionale completamente offline, è tempo di sperimentarlo tu stesso.

Riepilogo dei motivi per cui dovresti provare Jan AI:

🤖 Accesso open source gratuito alle più recenti funzionalità di chatbot

🔒 Privacy totale dei dati con tutto in esecuzione localmente

⚙️ Controllo completo per personalizzare i modelli secondo necessità

💬 Conversazioni naturali che supportano tantissimi casi d’uso pratici

Pronto per iniziare?

Basta andare su jan.ai e seguire le istruzioni di installazione rapida per il tuo sistema operativo. In pochi minuti sbloccherai tutta la potenza dell’intelligenza artificiale open source, sarà come avere una tua versione in locale localizzata di ChatGPT!

Sfoglia l’hub dei modelli, installa quelli che ti interessano, fornisci eventuali istruzioni personalizzate e inizia la chat! Ci piacerebbe sapere in quali modi creativi finirai per utilizzare Jan AI e i fantastici modelli open source disponibili. Le possibilità sono infinite.

Allora, cosa stai aspettando? Vai a soddisfare la tua curiosità scaricando Jan AI per iniziare a gestire incredibili chatbot completamente offline oggi stesso!

2