Meta Llama 3: migliore modello IA open source
Meta Llama 3: migliore modello IA open source
Meta ha annunciato ieri sera il nuovo modello Llama 3 che gli utenti di alcuni paesi potranno sfruttare attraverso il chatbot Meta AI in WhatsApp, Instagram, Messenger e Facebook. In base ai benchmark pubblicati dall’azienda di Menlo Park, Llama 3 supera altri due noti modelli open source (Google Gemma e Mistral 7B) e, in alcuni test, anche Google Gemini Pro 1.5 e Claude 3 Sonnet.
Llama 3: migliore modello open source
Llama 3 sarà inizialmente disponibile in due varianti con 8 e 70 miliardi di parametri. Un terzo modello con oltre 400 miliardi di parametri è ancora in addestramento. Prima del suo rilascio sono previsti miglioramenti per i due modelli più piccoli con nuove capacità multimodali, una context window più ampia e il supporto multilingua.
L’architettura è simile a quella di Llama 2, ma Llama 3 ha una context window di 8.192 token (il doppio) e il dataset usato per l’addestramento è 7 volte più grande (oltre 15 trilioni di token contro i 2 trilioni di Llama 2). I dati pubblici sono principalmente in inglese. Solo il 5% sono in altre 30 lingue, ma questa percentuale aumenterà in futuro.
Il training del modello è stato effettuato con due cluster composti da 24.576 GPU NVIDIA H100. Diverse soluzioni hardware e software hanno permesso di migliorare l’efficienza di circa tre volte rispetto a Llama 2. In base ai benchmark che misurano le prestazioni in vari compiti (ragionamento, calcoli matematici, generazione di codice e altri), Llama 3 8B supera Gemma 7B e Mistral 7B. Llama 3 70B supera invece Gemini Pro 1.5 e Claude 3 Sonnet in tre test su cinque.
In un test di valutazione umana, che tiene conto di 1.800 prompt in 12 scenari, Llama 3 70B supera anche GPT-3.5. Il confronto con GPT-4 verrà probabilmente effettuato quando sarà pronta la versione con oltre 400 miliardi di parametri. Gli sviluppatori potranno accedere al nuovo modello tramite AWS, Databricks, Google Cloud, Hugging Face, Kaggle, IBM WatsonX, Microsoft Azure, NVIDIA NIM e Snowflake.
Microsoft Edge: novità IA su desktop e iOS
Microsoft Edge: novità IA su desktop e iOSApp e Software Browser Business AI
Copilot in Microsoft Edge consente di chiedere informazioni sul contenuto della pagina web o del PDF nella scheda aperta con il simbolo @.
Microsoft ha annunciato due novità che sfruttano l’integrazione di Copilot in Edge. La prima è disponibile per tutti e permette di ricevere dall’assistente informazioni sul contenuto della pagina web o del PDF aperto nella scheda del browser. La seconda è invece accessibile solo agli utenti che usano la versione Canary. Altre due funzionalità sono in test su iOS.
Tagging e Chiedi a Copilot
Per impostazione predefinita, quando l’utente chiede informazioni sulla pagina web o il PDF visualizzato nella scheda del browser, Copilot cerca la risposta su Internet tramite Bing. Nella parte superiore del box in cui si inserisce il prompt è scritto “Origini rilevanti“.
Microsoft ha migliorato l’integrazione di Copilot in Edge, aggiungendo l’opzione “Questa pagina“. Per chiedere all’assistente informazioni sulla pagina aperta è possibile anche sfruttare la funzionalità di “tagging”, ovvero il simbolo @. La prima volta verrà mostrato un avviso per l’invio dei dati di navigazione a Microsoft (serve per accedere ai contenuti della pagina, ma si può disattivare nelle impostazioni). È possibile ad esempio chiedere di generare il riassunto di un articolo.
La seconda novità riguarda la funzionalità Chiedi a Copilot. Attualmente è possibile chiedere informazioni sul testo selezionato, scegliendo la voce corrispondente nel menu contestuale. In Edge Canary è stato aggiunto un sottomenu con quattro opzioni (Explain, Summarize, Expand e Ask anything in chat) che permettono di ottenere vari tipi di risposta.
Edge per iOS nasconde altre due funzionalità. La prima, che deve essere attivata in edge://flags è Circle to Copilot. Tenendo premuto il pulsante Copilot viene catturato uno screenshot della pagina web. L’utente può quindi disegnare un cerchio su una parte della pagina e l’assistente fornisce informazioni sul contenuto (in modo simile a Circle to Search di Google).
La funzionalità Chat with Image può essere invece usata toccando l’icona della fotocamera nella finestra Copilot. In modo analogo a Google Lens è possibile cercare immagini simili sul web o effettuare la scansione del codice QR o a barre.
Fonte: Windows Latest
Llama 3: migliore modello open source
Llama 3 sarà inizialmente disponibile in due varianti con 8 e 70 miliardi di parametri. Un terzo modello con oltre 400 miliardi di parametri è ancora in addestramento. Prima del suo rilascio sono previsti miglioramenti per i due modelli più piccoli con nuove capacità multimodali, una context window più ampia e il supporto multilingua.
L’architettura è simile a quella di Llama 2, ma Llama 3 ha una context window di 8.192 token (il doppio) e il dataset usato per l’addestramento è 7 volte più grande (oltre 15 trilioni di token contro i 2 trilioni di Llama 2). I dati pubblici sono principalmente in inglese. Solo il 5% sono in altre 30 lingue, ma questa percentuale aumenterà in futuro.
Il training del modello è stato effettuato con due cluster composti da 24.576 GPU NVIDIA H100. Diverse soluzioni hardware e software hanno permesso di migliorare l’efficienza di circa tre volte rispetto a Llama 2. In base ai benchmark che misurano le prestazioni in vari compiti (ragionamento, calcoli matematici, generazione di codice e altri), Llama 3 8B supera Gemma 7B e Mistral 7B. Llama 3 70B supera invece Gemini Pro 1.5 e Claude 3 Sonnet in tre test su cinque.
In un test di valutazione umana, che tiene conto di 1.800 prompt in 12 scenari, Llama 3 70B supera anche GPT-3.5. Il confronto con GPT-4 verrà probabilmente effettuato quando sarà pronta la versione con oltre 400 miliardi di parametri. Gli sviluppatori potranno accedere al nuovo modello tramite AWS, Databricks, Google Cloud, Hugging Face, Kaggle, IBM WatsonX, Microsoft Azure, NVIDIA NIM e Snowflake.
Microsoft Edge: novità IA su desktop e iOS
Microsoft Edge: novità IA su desktop e iOSApp e Software Browser Business AI
Copilot in Microsoft Edge consente di chiedere informazioni sul contenuto della pagina web o del PDF nella scheda aperta con il simbolo @.
Microsoft ha annunciato due novità che sfruttano l’integrazione di Copilot in Edge. La prima è disponibile per tutti e permette di ricevere dall’assistente informazioni sul contenuto della pagina web o del PDF aperto nella scheda del browser. La seconda è invece accessibile solo agli utenti che usano la versione Canary. Altre due funzionalità sono in test su iOS.
Tagging e Chiedi a Copilot
Per impostazione predefinita, quando l’utente chiede informazioni sulla pagina web o il PDF visualizzato nella scheda del browser, Copilot cerca la risposta su Internet tramite Bing. Nella parte superiore del box in cui si inserisce il prompt è scritto “Origini rilevanti“.
Microsoft ha migliorato l’integrazione di Copilot in Edge, aggiungendo l’opzione “Questa pagina“. Per chiedere all’assistente informazioni sulla pagina aperta è possibile anche sfruttare la funzionalità di “tagging”, ovvero il simbolo @. La prima volta verrà mostrato un avviso per l’invio dei dati di navigazione a Microsoft (serve per accedere ai contenuti della pagina, ma si può disattivare nelle impostazioni). È possibile ad esempio chiedere di generare il riassunto di un articolo.
La seconda novità riguarda la funzionalità Chiedi a Copilot. Attualmente è possibile chiedere informazioni sul testo selezionato, scegliendo la voce corrispondente nel menu contestuale. In Edge Canary è stato aggiunto un sottomenu con quattro opzioni (Explain, Summarize, Expand e Ask anything in chat) che permettono di ottenere vari tipi di risposta.
Edge per iOS nasconde altre due funzionalità. La prima, che deve essere attivata in edge://flags è Circle to Copilot. Tenendo premuto il pulsante Copilot viene catturato uno screenshot della pagina web. L’utente può quindi disegnare un cerchio su una parte della pagina e l’assistente fornisce informazioni sul contenuto (in modo simile a Circle to Search di Google).
La funzionalità Chat with Image può essere invece usata toccando l’icona della fotocamera nella finestra Copilot. In modo analogo a Google Lens è possibile cercare immagini simili sul web o effettuare la scansione del codice QR o a barre.
Fonte: Windows Latest
Commenti
Posta un commento