E se non ci fossero più “nuovi LLM?”
@aitech - C'è chi ipotizza che gli LLM complessi saranno usati solo per addestrare quelli resi pubblici, e Ciò È Male - Link: https://xmau.com/wp/notiziole/2025/01/23/se-non-ci-fossero-nuovi-llm/

E se non ci fossero più “nuovi LLM?”

@aitech - C'è chi ipotizza che gli LLM complessi s

https://xmau.com/wp/notiziole/2025/01/23/se-non-ci-fossero-nuovi-llm/

E se non ci fossero più “nuovi LLM?”

Ho trovato su Substack questo post di Alberto Romero che mi ha preoccupato parecchio. Riassunto per chi ha fretta: Romero ipotizza che GPT-5 esiste, ma non verrà reso pubblico perché il suo costo computazionale è troppo alto; esso è stato però usato per addestrare i nuovi modelli pubblici, come o1 e il futuro o3. Da dove deriva questa impressione? da quello che è successo con Anthropic (cioè Amazon, se ve lo chiedeste) e Opus 3.5, che è stato ufficialmente cancellato “perché non era così migliore dei modelli precedenti” ma sarebbe stato comunque usato per addestrare il successore del precedente sistema Sonnet 3.5, che effettivamente ha avuto un grande miglioramento nelle prestazioni. Notate il condizionale che ho usato (perché è stato usato nell’articolo). Sono tutte supposizioni.

Romero spiega che il rapporto costi-benefici del nuovo sistema non si è rivelato sufficiente: d’altra parte, se date un’occhiata a questo post, notate come il passaggio da un modello a quello superiore costa – nel senso di quanto si paga per migliaia di token – un ordine di grandezza in più passando da un modello al successivo… tranne che nel caso di o1, dove il costo si riduce. Inoltre il modello di o1 sembra avere un numero di parametri inferiore a quello di GPT-4. L’inferenza di Romero è che o1 è stato addestrato con GPT-5. È vero che il costo computazionale di quest’ultimo sarebbe altissimo, ma è anche vero che l’addestramento si fa una volta sola, e

What you need to remember is that a strong model acting as a “teacher” turns “student” models from [small, cheap, fast] + weak into [small, cheap, fast] + powerful.

Il tutto senza contare che è finito il materiale di pre-addestramento: sempre dall’articolo di Romero,

But overtraining is not feasible anymore. AI labs have exhausted the high-quality data sources for pre-training. Elon Musk and Ilya Sutskever admitted that much in recent weeks

(ok, che lo dica Elonio non significa molto, ma basta fare dei conti spannometrici per accorgersi che questa ipotesi è plausibile.) Tutto bene, allora? Viviamo nel migliore dei mondi possibili e abbiamo trovato un sistema per ridurre l’impronta energetica di questi sistemi? Mica tanto. L’autoaddestramento va benissimo per sistemi dalle regole fisse, come il go. Qui invece abbiamo un sistema statistico. proprio perché sono vent’anni che abbiamo visto che è impossibile sperare di trovare un sistema di regole. Posso immaginare che ci siano tonnellate di correzioni inserite nell’algoritmo, ma autoaddestrare in questo modo dà la certezza che gli errori di base nell’approccio generativo delle risposte si perpetueranno, perché il sistema si dà ragione da solo. Si avrà, solo moltiplicato per un fattore incredibile, l’effetto Wikipedia copycat: qualcuno scrive un testo errato nell’enciclopedia, altri copiano bovinamente quello che c’è scritto, e a questo punto abbiamo la fonte bella pronta e la Verità Errata stabilita una volta per tutte.

Capite perché sono preoccupato?

La "sbobba" generata dall'intelligenza artificiale sta uccidendo Internet lentamente e nessuno cerca di fermarla

I contenuti generati dall'AI - definiti slop - stanno praticamente pervadendo il web e social, da Facebook a LinkedIn.
Studi mostrano che più della metà dei post lunghi su LinkedIn è generata da AI! Che su Facebook i feed sono invasi da contenuti AI, incluse immagini di Gesù fatto di gamberi.

Questa tendenza fa parte di un fenomeno più grande, noto come enshittification dei servizi online. Si stanno progressivamente sommergendo i contenuti autentici creati dalle persone con una miriade di materiali artificiali.

Come spesso accade, le piattaforme sembrano più interessate ai guadagni che a risolvere questo problema.

@aitech

theguardian.com/global/comment…

Von der Leyen mette in guardia dal rischio di una corsa globale al ribasso, ma avverte: l’UE è pronta al cambiamento

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
Il giorno dopo il bellicoso discorso d’insediamento del nuovo presidente degli Stati Uniti,

Questo giornalista vuole che tu provi l'intelligenza artificiale open source

"L'intelligenza artificiale è brillante, ma il valore deriva dalle idee che le persone hanno per usarla". Florent Daudens di Hugging Face su cosa sia l'intelligenza artificiale open source, come i giornalisti possono usarla e perché pensa che dovrebbero farlo

https://reutersinstitute.politics.ox.ac.uk/news/journalist-wants-you-try-open-source-ai-ai-shiny-value-comes-ideas-people-have-use-it

@aitech

La società civile europea si mobilita per i diritti umani mentre si avvicina la scadenza del divieto dell’AI Act

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
In una dichiarazione congiunta, le organizzazioni della società civile hanno criticato la stesura

Bruxelles invita gli Stati membri a monitorare gli investimenti in uscita, valutando i rischi per la sicurezza economica

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
La Commissione europea ha recentemente pubblicato una

La Repubblica Ceca è pronta a discutere con gli Stati Uniti dei limiti all’esportazione di chip AI

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
Il governo ceco ha manifestato la propria disponibilità a negoziare con gli Stati Uniti in merito ai controlli sulle

La Commissione vuole un centro dedicato alla salute nell’agenzia per la sicurezza informatica dell’UE

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
La Commissione europea ha presentato un piano d’azione a livello UE per salvaguardare il settore sanitario dell’Unione,

Il Regno Unito vuole spendere miliardi per l'IA: ecco i dettagli più inquietanti

Il TBI ha recepito le indicazioni dei suoi sponsor tecnologici. Da qui i report che spingono con forza per l'intelligenza artificiale nel governo: uno suggerisce di spendere 4 miliardi di sterline all'anno per sostituire i dipendenti pubblici con i computer; l'altro afferma che l'intelligenza artificiale farà risparmiare il 23% del tempo sul posto di lavoro in tutta l'economia.

https://pivot-to-ai.com/2025/01/13/uk-government-plans-to-splurge-billions-on-ai-we-step-through-the-tricky-details/

@aitech

Secondo Gil Shwed, fondatore di Check Point, l'IA la sta democratizzando la cybersecurity, sia per gli attaccanti che per chi difende i dati digitali

"Gli attacchi semplici sono sempre meno e vediamo attacchi sempre più complessi. Pensiamo al solo phishing: negli ultimi due anni è "migliorato" tantissimo ma non perché gli hacker hanno studiato le lingue. Utilizzano invece l'intelligenza artificiale per fare tutto".

https://www.wired.it/article/cybersecurity-impatto-intelligenza-artificiale/

@aitech

McAfee lancia un rilevatore di truffe basato sulla IA (bloccherà anche tuo nipote rivendotore di depuratori da rubinetto?)

Lo strumento di McAfee dovrebbe riuscire a rilevare le truffe tramite e-mail, SMS e tentativi di deepfake sui social e altrove
I clienti paganti di McAfee potranno provarlo gratuitamente, ma se come sostiene McAfee, e vittime di truffe perdono in media circa $ 1.500 a testa, allora il mercato dovrebbe esser promettente.

https://www.techradar.com/pro/this-ai-scam-detector-could-save-you-thousands-by-stopping-scammers-before-they-reach-you-but-its-free-only-if-youre-a-mcafee-customer

@aitech

Alcuni ricercatori hanno reso open source Sky-T1, un modello di intelligenza artificiale "ragionante" che può essere addestrato per meno di 450 dollari

Sky-T1 sembra essere il primo modello di ragionamento veramente open source nel senso che può essere replicato da zero ; il team ha rilasciato il set di dati utilizzato per addestrarlo, nonché il codice di addestramento necessario.

https://techcrunch.com/2025/01/11/researchers-open-source-sky-t1-a-reasoning-ai-model-that-can-be-trained-for-less-than-450/

@aitech

Von der Leyen crea 14 gruppi di progetto per realizzare le priorità politiche della nuova Commissione UE

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
La presidente della Commissione europea Ursula von der Leyen ha istituito quattordici Gruppi di

può aiutare i politici e gli imprenditori a comprendere meglio il pubblico

O piuttosto potrà aiutare il pubblico a evitare preventivamente politici e imprenditori.

Scale AI si affida a un esercito di lavoratori che classifica come appaltatori per svolgere lavori di intelligenza artificiale essenziali, come etichettare immagini o classificare risposte LLM per Big Tech e altri. Ma la startup di intelligenza artificiale, valutata di recente a 13,8 miliardi di dollari , sta affrontando crescenti sfide legali sulle sue pratiche di lavoro

Il 3 gennaio 2025, l'ex dipendente di Scale AI Amber Rogowicz ha intentato una causa sostenendo che Scale ha classificato erroneamente lei e altri lavoratori come appaltatori anziché dipendenti. La causa sostiene che la paga dell'azienda ammonta effettivamente a $ 15 l'ora, sostenendo che ciò viola il salario minimo della California di $ 16,00 al momento del suo impiego (ora è di $ 16,50).

Mercoledì Microsoft ha reso open source il suo modello di linguaggio di piccole dimensioni Phi-4, dotat di 14 miliardi di parametri. L'ultimo modello di intelligenza artificiale (AI) della serie Phi è stato rilasciato il mese scorso, tuttavia, all'epoca era disponibile solo tramite Azure AI Foundry dell'azienda. All'epoca, il colosso tecnologico di Redmond ha affermato che avrebbe presto reso disponibile al pubblico il codice sorgente del modello AI. Ora, gli interessati possono accedere al modello AI incentrato sul ragionamento tramite Hugging Face. Microsoft sta inoltre consentendo l'utilizzo del modello sia per casi d'uso accademici che commerciali.

Trump rivela un piano da 20 miliardi di dollari per costruire più data center negli Stati Uniti con Il fondatore di DAMAC, il miliardario emiratino Hussain Sajwani

Sajwani investirà 20 miliardi di dollari nell'infrastruttura dei data center statunitensi, ma questa somma potrebbe più che raddoppiare
Gli investimenti “manterranno l’America all’avanguardia della tecnologia e dell’intelligenza artificiale”

https://www.techradar.com/pro/trump-unveils-usd20-billion-plan-to-build-more-us-data-centers

@aitech

Tutti i guai di OpenAI

Malgrado goda ancora di enorme fiducia da parte dei finanziatori, la società sinonimo di ChatGPT deve fronteggiare costi esorbitanti, divisioni interne e possibili, imminenti barriere tecnologiche.

https://guerredirete.substack.com/p/tutti-i-guai-di-openai

@aitech

Le mille questioni aperte dal probabile accordo Meloni-Musk sul sistema Starlink

L'articolo proviene da #Euractiv Italia ed è stato ricondiviso sulla comunità Lemmy @aitech
È scoppiata una grande polemica sui rapporti tra Giorgia Meloni e Elon Musk e sulla trattativa tra il Governo italiano e SpaceX per la fornitura del servizio di