Linux-AI OS Star: 13 GB di speranze su base LMDE 7

Linux-AI OS Star è una distribuzione Linux basata su LMDE 7 (Linux Mint Debian Edition) che prova a portare strumenti di intelligenza artificiale direttamente dentro il desktop. L’idea, sulla carta, è interessante: partire da una base Debian stabile, usare Cinnamon come ambiente grafico e integrare strumenti dedicati all’AI locale, con Ollama utilizzato come backend per parte delle funzionalità.

Dopo averla installata e provata per qualche giorno, però, il quadro che emerge è molto meno convincente. Il problema non è tanto la base, che resta ottima, quanto il modo in cui gli strumenti AI sono stati integrati e presentati.

Installazione e hardware di prova

La ISO pesa circa 13 GB, una dimensione decisamente importante per una distribuzione desktop. Analizzando il sistema installato si scopre che parte di questo peso è facilmente spiegabile: sono presenti modelli Ollama già scaricati, librerie CUDA per più versioni, ambienti virtuali Python separati e diversi componenti dedicati alle applicazioni AI.

Nel sistema testato erano presenti, tra le altre cose, circa 6 GB di modelli Ollama preinstallati, diversi gigabyte di librerie legate a Ollama e CUDA, oltre a più virtual environment Python da alcune centinaia di megabyte ciascuno. Questo non significa che l’intera ISO sia composta da questi file, ma rende certamente più comprensibile una dimensione così elevata.

Il sistema è stato provato su una piattaforma AM4 con scheda madre ASRock A320, 16 GB di RAM DDR4 e NVIDIA GeForce RTX 2060 Super.

La creazione della chiavetta USB con Ventoy non ha funzionato correttamente, mentre con BalenaEtcher il supporto di avvio è stato creato senza problemi. Per completare il boot è stato inoltre necessario intervenire sulle impostazioni BIOS, disabilitando il supporto CSM/Legacy.

Una LMDE molto appesantita

Il desktop è Cinnamon e l’impostazione generale resta quella tipica di LMDE. Il sistema include diversi programmi comuni, tra cui LibreOffice, GIMP, VLC, Audacity e Blender, ma l’esperienza complessiva dà comunque una sensazione di frammentazione.

Alcune scelte risultano poco coerenti con l’idea di una distribuzione pronta all’uso. Durante il test, per esempio, alcune funzioni e applicazioni non risultavano integrate in maniera uniforme e diversi strumenti AI sembravano più applicazioni separate che parti realmente coordinate del sistema.

Uno degli aspetti più evidenti è proprio questo: sotto la superficie di Linux-AI OS continua a esserci una normale LMDE con una serie di strumenti aggiunti sopra. Il valore del progetto dipende quindi quasi interamente da quanto bene questi strumenti riescano a integrarsi tra loro.

Ollama e l’assistente AI

Il cuore della parte AI è Ollama, che funziona correttamente e può essere utilizzato anche direttamente da terminale.

Il problema nasce con l’assistente grafico incluso nella distribuzione.

L’applicazione principale si trova in:

/usr/share/linux-ai/assistant/linux_ai_assistant.py

e utilizza Ollama tramite l’endpoint locale:

http://localhost:11434/api/generate

Fin qui nulla di strano. Il problema è che la gestione dei modelli non è dinamica.

Nel codice dell’assistente la lista dei modelli è scritta manualmente:

self.model_combo.append_text("llama3.2:1b")
self.model_combo.append_text("llama3.2:3b")
self.model_combo.append_text("llama3")

e anche il modello predefinito è fissato direttamente nel sorgente:

DEFAULT_MODEL = "llama3.2:1b"

Questo significa che un modello installato successivamente tramite Ollama non appare automaticamente nell’interfaccia.

La cosa è particolarmente curiosa perché il sistema include anche un Ollama Manager che, al contrario, interroga correttamente l’endpoint /api/tags e riesce quindi a leggere dinamicamente i modelli realmente installati. In altre parole, Linux-AI OS contiene già il meccanismo necessario, ma l’assistente principale non lo usa.

Test con Gemma4

Per verificare il comportamento dell’assistente è stato installato manualmente il modello gemma4:e4b, rilevato da Ollama come modello da circa 8 miliardi di parametri.

Da terminale il modello funzionava senza problemi, ma non appariva nella GUI. Per utilizzarlo è stato necessario modificare manualmente il file Python dell’assistente e aggiungerlo alla lista dei modelli disponibili.

Una volta fatto questo, è emerso un secondo problema.

La GUI imposta il numero massimo di token generabili tramite il parametro:

"num_predict": num_predict

Con un valore di 256 token, Gemma4 lavorava regolarmente sulla GPU ma non produceva alcun testo visibile. La risposta terminava con:

done_reason: length

e campo response vuoto.

Portando num_predict a 1024, lo stesso modello iniziava invece a rispondere normalmente.

Questo dimostra che l’interfaccia non è incompatibile con Gemma4: è semplicemente configurata con parametri pensati per il piccolo modello predefinito llama3.2:1b.

Anche il contesto è fissato nel codice:

"num_ctx": 2048

e può essere aumentato manualmente, per esempio a 8192 o 16384, ma anche in questo caso l’utente deve intervenire direttamente sul file Python.

Non è un vero agente

Un altro aspetto importante riguarda il modo in cui l’assistente viene presentato.

L’interfaccia risponde alle domande attraverso Ollama, ma durante il test non si è comportata come un vero agente capace di eseguire comandi, modificare impostazioni di sistema o controllare il desktop in maniera autonoma.

Di fatto si comporta soprattutto come un client grafico per un modello linguistico locale, con alcune funzioni aggiuntive ma senza quel livello di integrazione che ci si potrebbe aspettare da una distribuzione chiamata “Linux-AI OS”.

Voice Conversation Studio e PersonaStudio

Tra le applicazioni incluse si trova Voice Conversation Studio, che utilizza Kokoro-ONNX per la sintesi vocale.

Non va però confuso con PersonaStudio.

Voice Conversation Studio è sostanzialmente un’interfaccia grafica per Kokoro e non offre le funzioni più avanzate di clonazione vocale e creazione avatar che avevano attirato maggiormente la mia attenzione.

PersonaStudio appartiene infatti a un’edizione diversa del progetto.

Tre edizioni: Star, Premium e AI Studio

Linux-AI OS non esiste in una sola versione.

La struttura è divisa in tre livelli:

  • Star, la versione gratuita provata in questo test;
  • Premium, versione a pagamento con applicazioni aggiuntive;
  • AI Studio, il livello superiore dedicato alle funzioni AI più avanzate.

PersonaStudio è associato ad AI Studio, non alla versione Star e nemmeno alla normale Premium.

Questo dettaglio è importante perché evita di attribuire alla Star la mancanza di una funzione che non dovrebbe effettivamente contenere. Rimane però una certa confusione nella comunicazione generale del progetto, perché le varie funzioni vengono spesso presentate nello stesso ecosistema senza rendere immediatamente evidente quale edizione le includa.

Alcune stranezze tecniche

Durante l’analisi sono emersi anche dettagli che danno l’impressione di un progetto ancora poco rifinito.

Il launcher dell’assistente, per esempio, contiene ancora un riferimento a un percorso personale dello sviluppatore:

/home/kevin/whisper-env/bin/activate

prima di attivare il virtual environment corretto dell’applicazione.

Non è un problema enorme in sé, ma è un buon esempio del livello di pulizia generale: la distribuzione funziona, ma diversi dettagli sembrano provenire direttamente dall’ambiente di sviluppo senza essere stati completamente ripuliti prima della pubblicazione.

Quanto occupa davvero tutta questa AI?

Nel sistema installato, /usr/share/ollama occupava circa 15 GB, ma parte di quello spazio era dovuto al modello Gemma4 scaricato successivamente per il test.

Prima dell’aggiunta di Gemma4, i modelli preinstallati occupavano complessivamente circa 6 GB.

Inoltre:

/usr/local/lib/ollama    ~3,5 GB
/usr/share/linux-ai      ~1,7 GB
/opt/linux-ai            ~1,0 GB

All’interno di queste directory sono presenti librerie CUDA, modelli vocali, virtual environment Python e applicazioni dedicate.

Anche qui il problema non è semplicemente “occupa troppo”. Il punto è capire se tutto questo spazio produce davvero un’esperienza più semplice e integrata rispetto a una normale LMDE con Ollama installato manualmente.

Ed è proprio qui che Linux-AI OS convince meno.

Considerazioni finali

L’idea di partenza è valida.

Una distribuzione Linux che installi e configuri automaticamente strumenti per AI locale, modelli, sintesi vocale e interfacce grafiche potrebbe essere molto interessante soprattutto per chi non vuole gestire manualmente driver, virtual environment, dipendenze e configurazioni.

Il problema è che Linux-AI OS Star, nello stato attuale, non riesce ancora a dare questa sensazione di integrazione.

Ollama funziona bene, ma l’assistente principale usa una lista di modelli hardcoded. Per aggiungere un modello personale bisogna modificare direttamente un file Python. I parametri di generazione sono tarati sul piccolo modello predefinito e possono causare problemi con modelli differenti. Alcune applicazioni sono semplici interfacce grafiche costruite sopra progetti già disponibili separatamente.

In sostanza, per un utente esperto il valore aggiunto rispetto a una normale LMDE 7 con Ollama configurato manualmente è piuttosto ridotto.

Per un utente meno esperto, invece, il vantaggio dovrebbe essere proprio quello di non dover mettere mano a configurazioni e script. Ed è qui che il progetto dovrebbe fare di più.

Linux-AI OS non è un’idea sbagliata. È un’idea interessante che, almeno nella versione Star provata in questo test, sembra ancora aver bisogno di parecchia rifinitura.

Per ora, quei 13 GB di speranze restano soprattutto questo: speranze.

 

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *