RAMDeck: il nuovo hub per potenziare la RAM di più dispositivi in crowdfunding

RAMDeck è un innovativo hub a basso consumo attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna, che ha come obiettivo 10.000 dollari, terminerà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di diversi dispositivi, tra cui PC Windows, Mac, Linux e telefoni Android, consentendo l’esecuzione di modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.

Il progetto nasce in risposta all’aumento dei costi della memoria DDR5, che ha visto un incremento di prezzo di circa cinque volte rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non combina la memoria a livello hardware; piuttosto, distribuisce i pesi di un modello tra le macchine collegate, mantenendo ciascuna porzione in memoria locale e trasferendo solo i risultati intermedi attraverso la rete durante la generazione dei token.

La tecnologia alla base di RAMDeck si basa sull’RPC di llama.cpp. Un nodo agente avvia il server ggml RPC su ogni dispositivo partecipante, mentre il coordinamento avviene tramite un protocollo standard. Un elemento chiave del progetto è l’orchestrazione fornita da TradeMAV, che include la scoperta automatica dei nodi, il posizionamento dei layer per ottimizzare l’uso delle GPU rispetto alla RAM di sistema e la gestione dei guasti, il tutto supportato da una dashboard e un’API compatibile con OpenAI.

Attualmente, le specifiche hardware del hub non sono disponibili, inclusi dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che gli utenti esperti possano seguire una soluzione fai-da-te (DIY) gratuita. Esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei, e sul mercato sono disponibili soluzioni commerciali di clustering che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. I benchmark pubblicati mostrano che le configurazioni più veloci utilizzano un mini PC con RTX 3060, raggiungendo prestazioni di 39 token al secondo per il modello Qwen3-Coder 30B su una coppia di Beelink mini PC e un Mac mini M4. Al contrario, i modelli densi mostrano prestazioni significativamente inferiori, con un modello 27B che ha raggiunto solo 1,92 token al secondo su quattro dispositivi.

In sintesi, mentre l’engine software è gratuito e già disponibile, RAMDeck si propone di semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e le prestazioni per i modelli densi evidenziano delle limitazioni. Per chi desidera provare, è possibile esplorare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce una soluzione pronta all’uso, l’hub è disponibile in preorder a 109 dollari, con i rischi tipici delle campagne di crowdfunding, inclusi ritardi o modifiche nel prodotto finale.