Cos’è un PC AI?

L’intelligenza artificiale è ovunque. Aziende di intelligenza artificiale come OpenAI e Anthropic sono passate da nomi sconosciuti a nomi familiari in pochi anni. Le grandi aziende tecnologiche come Google, Meta, Amazon e Microsoft continuano a implementare i loro modelli di intelligenza artificiale su ogni prodotto, dalla ricerca agli assistenti chatbot e altro ancora. E, naturalmente, le aziende che producono chip per pc e GPU come Nvidia stanno racimolando miliardi mentre creano l’{hardware} che alimenta tutto.

Ma cosa succederebbe se i consumatori non volessero inviare i propri dati alle grandi aziende tecnologiche o sborsare centinaia, se non migliaia, di dollari al mese alle grandi società di intelligenza artificiale in cambio di token? Mentre le aziende di {hardware} per pc come Nvidia potrebbero avere difficoltà a tenere il passo con la domanda, gli utenti di tutti i giorni possono ancora trovare tutto ciò di cui hanno bisogno per costruire la propria macchina – un PC AI – ed eseguire modelli AI localmente.

Ma cos’è esattamente un PC AI? Di cosa hai bisogno se vuoi costruirne uno tuo o cosa dovresti cercare se acquisti un PC AI già pronto? E in cosa differisce da altri pc potenti costruiti per scopi specifici, come i PC da gioco?

Per rispondere a queste domande, Mashable ha parlato con un esperto che costruisce PC per vivere, il co-fondatore e CEO di Quoted Tech Kevin Jia. Fondata nel 2023, Tecnologia citata è un’azienda con sede in Canada che costruisce PC personalizzati per migliaia di clienti. Jia e l’azienda hanno inoltre fornito a Mashable l’accesso a uno dei loro modelli precostruiti, il Citato One Pro Plusun pc entry-level personalizzato precostruito realizzato per l’intelligenza artificiale, in modo da poter testare esattamente cosa rende un PC AI un PC AI.

Cos’è un PC AI?

Un PC AI è esattamente quello che cube di essere: un pc costruito per gestire l’intelligenza artificiale, l’apprendimento automatico e i modelli linguistici di grandi dimensioni (LLM).

Tecnicamente, ogni PC al giorno d’oggi può utilizzare l’intelligenza artificiale, proprio come si può giocare o modificare video su qualsiasi pc, senza bisogno di PC da gioco o workstation di modifying video. Proprio come un PC da gioco offre prestazioni di punta e la migliore esperienza di gioco, un PC AI è costruito appositamente per eseguire modelli AI.

Come ha sottolineato Jia, tuttavia, un PC AI non significa che sia una macchina monouso, poiché molte delle specifiche che potresti trovare in un PC AI possono essere trovate anche in un impianto di gioco o in un PC costruito per l’elaborazione video.

“Gli utenti non hanno bisogno di scegliere tra un impianto di ‘AI’ e un impianto di ‘gioco’”, ha spiegato Jia. “Un pc orientato all’intelligenza artificiale non deve essere una macchina monouso. È una workstation pienamente in grado di funzionare con l’intelligenza artificiale, ma è anche costruita per gestire comodamente giochi e altri carichi di lavoro professionali in un unico sistema.”

Potrei semplicemente usare il mio laptop computer per l’intelligenza artificiale?

Ovviamente puoi utilizzare ChatGPT, Claude, Copilot e Gemini sul tuo laptop computer da $ 300. I modelli cloud possono essere eseguiti su qualsiasi macchina.

Tuttavia, se stai cercando di eseguire processi di intelligenza artificiale locali, avrai bisogno di un PC creato per l’attività.

“L’intelligenza artificiale ha bisogno di molta potenza di elaborazione della GPU, di molta VRAM, di molta memoria, di una CPU decente e di essere in grado di raffreddare il tutto in un tower decente,” ci ha detto Jia. “Abbiamo avuto clienti che sono venuti da noi dicendo: ‘Ehi, ho comprato questo laptop computer per l’intelligenza artificiale e non funziona, si surriscalda e funziona lentamente.'”

Per avere un’thought di cosa c’è dentro un PC AI di livello shopper, ecco le specifiche di Quoted One Professional Plus che abbiamo testato per questo pezzo:

• CPU: Intel Core i5-14600K (14 core/20 thread, fino a 5,3 GHz)

• GPU: NVIDIA RTX 5060 (8 GB GDDR7)

• Memoria: Kingston Fury Beast da 32 GB DDR5 (2×16 GB) a 5600 MHz

• Spazio di archiviazione: SSD Kingston KC3000 NVMe M.2 da 1 TB (velocità di lettura fino a 7.000 MB/s)

• Scheda madre: MSI PRO Z790-VC Wi-Fi

• Raffreddamento CPU: Thermalright Peerless Murderer 120 (raffreddatore advert aria bianco a doppia torre)

• Alimentatore: MSI MAG A650BN 650W, 80+ Bronze (non modulare)

• Custodia: Fractal Design North (bianco con pannello laterale in vetro temperato)

• Sistema operativo: Home windows 11 Dwelling

Qual è la differenza principale tra un PC realizzato per l’intelligenza artificiale e altri PC?

Tradizionalmente, quando si pensa a un PC di fascia alta, almeno a livello shopper, si pensa a un PC da gioco sofisticato.

Anche se puoi giocare su un PC dotato di intelligenza artificiale e viceversa, gli sviluppatori di PC personalizzati come Quoted Tech sanno che c’è una differenza quando costruisci un PC per uno scopo specifico come l’intelligenza artificiale.

Una differenza importante? L’accento sul raffreddamento.

“Puoi vedere che c’è un sacco di flusso d’aria”, ha detto Jia. “Sarà un enorme passo non negoziabile per i sistemi basati sull’intelligenza artificiale.”

Ventilazione Nord di Fractal Design
Credito: disegno frattale

Dopo aver passato un po’ di tempo a testare il Quoted One Professional Plus, una “tonnellata di flusso d’aria” sembra in realtà un eufemismo. Per la sua linea di pc AI, Quoted Tech utilizza il case per PC North di Fractal Design.

La prima cosa che noterai è che la torre del PC è molto più grande di quanto ti aspetteresti. Ovviamente potrebbero rimpicciolirlo. Questa non è una limitazione tecnologica. Il case del PC è volutamente grande. North è stato progettato per un flusso d’aria ottimale per raffreddare il tuo PC.

“Molti sistemi precostruiti sul mercato sono progettati con un fattore di forma più piccolo perché sono più economici”, afferma Jia. “Ci sono state persone che sono venute da noi e ci hanno detto: ‘Lo sto eseguendo su un sistema di gioco precostruito, e semplicemente si blocca o rallenta, oppure non funziona.’ E diciamo loro come hanno l’equivalente di un grande laptop computer. Quel sistema non è stato progettato per essere spinto in questo modo.”

Puoi sentire una leggera brezza emanata dal Quoted One Professional Plus mentre è in funzione. È come il giorno e la notte rispetto al mio PC da gioco, molto più piccolo. Il mio PC tower potrebbe riscaldare la mia stanza, se necessario, durante l’inverno mentre gioco per un paio di minuti a Fortnite. Al contrario, il flusso d’aria percepito in uscita da Quoted One Professional Plus potrebbe rinfrescare una piccola stanza durante l’property.

“Quando giochi, spero che la maggior parte di noi giochi solo per poche ore alla volta”, ha spiegato Jia. “Molti sistemi di gioco, sebbene siano buoni per il flusso d’aria, potrebbero non essere di alto livello perché non sono stati progettati per funzionare per 7, 8 o addirittura 12 ore.”

“Considerando che con l’intelligenza artificiale, se stai svolgendo un lavoro LLM o qualcosa del genere, potresti eseguire questa cosa per 2 o 3 giorni.” ha continuato. “Hai bisogno di stabilità. Hai bisogno di un raffreddamento di classe workstation. Hai bisogno di spazio di classe workstation. Quelli non possono essere scambiati.”

Inoltre, tende a non esserci alcun limite alla potenza di elaborazione che puoi inserire in un PC AI. Advert esempio, Quoted Tech ha costruito workstation che possono ospitare fino a 8 GPU contemporaneamente.

“Sarebbe un pessimo PC da gioco perché la maggior parte dei giochi non sarà in grado di utilizzare più di una GPU in modo efficace”, ha affermato Jie. “Se dicessi: ‘Comprerò una scheda Blackwell per giocare ai videogiochi’, direi che dobbiamo ripensare a come stai spendendo i soldi perché probabilmente potresti ottenere il 99% delle prestazioni. [in a gaming PC] per un terzo del bilancio.”

Case per PC North di Fractal Design
Credito: disegno frattale

Perché un PC AI invece dei Mac Apple basati sul silicio?

Nel novembre 2020, Apple ha rilasciato la sua prima linea di Mac Silicon con i nuovi MacBook Air, MacBook Professional e Mac mini M1. Questi Mac offrivano ai consumatori opzioni più potenti rispetto ai laptop computer e ai PC desktop con prezzi simili.

Poiché Apple ha incorporato sempre più potenza di elaborazione in questi chip di silicio nel corso degli anni, sono diventati popolari tra gli utenti che desiderano eseguire processi IA locali come l’assistente AI. OpenClaw.

Sebbene questi Mac rimangano buone opzioni per determinati casi d’uso, Jia spiega perché i PC rimangono la scelta migliore per l’intelligenza artificiale.

“In generale, la maggior parte degli sviluppatori LLM e AI oggi si basano sul linguaggio CUDA di NVIDIA. Questa è davvero la differenza decisiva”, ha affermato Jia, riferendosi alla Compute Unified System Structure proprietaria di Nvidia, che richiede le GPU di Nvidia e quindi non può essere eseguita sui Mac.

“I Mac e i sistemi basati su Radeon semplicemente non hanno lo stesso ecosistema coerente basato su CUDA all’interno del quale gli sviluppatori possono lavorare”, ha continuato. “Per chiunque crei o sperimenti seriamente modelli di intelligenza artificiale, quell’ecosistema è importante, determina quali strumenti puoi utilizzare, quali flussi di lavoro puoi ottimizzare e quanto facilmente puoi scalare il tuo lavoro.”

E, naturalmente, i PC possono essere continuamente aggiornati con nuovo {hardware} mentre i consumatori non possono aggiornare i componenti interni dei propri Mac.

Per confrontare i due, ho eseguito un modello di intelligenza artificiale generativa per le immagini su entrambi. Entrambi hanno completato le attività in base alle istruzioni assegnate. Ciò non period sorprendente. Dopotutto, entrambi sono stati progettati per gestire l’elaborazione dell’intelligenza artificiale.

Sebbene l'{hardware} di livello shopper che avevo a disposizione non fosse il modo migliore per mostrare la differenza tra PC e Mac quando si tratta di elaborazione dell’intelligenza artificiale, ho approfittato dell’accesso al mio Mac mini M4 Professional e Quoted One Professional Plus di Quoted Tech. Per confrontare i due, ho eseguito un modello di intelligenza artificiale generativa per le immagini su entrambi. Entrambi hanno completato le attività in base alle istruzioni assegnate. Ciò non period sorprendente. Dopotutto, entrambi sono stati progettati per gestire l’elaborazione dell’intelligenza artificiale.

Tuttavia, la differenza tra il calore emanato dal Mac mini e l’aria fresca che continua a fluire attraverso il Quoted One Professional Plus period difficile da non notare. È facile vedere come il fattore di forma di un PC AI costruito internamente gli darà un vantaggio rispetto al Mac in termini di prestazioni.

Quanto mi costerà un PC AI?

Ovviamente, la gamma di prezzi è piuttosto ampia, poiché i PC AI possono essere realizzati per uso shopper o per uso aziendale di grandi dimensioni. Jia mi ha informato che Quoted Tech ha costruito workstation con prezzi fino a sei cifre. Ma i singoli utenti che desiderano eseguire modelli di intelligenza artificiale locale ovviamente non hanno bisogno di spendere così tanto.

Quoted Tech afferma che coloro che desiderano “dilettarsi” nell’esecuzione di modelli di intelligenza artificiale locale potrebbero iniziare con un PC AI entry-level, come Quoted One Professional Plus, per un prezzo compreso tra $ 1.500 e $ 2.500.