Con Cisco l’Infrastruttura per l’Intelligenza Artificiale entra nel futuro

Negli ultimi anni, l’Intelligenza Artificiale (AI) ha registrato una crescita esponenziale, influenzando vari settori e trasformando il modo in cui le aziende operano. Secondo dati recenti, l’AI potrebbe contribuire con 15,7 trilioni di dollari all’economia globale entro il 2030, con una spesa globale prevista di 300 miliardi di dollari entro il 2026. È evidente che le organizzazioni stanno riconoscendo l’urgenza di adottare tecnologie basate sull’AI per rimanere competitive.

Un sorprendente 97% delle organizzazioni globali ha dichiarato l’urgenza di implementare tecnologie basate sull’IA. Tuttavia, solo il 14% si sente realmente preparato per sfruttare appieno queste tecnologie. Questa discrepanza evidenzia le sfide che le aziende devono affrontare nell’adozione dell’AI, tra cui la mancanza di infrastrutture adeguate, carenze di personale specializzato e difficoltà nel gestire elevati tempi di attesa per l’acquisizione di hardware specifico come le GPU.

Le linee di business stanno fortemente guidando la domanda di infrastrutture AI, ma si trovano di fronte a ostacoli come la predominanza di Nvidia nel mercato delle GPU e la competizione tra tecnologie come InfiniBand ed Ethernet per la creazione di reti AI efficienti.

Tuttavia, nonostante l’entusiasmo, molte imprese si trovano ad affrontare sfide significative nell’implementazione efficace dell’AI. Qui entra in gioco Cisco con le sue AI PODs, soluzioni progettate per semplificare e accelerare l’adozione dell’AI nelle infrastrutture aziendali.

Le Sfide dell’Adozione dell’AI

Mentre l’80% dei CIO e dei leader tecnologici pianifica una piena adozione dell’AI generativa nei prossimi tre anni, solo il 13% delle organizzazioni IT dispone attualmente di un’infrastruttura pronta per l’AI. Inoltre, la mancanza di personale qualificato e le sfide legate ai costi rappresentano ostacoli significativi. Gartner stima che le previsioni sui costi dell’AI possono essere errate fino al 1000%, a causa di fattori unici come l’esperimento continuo, i costi ambientali e la manutenzione dei modelli.

Comprendere le Esigenze dell’Infrastruttura AI

L’implementazione efficace dell’AI richiede un’infrastruttura robusta e scalabile. Le esigenze variano a seconda del tipo di applicazione AI:

• Testing Iniziale di Modelli Pre-addestrati: Richiede soluzioni con CPU o fino a 2 GPU per nodo, ideali per le prime fasi di sperimentazione.
• Inferenza in Produzione su Piccola Scala: Necessita di 2-4 GPU per nodo, con rete Ethernet, per gestire modelli AI consolidati.
• Personalizzazione Moderata dei Modelli: Implica l’utilizzo di modelli pre-addestrati con affinamenti specifici, richiedendo investimenti significativi in termini di infrastruttura e risorse.
• Personalizzazione Estensiva dei Modelli: Per la creazione di modelli fondamentali su misura o raffinamenti avanzati, sono necessari cluster con centinaia o migliaia di GPU e reti ad alte prestazioni come InfiniBand.

La Strategia di Cisco per l’AI Enterprise

Cisco riconosce queste sfide e ha sviluppato una strategia integrata per supportare le aziende nell’adozione dell’AI. La loro visione si basa su due pilastri principali:

1. Infrastruttura AI Avanzata: Fornire soluzioni hardware e software ottimizzate per l’AI, che includono networking ad alte prestazioni, compute acceleration e data management. Ciò permette alle aziende di implementare l’AI in modo efficiente, sostenibile e scalabile.
2. Operazioni Abilitate dall’AI: Utilizzare l’AI per migliorare l’esperienza con i prodotti Cisco, integrando l’AI in soluzioni di collaborazione, networking, sicurezza e altro ancora.

Componenti Chiave della Soluzione Cisco

• Networking di Alta Qualità: Le serie Cisco Nexus con Nexus Dashboard offrono reti Ethernet standard aperte, minimizzando il rischio di lock-in e fornendo buffer intelligenti e telemetria in streaming.
• Sistemi di Calcolo Programmabili: La piattaforma Unified Computing System (UCS) di Cisco è progettata per essere modulare, separando CPU, GPU, memoria, storage e fabric, garantendo così un’architettura AI perpetua e adattabile alle esigenze future.
• Sostenibilità: Le soluzioni Cisco sono progettate con un’attenzione particolare all’efficienza energetica, contribuendo a ridurre il consumo energetico e l’impatto ambientale.
• Automazione e Semplificazione Operativa: Con strumenti come Cisco Intersight e Nexus Dashboard, le aziende possono accelerare l’implementazione dell’AI e semplificare le operazioni attraverso template e automazione preconfigurata.

Soluzioni Convergenti per l’AI

Cisco, in collaborazione con partner come NetApp e Pure Storage, ha sviluppato soluzioni di infrastruttura convergente (CI) che sono pronte per l’AI. Queste soluzioni offrono:

• Architetture di Riferimento Leader di Mercato: Guidano le best practice per l’implementazione dell’AI in ambienti enterprise.
• Sicurezza e Affidabilità: Integrano soluzioni di sicurezza avanzate per proteggere dati e applicazioni.
• Prontezza per il Cloud Ibrido: Consentono una transizione agevole tra ambienti on-premise e cloud, garantendo flessibilità operativa.

Esempi di Soluzioni

• FlexPod e FlashStack: Offrono infrastrutture ottimizzate per carichi di lavoro AI generali, semplificando la distribuzione e l’operatività.
• Validazioni con NVIDIA AI Enterprise: Integrano strumenti e framework AI come TensorFlow, PyTorch e altri, garantendo compatibilità e ottimizzazione con GPU NVIDIA.

Facilitare l’Adozione dell’AI con Architetture Validated

Cisco propone una serie di Cisco Validated Designs (CVD) che fungono da linee guida dettagliate per l’implementazione di soluzioni AI specifiche. Queste architetture:

• Accelerano i Progetti AI: Forniscono percorsi chiari e testati per l’implementazione, riducendo i rischi e i tempi di sviluppo.
• Standardizzano le Implementazioni: Assicurano che le soluzioni siano conformi alle best practice del settore, garantendo efficienza e affidabilità.
• Supportano una Gamma di Applicazioni: Dalle operazioni di Machine Learning (MLOps) all’inferenza generativa con modelli di linguaggio di grandi dimensioni (LLM), le CVD coprono una vasta gamma di esigenze.

Cisco AI PODs: Una Soluzione Completa

Per affrontare queste sfide, Cisco ha introdotto le AI PODs, soluzioni di infrastruttura preconfigurate e validate che consentono alle aziende di implementare l’AI con maggiore fiducia e velocità.

Caratteristiche Principali

• Infrastruttura Validata: Le AI PODs sono basate su Cisco Validated Designs, garantendo una compatibilità e prestazioni ottimali.
• Scalabilità: Progettate per adattarsi a diverse esigenze, dalle piccole implementazioni di inferenza ai grandi cluster di training, supportando sia CPU che GPU accelerati.
• Automazione e Gestione: Integrate con Cisco Intersight e Nexus Dashboard per una gestione semplificata e automatizzata dell’infrastruttura.
• Sicurezza Avanzata: Con soluzioni come Hypershield e Multicloud Defense, le AI PODs offrono una protezione completa dei dati e delle operazioni.
• Supporto per Diverse Architetture AI: Compatibili con framework e strumenti AI popolari, facilitando lo sviluppo, l’ottimizzazione e l’uso dei modelli.

Tipologie di AI PODs

Cisco offre diverse configurazioni di AI PODs per adattarsi alle specifiche esigenze delle aziende:

Edge Inferencing POD: Ideali per applicazioni AI ai margini della rete, come monitoraggio dei pazienti, automazione industriale e analisi in-store. Queste soluzioni riducono la latenza, migliorano la sicurezza mantenendo i dati in locale e offrono affidabilità operativa anche con connettività intermittente.

Configurazione Chiave: Un nodo compute Cisco UCS X210C con GPU NVIDIA L40S. Memoria di sistema da 512 GB e storage NVMe ad alte prestazioni.

RAG Augmented Inferencing POD: Progettate per l’inferenza con modelli di linguaggio di grandi dimensioni (LLM) utilizzando tecniche come Retrieval-Augmented Generation (RAG). Questo approccio migliora l’accuratezza dei modelli AI attingendo da fonti esterne di dati.

Configurazione Chiave: Due nodi compute Cisco UCS X210C con GPU NVIDIA L40S o H100NVL. Memoria di sistema da 1 TB e ampia capacità di storage NVMe.

Scale-Out Inferencing POD: Pensate per aziende che necessitano di eseguire inferenze su più modelli o che gestiscono diversi progetti AI contemporaneamente. Offrono flessibilità e standardizzazione per supportare vari utenti e linee di business.

L’Intelligenza Artificiale rappresenta una delle più grandi opportunità per le aziende nel prossimo decennio. Tuttavia, la sua adozione richiede infrastrutture solide, scalabili e sicure. La strategia di Cisco fornisce alle imprese gli strumenti e le soluzioni necessarie per affrontare questa sfida, offrendo infrastrutture AI-ready che si integrano con gli investimenti esistenti e preparano le organizzazioni per il futuro.

Per le aziende che desiderano intraprendere o accelerare il loro percorso nell’AI, le soluzioni di Cisco rappresentano una scelta affidabile, permettendo di innovare con fiducia e ottenere un vantaggio competitivo in un mercato in continua evoluzione.