AI/ML su Red Hat OpenShift

AI/ML su Red Hat OpenShift velocizza i flussi di lavoro AI/ML e la distribuzione di applicazioni intelligenti basate sull'intelligenza artificiale con Red Hat OpenShift a gestione autonoma, o il nostro servizio cloud AI/ML.

Sottotitoli disponibili in italiano

Red Hat OpenShift include funzionalità chiave per consentire operazioni di machine learning (MLOps) in modo coerente tra datacenter, cloud computing pubblico ed edge computing.

Con l'applicazione dei principi DevOps e GitOps, le organizzazioni automatizzano e semplificano il processo iterativo di integrazione dei modelli di machine learning nei processi di sviluppo software, rollout in produzione, monitoraggio, riaddestramento e ridistribuzione per previsioni sempre costanti. 

È un processo in più fasi con lo scopo di realizzare applicazioni intelligenti sfruttando grandi volumi di dati di ogni tipo, elevate risorse di elaborazione e strumenti di machine learning open source.

I data scientist sono responsabili soprattutto della modellazione ML, per garantire che il modello selezionato continui a fornire la massima precisione predittiva. 

Le principali problematiche che i data scientist si trovano a gestire includono:

• Selezione e deployment degli strumenti ML più appropriati, come Apache Spark, Jupyter notebook TensorFlow, PyTorch e così via.
• Complessità e tempo necessario per l'addestramento, i test, la selezione e l'ulteriore addestramento del modello ML che offre la massima precisione predittiva
• Lentezza delle attività di modellazione e inferenza dovuta alla mancanza di accelerazione hardware
• Dipendenza costante dai team operativi IT, per il provisioning e la gestione dell'infrastruttura
• Interazione costante con data engineer e sviluppatori software, per garantire la pulizia dei dati di input e il deployment appropriato del modello ML nei processi di sviluppo applicativo

Red Hat® OpenShift® è una piattaforma applicativa integrata pensata per gestire i processi  AI/ML negli ambienti hybrid cloud e di edge computing. Offrendo un accesso self service a flussi che favoriscono la collaborazione, a capacità potenziate di elaborazione (GPU) e operazioni ottimizzate, OpenShift semplifica la distribuzione di soluzioni IA in modo costante e scalabile. 

Red Hat OpenShift AI

Red Hat OpenShift AI offre a data scientist e sviluppatori di applicazioni intelligenti strumenti per l'intero ciclo di vita degli esperimenti e dei modelli AI/ML. Fornisce una sandbox completamente supportata per lo sviluppo, l'addestramento e i test dei modelli di machine learning (ML) in modo rapido nel cloud pubblico prima di distribuirli in produzione.

Offri ai data scientist gli strumenti essenziali

• Esperienza cloud self service coerente per i data scientist in tutto il cloud ibrido
• Flessibilità e portabilità necessarie all'utilizzo degli strumenti ML containerizzati scelti dai data scientist, al fine di accelerare le creazione, l'estensione, la riproduzione e la condivisione dei modelli ML.
• Utilizzo degli strumenti ML più appropriati, tramite gli operatori Kubernetes certificati da Red Hat, sia per la versione autogestita che per l'opzione del servizio cloud basata sull'intelligenza artificiale.
• Autonomia nel provisioning dell'infrastruttura necessaria per le attività di modellazione ML iterative, che comportano un uso intensivo delle risorse di elaborazione.
• Nessun lock-in con uno specifico provider di servizi cloud e il relativo menu di strumenti ML.
• Deployment più rapidi dei modelli ML, con tutte le iterazioni necessarie, grazie all'integrazione completa con gli strumenti CI/CD.

Accelera i processi di modellazione ML a elevato utilizzo di calcolo

Grazie alle integrazioni con gli acceleratori hardware più diffusi, come le GPU NVIDIA tramite gli operatori GPU certificati da Red Hat, OpenShift riesce a fornire tutte le risorse di elaborazione necessarie. Ciò permette di selezionare il modello ML ottimale, allo scopo di garantire la massima precisione predittiva, nonché i processi di inferenza ML più adatti, a mano a mano che il modello individua nuove tipologie di dati nell'ambiente di produzione.

Sviluppa applicazioni intelligenti

Grazie alle funzionalità DevOps integrate in OpenShift, i team MLOps possono accelerare la distribuzione delle applicazioni basate sull'intelligenza artificiale e semplificare il processo iterativo di integrazione dei modelli ML e la ridistribuzione continua per una previsione accurata.    

L'estensione delle funzionalità di automazione DevOps fornita da OpenShift al ciclo di vita ML promuove la collaborazione fra data scientist, sviluppatori software e team operativi IT, consentendo di integrare velocemente i modelli ML nello sviluppo di applicazioni intelligenti. Ciò consente di ottenere cicli di sviluppo più efficienti semplificando la gestione del ciclo di vita per le applicazioni intelligenti basate su ML.

• Generazione dal registro delle immagini dei modelli di container con OpenShift Build.
• Sviluppo continuo e iterativo delle applicazioni intelligenti basate su modello ML con OpenShift Pipelines.
• Automazione del deployment continuo per le applicazioni intelligenti basate su modello ML con OpenShift GitOps.
• Repository per i microservizi e le immagini container dei modelli di versione con Red Hat Quay.

OpenShift aiuta le organizzazioni di vari settori ad accelerare le iniziative aziendali chiave attraverso lo sviluppo delle applicazioni intelligenti nel cloud ibrido. Gli scenari di utilizzo includono ad esempio il rilevamento delle frodi, la diagnostica dei problemi basata sui dati, le auto connesse, la ricerca di giacimenti di gas e petrolio, l'automazione dei preventivi assicurativi e l'elaborazione delle richieste di risarcimento.

Scenari di utilizzo dell'AI/ML trasformativi si registrano in tutti i settori: sanità, servizi finanziari, telecomunicazioni, automotive e altri. Grazie a un solido ecosistema di partner, Red Hat è in grado di offrire soluzioni complete per la creazione, il deployment e la gestione di modelli di machine learning e deep learning per applicazioni intelligenti basate sull'intelligenza artificiale.

Per offrire funzionalità di analisi dei dati con l'edge computing alle organizzazioni e alle aziende regionali, NTT East ha da poco inaugurato il suo servizio di Video AI in esecuzione su Red Hat OpenShift. 

Grazie a questa iniziativa, le aziende e le organizzazioni che integrano le più recenti funzionalità di intelligenza artificiale hanno potuto aumentare le vendite del 144% e ridurre il taccheggio del 30-40%, migliorando al tempo stesso il servizio clienti.

In collaborazione con Red Hat Consulting, Banco Galicia ha creato una soluzione di elaborazione del linguaggio naturale (NLP) basata sull'intelligenza artificiale su Red Hat OpenShift, riuscendo così a velocizzare le verifiche, che ora richiedono pochi minuti anziché interi giorni, a mantenere un'accuratezza del 90% e a ridurre il tempo di fermo delle applicazioni del 40%.

La combinazione di Red Hat OpenShift e della suite software NVIDIA AI Enterprise in esecuzione su NVIDIA-Certified Systems offre una piattaforma scalabile che accelera una vasta gamma di scenari di utilizzo dell'AI. La piattaforma include le tecnologie chiave di NVIDIA e Red Hat che garantiscono coerenza alle attività di deployment, gestione e scalabilità dei carichi di lavoro AI in ambienti di cloud ibrido, bare metal o virtualizzati.