NVIDIA's GPU Technology Conference (GTC) is hier!
De oprichter en CEO van het bedrijf, Jensen Huang, heeft de jaarlijkse conferentie officieel afgetrapt met de woorden: "Ik hoop dat je beseft dat dit geen concert is, dit is een ontwikkelaarsconferentie", terwijl hij het podium betrad in een drukke arena die normaal gesproken gereserveerd is voor concerten en ijshockey. spellen.
Tijdens de keynote speech onthulde hij verschillende technologieรซn, variรซrend van het Blackwell-platform tot het basismodel voor humanoรฏde robots en nog veel meer.
Hier zijn enkele van de belangrijkste aankondigingen van GTC die het bedrijf op de eerste dag heeft gedaan!
Het NVIDIA Blackwell-platform is er!
Op de GTC-conferentie kondigde NVIDIA het veel gehypte NVIDIA Blackwell-platform aan waarmee organisaties real-time generatieve AI kunnen bouwen en uitvoeren op grote taalmodellen met biljoen parameters, tegen tot 25x minder kosten en energieverbruik dan zijn voorganger.
Het is gebouwd met een aangepast 4NP TSMC-proces en een chip-naar-chip-link die twee GPU-chips met elkaar verbindt, waardoor 208 miljard transistors in รฉรฉn GPU worden verpakt.
De Blackwell GPU-architectuur beschikt over zes technologieรซn die de gegevensverwerking, technische simulatie, elektronische ontwerpautomatisering, medicijnontwerp, quantum computergebruik en generatieve AI.
Onder de vele organisaties die naar verwachting Blackwell zullen adopteren, zijn Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla en xAI.
Door Blackwell aangedreven AI-supercomputer
NVIDIA heeft de NVIDIA DGX SuperPOD aangekondigd, een AI-supercomputer van de volgende generatie, aangedreven door NVIDIA's Grace Blackwell Superchips.
De supercomputer is ontworpen voor het verwerken van modellen met biljoen parameters met een constante uptime voor generatieve AI-training op grote schaal en werklasten voor gevolgtrekkingen.
De nieuwe DGX SuperPOD beschikt over een vloeistofgekoelde rack-scale architectuur, die 11.5 exaflops aan supercomputerkracht levert met FP4-precisie en 240 terabytes aan snel geheugen. Het systeem is gebouwd met NVIDIA DGX-systemen en kan met extra racks naar nog grotere hoogten worden geschaald.
Elk DGX-systeem bestaat uit 36 โโNVIDIA Superchips, waaronder 36 NVIDIA Grace CPU's en 72 NVIDIA Blackwell GPU's. Deze chips zijn met elkaar verbonden om รฉรฉn supercomputer te creรซren via NVIDIA NVLink-technologie van de vijfde generatie.
De GB200 Superchips kunnen een prestatieverbetering tot 30x leveren in vergelijking met de NVIDIA Tensor Core GPU voor werklasten voor het infereren van grote taalmodellen.
6G Onderzoekscloudplatform
NVIDIA heeft een 6G-onderzoeksplatform onthuld waarmee onderzoekers de volgende fase van draadloze technologie kunnen ontwikkelen.
Het NVIDIA 6G Research Cloud-platform is open, flexibel en onderling verbonden en biedt onderzoekers een uitgebreid pakket om AI voor radiotoegangsnetwerktechnologie (RAN) te bevorderen.
Het platform stelt organisaties in staat de ontwikkeling van 6G-technologieรซn te versnellen die biljoenen apparaten zullen verbinden met de cloudinfrastructuren, waardoor de basis wordt gelegd voor een hyperintelligente wereld die wordt ondersteund door autonome voertuigen, slimme ruimtes en een breed scala aan uitgebreide realiteits- en meeslepende onderwijservaringen en collaboratieve robots.
Het NVIDIA 6G Research Cloud-platform bestaat uit drie fundamentele elementen:
- NVIDIA Antenne Omniverse Digital Twin voor 6G
- NVIDIA Aerial CUDA-versnelde RAN
- NVIDIA Sionna neuraal radioframework
Ansys, Arm, ETH Zurich, Fujitsu, Keysight, Nokia, Northeastern University, Rohde & Schwarz, Samsung, SoftBank Corp. en Viavi behoren tot de eerste gebruikers en ecosystem partners.
Google x NVIDIA-partnerschap
Google Cloud en NVIDIA hebben dat wel teamopgericht om de machine learning-gemeenschap toegang te bieden tot technologie die hun vermogen versnelt om eenvoudig generatieve AI-applicaties te bouwen, schalen en beheren.
Google heeft de adoptie aangekondigd van het nieuwe NVIDIA Grace Blackwell AI-computerplatform, evenals de NVIDIA DGX Cloud-service op Google Cloud.
Bovendien is het door NVIDIA H100 aangedreven DGX Cloud-platform nu algemeen beschikbaar op Google Cloud.
Voortbouwend op hun recente samenwerking om de Gemma-familie van open modellen te optimaliseren, zal Google ook NVIDIA NIM-inferentiemicroservices adopteren om ontwikkelaars een open, flexibel platform te bieden om te trainen en te implementeren met behulp van hun favoriete tools en frameworks.
De bedrijven kondigden ook ondersteuning aan voor JAX op NVIDIA GPU's en Vertex AI-instanties aangedreven door NVIDIA H100 en L4 Tensor Core GPU's.
Belangrijke componenten van de uitbreiding van het partnerschap zijn onder meer:
- Goedkeuring van NVIDIA Grace Blackwell
- De door Grace Blackwell aangedreven DGX Cloud komt naar Google Cloud
- Ondersteuning voor JAX op GPU's
- NVIDIA NIM op Google Kubernetes Engine (GKE)
- Ondersteuning voor NVIDIA NeMo
- Vertex AI en Dataflow breiden de ondersteuning voor NVIDIA GPU's uit
Project GR00T Funderingsmodel
NVIDIA heeft Project GR00T aangekondigd, een basismodel voor algemene doeleinden bedoeld voor humanoรฏde robots. Het project is gericht op het stimuleren van doorbraken in robotica en belichaamde AI.
Als onderdeel van dit initiatief heeft NVIDIA ook een nieuwe computer geรฏntroduceerd, Jetson Thor, die speciaal is ontworpen voor humanoรฏde robots en is gebaseerd op het NVIDIA Thor system-on-a-chip (SoC).
Jetson Thor is gemaakt als een nieuw computerplatform dat complexe taken kan uitvoeren en veilig en natuurlijk kan communiceren met mensen en machines.
Het System on a Chip (SoC) bevat een nieuwe GPU gebaseerd op NVIDIA Blackwell-architectuur. Het wordt geleverd met een transformatormotor die 800 teraflops aan 8-bit floating-point AI-prestaties levert en multimodale generatieve AI-modellen zoals GR00T aankan.
Het vereenvoudigt ontwerp- en integratie-inspanningen met een geรฏntegreerde functionele veiligheidsprocessor, krachtig CPU-cluster en 100 GB Ethernet-bandbreedte.
NVIDIA bouwt een uitgebreid AI-platform voor toonaangevende humanoรฏde robotbedrijven zoals onder meer 1X Technologies, Agility Robotics, Apptronik, Boston Dynamics, Figure AI, Fourier Intelligence, Sanctuary AI, Unitree Robotics en XPENG Robotics.
Bovendien heeft het bedrijf aanzienlijke upgrades doorgevoerd aan het NVIDIA Isaac-roboticaplatform, dat nu generatieve AI-basismodellen en tools voor simulatie en AI-workflowinfrastructuur omvat.
Robots aangedreven door GR00T, wat staat voor Generalist Robot 00 Technology, zullen worden ontworpen om natuurlijke taal te begrijpen en bewegingen na te bootsen door menselijke acties te observeren. Zo leren ze snel coรถrdinatie, behendigheid en andere vaardigheden om te navigeren, zich aan te passen en te communiceren met de echte wereld.
NVIDIA DRIVE, die de volgende generatie transport mogelijk maakt
NVIDIA heeft aangekondigd dat verschillende topbedrijven in de transportsector NVIDIA DRIVE Thor gecentraliseerde autocomputers zijn gaan gebruiken om hun toekomstige consumenten- en commerciรซle wagenparken van stroom te voorzien.
Het omvat nieuwe energievoertuigen en vrachtwagens, maar ook autonome voertuigen zoals robotaxis, robobussen en last-mile-bezorgvoertuigen.
DRIVE Thor is een computerplatform voor in voertuigen dat is ontworpen voor generatieve AI-toepassingen, die steeds belangrijker worden binnen de auto-industrie. Dit AV-platform van de volgende generatie zal de nieuwe NVIDIA Blackwell-architectuur integreren, ontworpen voor transformator-, LLM- en generatieve AI-workloads.
Generatieve AI-microservices ter bevordering van de ontdekking van geneesmiddelen, MedTech en digitale gezondheidszorg
Het bedrijf lanceerde ook meer dan twintig nieuwe microservices die gezondheidszorgbedrijven mogelijk makenriseWereldwijd kunnen we overal en in elke cloud profiteren van de nieuwste ontwikkelingen op het gebied van generatieve AI.
NVIDIA heeft onlangs microservices voor de gezondheidszorg gelanceerd die zijn geoptimaliseerd met NIM AI-modellen en workflows. Deze microservices zijn uitgerust met industriestandaard API's die kunnen worden gebruikt om cloud-native applicaties te creรซren en te implementeren.
De NVIDIA-microservices voor de gezondheidszorg bieden geavanceerde functies zoals beeldvorming, natuurlijke taal- en spraakherkenning, en het genereren, voorspellen en simuleren van digitale biologie. Deze functies kunnen worden gebruikt als bouwstenen voor het ontwikkelen en implementeren van cloudgebaseerde applicaties voor de gezondheidszorg.
Bovendien versnelde NVIDIA software ontwikkelingskits en tools, waaronder Parabricks, MONAI, NeMo, Riva en Metropolis, zijn nu toegankelijk als NVIDIA CUDA-X-microservices om de workflows in de gezondheidszorg voor het ontdekken van geneesmiddelen, medische beeldvorming en genomica-analyse te versnellen.
In totaal zijn er 25 microservices gelanceerd om de transformatie van zorgbedrijven te versnellen door het gebruik van generatieve AI.
Deze nieuwe technologie biedt talloze mogelijkheden voor farmaceutische bedrijven, artsen en ziekenhuizen, zoals het screenen van biljoenen geneesmiddelen op medische vooruitgang, het verzamelen van betere patiรซntgegevens voor vroege ziektedetectie en het implementeren van slimmere digitale assistenten.
Met de microservices kunnen onderzoekers, ontwikkelaars en praktijkmensen AI eenvoudig integreren in nieuwe en bestaande applicaties en deze overal uitvoeren, zowel in de cloud als op locatie, met copilot-mogelijkheden om hun levensreddende werk te verbeteren.
Earth Climate Digital Twin
NVIDIA heeft zijn Earth-2 Climate Digital Twin Cloud-platform geรฏntroduceerd, dat tot doel heeft de 140 miljard dollar aan economische verliezen te bestrijden die worden veroorzaakt door extreem weer als gevolg van klimaatverandering.
Het Earth-2-cloudplatform beschikt over nieuwe cloud-API's op NVIDIA DGX Cloud waarmee gebruikers AI-aangedreven emulaties kunnen creรซren en interactieve simulaties met hoge resolutie kunnen leveren van weer en klimaat op ongekende schaal, variรซrend van de mondiale atmosfeer tot lokale bewolking.
In combinatie met bedrijfseigen gegevens die eigendom zijn van bedrijven in de klimaattechnologie-industrie ter waarde van 20 miljard dollar, kunnen Earth-2 API's gebruikers helpen binnen enkele seconden waarschuwingen en bijgewerkte voorspellingen te geven, vergeleken met de traditionele CPU-gestuurde modellering die minuten of uren kan duren.
Netwerkswitches ontworpen voor grootschalige AI
NVIDIA kondigde ook een nieuwe golf netwerkswitches aan: de X800-serie.
Het is 's werelds eerste netwerkplatform met een end-to-end doorvoersnelheid van 800 Gb/s, NVIDIA Quantum-X800 InfiniBand en NVIDIA Spectrum-X800 Ethernet verleggen de grenzen van netwerkprestaties voor computer- en AI-workloads.
Ze zijn voorzien software dat AI-, cloud-, dataverwerking- en HPC-applicaties in elk type omgeving verder versnelt data center, inclusief producten die de onlangs uitgebrachte op NVIDIA Blackwell-architectuur gebaseerde productreeks bevatten.
Dit is een 5x hogere bandbreedtecapaciteit en een 9x toename van 14.4 Tflops van In-Network Computing met NVIDIA's Scalable Hiรซrarchical Aggregation and Reduction Protocol (SHARPv4) vergeleken met de vorige generatie.
Het Spectrum-X800-platform levert geoptimaliseerde netwerkprestaties voor AI-cloud en enterprise infrastructuur. Door gebruik te maken van de Spectrum SN5600 800Gb/s switch en de NVIDIA BlueField-3 SuperNIC, biedt het Spectrum-X800-platform geavanceerde functiesets die cruciaal zijn voor multi-tenant generatieve AI-clouds en grote ondernemingen.rises.
Cloud Quantum-Computersimulatie-microservices
NVIDIA lanceerde ook een cloudservice waarmee onderzoekers en ontwikkelaars de grenzen kunnen verleggen quantum computerverkenning in belangrijke wetenschappelijke domeinen, waaronder scheikunde, biologie en materiaalkunde.
NVIDIA Quantum Cloud is gebaseerd op de open source CUDA-Q van het bedrijf quantum computerplatform, dat wordt gebruikt door driekwart van de bedrijven die dit implementeren quantum verwerkingseenheden of QPU's.
Als microservice kunnen gebruikers voor het eerst nieuw bouwen en testen in de cloud quantum algoritmen en toepassingen โ inclusief krachtige simulators en tools voor hybride quantum-klassieke programmering.