November 16, 2024

Nvidia doorbreekt de gamingtraditie met RTX en verandert GPU’s in krachtige AI-aangedreven cores

Nvidia doorbreekt de gamingtraditie met RTX en verandert GPU’s in krachtige AI-aangedreven cores

In een poging om een ​​deel van de stress van GPU Squeeze weg te nemen, worden RTX GPU’s van Nvidia (grotendeels bekend om gaming en graphics) geconfigureerd en opnieuw verpakt voor enthousiastelingen die geïnteresseerd zijn in AI op desktop-pc’s. De nieuwe GPU’s maken deel uit van Nvidia’s aanpak om GPU’s beter beschikbaar te maken waar en wanneer klanten ze nodig hebben.

Het bedrijf kondigde RTX GPU’s aan, die kunnen worden gebruikt voor AI-inferentie en training. De GPU’s zijn gebaseerd op de Ada Lovelace-architectuur, die verschilt van de Hopper-architectuur die wordt gebruikt in de oververhitte en schaarse H100 GPU’s.

Enthousiastelingen gebruiken al GPU’s op gaming-laptops om AI-aangedreven applicaties uit te voeren, zoals tekst-naar-tekst- of tekst-naar-afbeelding-modellen. Op de SIGGRAPH-conferentie deze week kondigde Nvidia nieuwe desktop- en werkstationontwerpen met RTX GPU’s aan.

Pc-makers, waaronder Dell, Lenovo en Boxx, zullen werkstations aankondigen die tot vier RTX 6000-gegevensgenererende processen in een chassis kunnen bundelen. Nvidia zei dat de adviesprijs voor de GPU $ 6.000 was, ondanks verkopers zoals Dell Hij verkoopt Meer dan $ 9.000, inclusief belastingen.

Elk van de RTX 6000 GPU’s, gebaseerd op het Ada Lovelace-ontwerp, heeft 48 GB GDDR6-geheugen en een 200 Gbps NIC. De GPU verbruikt 300 watt aan stroom en is gebaseerd op de oudere PCIe 4.0-verbindingsstandaard.

Nvidia kondigde ook de L40S Ada GPU aan, die veel lijkt op de armemansversie van de H100, omdat hij sneller is dan de vorige generatie A100 GPU’s in AI-training en inferentie. Het nieuwe product is een variant van de L40-server-GPU die een jaar geleden werd aangekondigd.

De nieuwe L40S GPU van Nvidia. (Bron: Nvidia)

De L40S heeft ook 48 GB GDDR6-geheugen en zal in systemen worden geplaatst die zijn gebaseerd op de OVX-referentieserverarchitectuur voor metaverse-toepassingen.

De L40S is tot vier keer sneller voor AI en grafische workloads dan de vorige generatie A40 GPU, die is gebaseerd op de vorige generatie Ampere-architectuur. AI-training is 1,7 keer sneller dan de A100 GPU en redeneren is 1,5 keer sneller. De L40S biedt hogere kloksnelheden en betere grafische weergave en tensorprestaties.

De RTX-bedrijfssystemen van Nvidia zijn ontworpen voor de metaverse- en AI-markten, en de nieuwe hardware zal licenties bevatten voor Omniverse- en AI Enterprise-software. Het bedrijf kondigde ook AI Enterprise 4.0 aan, dat het Nemo-model in de grote taal zal bevatten.

Het zou geen probleem moeten zijn om voorraden te krijgen van de L40S GPU, die later dit jaar zal worden verzonden.

“Deze zullen niet zo beperkend zijn als bij sommige van onze high-end GPU’s”, zei Bob Petty, vice-president van Pro Visualization bij Nvidia, tijdens een persconferentie.

De goedkope RTX 4000 GPU van Nvidia is in september verkrijgbaar voor $ 1.250. De RTX 4500 is vanaf oktober beschikbaar voor $ 2.250.

Kunstmatige intelligentie is voor Nvidia net zo belangrijk als gamen. Het bedrijf wil van GPU’s een gebruiksartikel maken waarop enthousiastelingen hun eigen software kunnen bouwen en vervolgens kunnen draaien waar de dichtstbijzijnde GPU beschikbaar is. Nvidia’s H100 GPU’s zijn moeilijk te vinden en zijn een aanwinst voor bedrijven geworden. Een startup genaamd CoreWeave heeft zijn Nvidia GPU’s in onderpand gegeven om zijn groei te financieren. Cryptocurrency-mijnwerkers hergebruiken hun GPU’s ook in datacenters om kunstmatige intelligentie uit te voeren.