Selkokielellä: Jalapeño on erikoissiru (ASIC), joka tekee vain yhtä asiaa – ajaa valmiita kielimalleja eli tuottaa vastauksia, mitä kutsutaan inferenssiksi. Nvidian näytönohjaimet ovat yleiskäyttöisiä: ne osaavat kouluttaa malleja, ajaa niitä, tehdä grafiikkaa ja tieteellistä laskentaa. Kun sirun rakentaa alusta asti yhtä tehtävää varten, siitä saa paljon energiatehokkaamman – ja sähkö on tekoälypalvelujen suurin juokseva kulu. Vaikuttavaa on myös vauhti: siru suunniteltiin noin yhdeksässä kuukaudessa, merkittävästi tekoälytyökalujen avustamana, kun normaali sirusuunnittelusykli kestää moninkertaisesti kauemmin.

Vastaa

Lainaa

Ilmoita asiattomaksi

Keskustelun etusivu | Aihe vapaa

Edellinen ketju

Seuraava ketju

Aloita uusi keskustelu