TeknologjiOpenAI dhe NVIDIA thyejnë rekord: 1.5 milion token për sekondë me modele të AI-së me licencë të hapur
OpenAI dhe NVIDIA kanë bashkuar forcat për të publikuar dy modele të fuqishme të inteligjencës artificiale me GPT‑OSS‑120B dhe GPT‑OSS‑20B duke shënuar një moment kyç në demokratizimin e qasjes në AI të avancuar. Këto modele janë të dizajnuara për të mbështetur një gamë të gjerë aplikacionesh në gjenerimin e përmbajtjes, arsyetimin, shëndetësinë, prodhimin industrial dhe më shumë. Të shpërndara nën licencën Apache 2.0, modelet janë të lira për përdorim tregtar dhe kërkimor, duke u ofruar zhvilluesve, ndërmarrjeve, qeverive dhe startup‑eve mjete për të ndërtuar zgjidhje transformuese të bazuara në AI.
Modelet GPT‑OSS janë trajnuar mbi procesorët grafikë NVIDIA H100 dhe janë optimizuar për të funksionuar në platformën globale CUDA të NVIDIA‑s, e cila fuqizon qindra miliona GPU në re, kompjuterë personalë dhe stacione pune në të gjithë botën. Kjo përputhje strategjike siguron që zhvilluesit anembanë globit të mund t’i integrojnë këto modele në infrastrukturën që tashmë posedojnë.
Në thelb të këtij përparimi qëndron arkitektura Blackwell e NVIDIA‑s, e ndërtuar posaçërisht për inferencë të AI‑së me kapacitet të lartë. Sistemi kryesor GB200 NVL72 arrin një shpejtësi të pashembullt prej 1.5 milion tokens për sekondë gjatë ekzekutimit të modelit GPT‑OSS‑120B, duke e bërë një nga platformat më të fuqishme për inferencë në botë. Blackwell sjell risi si NVFP44-bit precision, që mundëson një ekzekutim jashtëzakonisht efikas me saktësi të lartë, duke reduktuar ndjeshëm konsumin e energjisë dhe kërkesat për memorie, një hap gjigant drejt përdorimit në kohë reale të modeleve me triliona parametra.
Ky bashkëpunim pasqyron gjithashtu një partneritet afatgjatë mes OpenAI dhe NVIDIA, që daton nga viti 2016, kur themeluesi i NVIDIA‑s, Jensen Huang, dorëzoi personalisht superkompjuterin e parë DGX‑1 në selinë e OpenAI në San Francisko. Që atëherë, dy kompanitë kanë bashkëpunuar në disa nga trajnimet më ambicioze të AI‑së në botë. Publikimi i sotëm ndërton mbi këtë trashëgimi, duke i sjellë kapacitetet më të avancuara të inteligjencës artificiale miliona zhvilluesve globalisht, të mbështetur nga një ekosistem prej mbi 6.5 milionë zhvilluesish në më shumë se 250 shtete.
Në thelb, publikimi i GPT‑OSS përfaqëson një hap të rëndësishëm drejt bërjes së AI‑së të avancuar më transparente, më efikase dhe më të qasshme për të gjithë. Me infrastrukturë të shkallëzueshme, licencim të hapur dhe përkrahje të gjerë harduerike, OpenAI dhe NVIDIA jo vetëm që po përshpejtojnë ritmin e inovacionit, por gjithashtu po ndërtojnë themelin për revolucionin e ardhshëm industrial të udhëhequr nga inteligjenca artificiale e hapur, e përgjegjshme dhe me performancë të lartë.