- Ponuda je prva koja isporučuje podržane, izuzete i licencirane IBM Granite LLM programe Open-Sourca pod Red Hatovim fleksibilnim i dokazanim poslovnim modelom pretplate
- Dodaje InstructLab softver za usklađivanje modela otvorenog koda vodećoj svjetskoj poslovnoj Linux platformi za pojednostavljenje generativnog eksperimentiranja AI modela i podešavanja usklađivanja
- Pruža podržano radno okruženje modela spremno za poduzeća na AMD, Intel i NVIDIA platformama za poticanje AI inovacija izgrađenih na Open-Sourcu
DENVER – RED HAT SUMMIT 2024 – 25. lipanj 2024 – Red Hat, vodeći svjetski pružatelj rješenja Open-Sourca, danas je najavio lansiranje Red Hat Enterprise Linux AI (RHEL AI), platforme temeljnog modela koja korisnicima omogućuje da neprimjetno razvija, testira i implementira generativne AI (GenAI) modele. RHEL AI objedinjuje obitelj Granite velikih jezičnih modela (LLM) s otvorenim izvornim kodom iz IBM-ovog istraživanja, InstructLab softver za usklađivanje modela koji se temelje na metodologiji LAB (Large-scale Alignment for chatBots) i pristup razvoju modela putem InstructLaba koji pokreće zajednicu projekt. Cjelokupno je rješenje zapakirano kao optimizirana RHEL slika koja se može pokrenuti za pojedinačne implementacije poslužitelja u hibridnom Cloudu i također je uključeno kao dio OpenShift AI, Red Hatove platforme hibridnih operacija strojnog učenja (MLOps), za pokretanje modela i InstructLab na razini diljem distribuiranih okruženja klastera.
Lansiranje ChatGPT-a izazvalo je ogromno zanimanje za GenAI, a tempo inovacija se od tada samo ubrzava. Poduzeća su počela prelaziti s ranih procjena GenAI usluga na izgradnju aplikacija s omogućenom umjetnom inteligencijom. Brzo rastući ekosustav opcija otvorenog modela potaknuo je daljnje inovacije umjetne inteligencije i pokazao da neće postojati samo jedan model koji će vladati svima”. Kupci će imati koristi od niza izbora za ispunjavanje specifičnih zahtjeva, a sve se može dodatno ubrzati otvorenim pristupom inovacijama.
Provedba strategije umjetne inteligencije zahtijeva više od jednostavnog odabira modela. Firme trebaju stručnost za podešavanje određenog modela za svoj specifični slučaj upotrebe, kao i za suočavanje sa značajnim troškovima implementacije umjetne inteligencije. Manjak vještina u području znanosti o podacima je složena znatnim financijskim zahtjevima, uključujući:
- Nabavljanje AI infrastrukture ili korištenje AI usluga
- veliki proces podešavanja AI modela za specifične poslovne potrebe
- Integracija umjetne inteligencije u poslovne aplikacije
- Upravljanje životnim ciklusom aplikacije i modela.
Kako bi se zaista smanjile ulazne prepreke za inovacije umjetne inteligencije, poduzeća moraju biti u mogućnosti proširiti popis onih koji mogu raditi na inicijativama umjetne inteligencije, a da istovremeno drže te troškove pod kontrolom. Uz InstructLab softver za usklađivanje, Granite modele i RHEL AI, Red Hat ima za cilj primijeniti prednosti pravih projekata Open-Sourca – slobodno dostupnih i ponovno upotrebljivih, transparentnih i otvorenih za doprinose – na GenAI u nastojanju da uklonite prepreke.
Izgradnja umjetne inteligencije na otvorenom uz InstructLab
IBM Research stvorio je Large-scale Alignment for chatBots (LAB) tehniku, pristup za usklađivanje modela koji koristi generiranje sintetičkih podataka vođeno taksonomijom i novi višefazni okvir za podešavanje. Ovaj pristup čini razvoj AI modela otvorenijim i pristupačnijim svim korisnicima smanjujući oslanjanje na skupe ljudske bilješke i vlasničke modele. Koristeći LAB metodu, modeli se mogu poboljšati određivanjem vještina i znanja vezanih za taksonomiju, generiranjem sintetičkih podataka iz tih informacija na razini kako bi se utjecalo na model i korištenjem generiranih podataka za obuku modela.
Nakon što su uvidjeli da LAB metoda može značajno poboljšati performanse modela, IBM i Red Hat odlučili su pokrenuti InstructLab, zajednicu Open-Sourca izgrađenu oko LAB metode i Granite modela Open-Sourca iz IBM-a. Projekt InstructLab ima za cilj staviti razvoj LLM-a u ruke programera tako što će napraviti, izgraditi i pridonijeti LLM-u jednako jednostavno kao i doprinos bilo kojem drugom projektu Open-Sourca .
Kao dio pokretanja InstructLab-a, IBM je također objavio obitelj odabranih Granite modela engleskog jezika i kod modela u javnosti. Ovi modeli objavljeni su pod Apache licencom s transparentnošću skupova podataka koji se koriste za obuku ovih modela. Model Granite 7B na engleskom jeziku integriran je u zajednicu InstructLab, gdje krajnji korisnici mogu doprinijeti vještinama i znanjem za zajedničko poboljšanje ovog modela, baš kao što bi pridonijeli bilo kojem drugom projektu Open-Sourca. Slična podrška za Granite kodne modele unutar InstructLaba bit će dostupna uskoro.
Inovacija umjetne inteligencije Open-Sourca na pouzdanoj okosnici Linuxa
RHEL AI temelji se na ovom otvorenom pristupu inovacijama umjetne inteligencije, uključujući verziju projekta InstructLab spremnu za poduzeća i modele jezika i koda Granite zajedno s vodećom svjetskom poslovnom Linux platformom za pojednostavljenje implementacije u hibridnom infrastrukturnom okruženju. Ovo stvara platformu temeljnog modela za uvođenje modela GenAI s licencom otvorenog koda u poduzeće. RHEL AI uključuje:
- Granite jezik i kodni modeli s licencom Open-Sourca koje Red Hat podržava i osigurana.
- Podržana distribucija InstructLaba sa životnim ciklusom koji pruža skalabilno, troškovno učinkovito rješenje za poboljšanje sposobnosti LLM-a i omogućavanje pristupa znanju i vještinama mnogo širem krugu korisnika.
- Optimizirane instance runtime modela za pokretanje s Granite modelima i paketima softvera InstructLab kao RHEL slike za pokretanje putem RHEL Image mode, uključujući optimizirane Pytorch runtime biblioteke i akceleratore za AMD Instinct™ MI300X, Intel i NVIDIA GPU-ove i NeMo okvire.
- Red Hat-ova kompletna podrška za poduzeća i obećanje o životnom ciklusu koje počinje s pouzdanom distribucijom proizvoda za poduzeća, podrškom za proizvodnju 24×7 i podrškom za produženi životni ciklus .
Dok poduzeća eksperimentiraju i prilagođavaju nove AI modele na RHEL AI, imaju spremnu rampu za skaliranje ovih radnih procesa s Red Hat OpenShift AI, koji će uključivati RHEL AI, i gdje mogu iskoristiti OpenShiftov Kubernetes mehanizam za obuku i posluživanje AI modela na mjerilo i OpenShift AI integrirane MLOps mogućnosti za upravljanje životnim ciklusom modela. IBM-ov poslovni studio watsonx.ai, koji je danas izgrađen na Red Hat OpenShift AI, imat će koristi od uključivanja RHEL AI-ja u OpenShift AI nakon dostupnosti, donoseći dodatne mogućnosti za razvoj AI-a u poduzećima, upravljanje podacima, upravljanje modelom i poboljšane performanse cijena.
Cloud je hibrid. To važi i za umjetnu inteligenciju.
Više od 30 godina tehnologije Open-Sourca spajaju brze inovacije sa znatno smanjenim IT troškovima i smanjenim preprekama inovacija. Red Hat je vodio ovaj trend gotovo jednako dugo, od isporuke otvorenih poslovnih Linux platformi s RHEL-om u ranim 2000-ima do pokretanja kontejnera i Kubernetesa kao temelja za otvoreni hibridni Cloud i računalstvo u oblaku s Red Hat OpenShift.
Ovaj pogon se nastavlja s Red Hatom koji pokreće AI/ML strategije u otvorenom hibridnom Cloudu, omogućujući da se AI radna opterećenja izvode tamo gdje podaci žive, bilo u podatkovnom centru, više javnih Clouda ili na rubu. Više od samog radnog opterećenja, Red Hatova vizija za AI donosi obuku modela i podešavanje na istom putu kako bi se bolje riješila ograničenja oko suvereniteta podataka, usklađenosti i operativnog integriteta. Konzistentnost koju pružaju platforme Red Hata u tim okruženjima, bez obzira na to gdje rade, ključna je za održavanje tijeka inovacija AI.
RHEL AI i InstructLab zajednica dalje ostvaruju ovu viziju, rušeći mnoge prepreke za eksperimentiranje i izgradnju AI modela, istovremeno pružajući uredjajne podatke i koncepte potrebne za poticanje sljedećeg vala inteligentnih radnih opterećenja.
Dostupnost
Red Hat Enterprise Linux AI sada je dostupan kao pregled za razvojne programere. Nadovezujući se na GPU infrastrukturu dostupnu na IBM Cloudu, koja se koristi za obuku Granite modela i podršku za InstructLab, IBM Cloud će sada dodati podršku za RHEL AI i OpenShift AI. Ova će integracija omogućiti tvrtkama da lakše implementiraju generativnu umjetnu inteligenciju u svoje kritične aplikacije.
Komentari
Ashesh Badani, viši potpredsjednik i glavni direktor za proizvode, Red Hat
“GenAI predstavlja revolucionarni korak naprijed za poduzeća, ali samo ako su tehnološke organizacije sposobne stvarno implementirati i koristiti modele umjetne inteligencije na način koji odgovara njihovim specifičnim poslovnim potrebama. RHEL AI i projekt InstructLab, zajedno s Red Hat OpenShift AI na velikom broju, osmišljeni su za smanjenje mnogih prepreka s kojima se GenAI suočava u hibridnom Cloudu, od ograničenih vještina znanosti o podacima do samih potrebnih resursa, istovremeno potičući inovacije u implementaciji poduzeća i u uzvodnim zajednicama.”
Ramine Roane, korporativni potpredsjednik, AI Group, AMD
“AI je jedan od najvažnijih pomaka u tehnologiji u posljednjih 50 godina. Kako bi se ubrzalo šire usvajanje AI-ja, modeli i programi koji se koriste za izradu AI aplikacija moraju biti dostupni poduzeću. Izgrađeni na pouzdanoj okosnici Linuxa s primjerom Open-Source koda i licenciranih modela Open-Sourca, RHEL AI jedna je od platformi koja to može pružiti i drago nam je što možemo podržati Red Hatov trud u vođenju AI u poduzeću naprijed s našim AMD tehnologijama uključujući Instinct AI akceleratore.”
Jeremy Foster, viši potpredsjednik i generalni direktor, Networking – Compute, Cisco
„Pokret umjetne inteligencije predstavlja seizmičku promjenu za poduzeća i mnogi se bore s najboljim putem naprijed. Cisco nastavlja blisko surađivati s Red Hatom kako bi unaprijedio usvajanje umjetne inteligencije, a RHEL AI će ubrzati inovacije pružanjem LLM modela s omogućenim Open-Soursom kao dijela Linux platforme spremne za poduzeća.”
Gil Shneorson, viši potpredsjednik, Platforme rješenja, Dell Technologies
“Dell Technologies je bio pionir u pružanju pouzdanog i dosljednog upravljanja životnim ciklusom infrastrukture; vjerujemo da su dosljedna, pouzdana i sigurna ažuriranja sustava za poslovne IT operacije imperativ kako se sustavi nastavljaju razvijati. Nove tehnologije koje organizacijama nude mogućnost proširenja ažuriranja koda i smanjenja vremena implementacije bit će važne za održavanje napretka u inovacijama.”
Frances Guida, direktorica, Compute Solutions and AI, Hewlett Packard Enterprise
“Hewlett Packard Enterprise surađuje s Red Hatom dva desetljeća kako bi pružio vodeća rješenja u industriji koja kombiniraju HPE Compute platforme s RHEL-om. Open-Source okruženje ključno je za inovacije u brzorastućim tehnološkim kategorijama poput generativne umjetne inteligencije i veselimo se istraživanju novih područja suradnje s RHEL AI i Red Hatom kako bismo pomogli HPE korisnicima da postignu uspjeh.”
Darío Gil, viši potpredsjednik i direktor, Istraživanje, IBM
“Uvođenje prave inovacije Open-Sourca u razvoj modela umjetne inteligencije i iskorištavanje moći široke zajednice promijenit će način na koji poduzeća razmišljaju o svojim planovima za usvajanje i skaliranje umjetne inteligencije. IBM je snažno podržavao Open-Source, podupirući utjecajne zajednice kao što su Linux, Apache i Eclipse, a naša suradnja s Red Hatom predstavlja korak naprijed u našem otvorenom pristupu izgradnji sigurne, odgovorne i učinkovite umjetne inteligencije. RHEL AI i InstructLab, u kombinaciji s IBM-ovom obitelji modela Granite Open-Sourca , pružit će novu vrijednost i izbor za klijente koji žele izgraditi modele koji odgovaraju svrsi koji rješavaju njihove slučajeve upotrebe s vlastitim podacima dok minimiziraju troškove u raznolikom hibridnom Cloudu .”
Hillery Hunter, tehnički direktor i generalni direktor za inovacije, IBM Infrastructure
“Mnoga poduzeća žele unijeti umjetnu inteligenciju u svoje kritične aplikacije. Dostupnost RHEL AI i OpenShift AI na IBM Cloudu pomoći će promijeniti način na koji zajednica i tvrtke grade i koriste generativnu AI. Omogućujemo otvorenu suradnju, pojednostavljujemo prilagodbu modela i pružamo podržane modele i mogućnosti poslovne kvalitete za ugradnju umjetne inteligencije u svaku aplikaciju.”
Justin Hotard, izvršni potpredsjednik i generalni direktor, Data Center & AI Group, Intel
“Da bi se usvajanje umjetne inteligencije proširilo, potrebno je biti potpuno otvoreni kod, gdje članovi zajednice doprinose i stvaraju nove aplikacije i slučajeve korištenja. Uključivanjem Granite modela otvorenog koda i projekta InstructLab, RHEL AI spreman je donijeti značajnu promjenu u načinu na koji komuniciramo s, ugađamo i naposljetku koristimo AI modele u proizvodnji.”
Kirk Skaugen, predsjednik Lenovo ISG
„Kupci koji implementiraju aplikacije vođene umjetnom inteligencijom moraju biti u mogućnosti testirati i eksperimentirati s potencijalnim modelima na pouzdanoj i poznatoj, ali još uvijek inovativnoj platformi. Lenovo vjeruje da je budućnost umjetne inteligencije hibridna, a RHEL AI vidimo kao kritičan put za široko rasprostranjenu hibridnu AI inovaciju, a kroz Red Hat OpenShift AI, skalabilnost proizvodnje. Zadovoljstvo nam je raditi s Red Hatom u promicanju ove hibridne AI inovacije kroz zajedničko testiranje na našim ThinkSystem 8-GPU poslužiteljima, pružajući pouzdanu hardversku osnovu za pokretanje AI Open-Sourca.”
Justin Boitano, potpredsjednik, Enterprise Products, NVIDIA
“Red Hat i NVIDIA imaju dugu povijest bliske suradnje, a Red Hat Enterprise Linux AI demonstrira naš zajednički fokus na pružanje kompletnog računalstva i softvera programerima i istraživačima koji grade sljedeći val AI tehnologije i aplikacija.”
