Kako lahko Amazon uporabi čipe AWS po meri, da dohiti Microsoft in Google v polju AI?
Kot poroča CNBC, ekipa Amazon oblikuje dva čipa, kodna z imenom Inferentia in trening, za usposabljanje in pospeševanje generativne umetne inteligence.Ti čipi ponujajo alternativno možnost za stranke Amazon Cloud Services AWS za usposabljanje velikih jezikovnih modelov namesto grafičnih procesorjev NVIDIA.Trenutno je nabava GPU -jev vse težja in draga, ti prilagojeni čipi pa lahko strankam AWS nudijo alternativne rešitve za usposabljanje velikih jezikovnih modelov na čipih Nvidia.
Generalni direktor Amazon Cloud Technology Adam Selipsky je junija letos dejal: "Svet upa, da bo imel več čipov za generativno umetno inteligenco, ne glede na to, ali gre
Vendar so druga podjetja hitreje ukrepala in vložila več sredstev za pridobitev poslovanja iz vala generativne umetne inteligence.Ko je OpenAI novembra lani predstavil Chatgpt, je Microsoft pridobil široko pozornost za svoje chatbote in 13 milijard dolarjev naložb v OpenAI.Podjetje je svoje izdelke hitro dodalo generativne modele umetne inteligence in jih februarja letos združilo v Bing.
Istega meseca je Google predstavil svoj model velikega jezika, Bard in nato vložil 300 milijonov dolarjev v konkurenčni antropic OpenAI.
Šele aprila je Amazon napovedal lansiranje lastne serije velikih jezikovnih modelov (imenovano Titan) in storitve Bedlock, ki bo razvijalcem pomagala uporabljati generativno programsko opremo za izboljšanje AI.
Amazon ni navajen preganjati trga.Amazon je navajen na ustvarjanje trga.Mislim, da so se prvič v dolgem času znašli v slabšem položaju in si močno prizadevajo, da bi dohiteli, "je dejal Chirag Dekate, podpredsednik analitika Gartnerja.
Meta je pred kratkim izdala svoje glavne modele Llama 2.Ta odprtokodni Chatgpt konkurent je zdaj mogoče preizkusiti v Microsoftovem javnem oblaku Azure.
Čipi so "resnična diferenciacija"
DeKate je izjavil, da lahko Amazonovi prilagojeni čipi na dolgi rok dajo prednost na področju generativne umetne inteligence,
Mislim, da je resnična diferenciacija v tehničnih zmožnostih, ki jih izvajajo, saj Microsoft nima prilagojenih čipov za usposabljanje ali infekcij
AWS je tiho začel proizvajati čipe po meri že leta 2013 s pomočjo specializirane strojne opreme, imenovane Nitro, ki je zdaj najbolje prodajani čip AWS.Amazon trdi, da ima vsak strežnik AWS vsaj enega, s skupno več kot 20 milijoni.
Leta 2015 je Amazon pridobil izraelski zagon čipov Annapurna Labs.Leta 2018 je Amazon predstavil graviton čipa na strežniku, ki temelji na ARM, ki je konkurent CPU -jev X86 iz velikanov, kot sta AMD in Intel.
ARM lahko predstavlja visoko enomestno ali celo 10% celotne prodaje strežnika, pri čemer velik del prihaja iz Amazona.Zato se v smislu CPU -ja dobro znajdejo, "je dejala Stacy Rasgon, višja analitičarka Bernstein Research.
Tudi v letu 2018 je Amazon predstavil čipe, osredotočene na umetno inteligenco.Pred dvema letoma je Google napovedal začetek svoje prve enote tenzorskega procesorja (TPU).Microsoft še ni sporočil, da razvija čip Athena AI, ki naj bi bil razvit v sodelovanju z AMD.
Matt Wood, podpredsednik Amazon Products, je pojasnil uporabo čipov za usposabljanje in infekcije.
Strojno učenje je razdeljeno na ta dve različni fazi.Zato trenirate modele strojnega učenja in nato sklepate o teh usposobljenih modelih, "je dejal Wood. V primerjavi s katerim koli drugim načinom usposabljanja strojnega učenja na AWS je usposabljanje izboljšalo svojo stroškovno učinkovitost za približno 50%
Po izidu Inverentia leta 2019 (trenutno v drugi generaciji) je bil usposabljanje prvič predstavljen leta 2021.
Inferentia "zagotavlja zelo nizke, visoke pretočne in nizke zamude strojnega učenja, kar pomeni, da ko vnesete poziv v generativni model umetne inteligence, so vse napovedi tukaj obdelane, da se odziva," je dejal Wood.
Vendar je trenutno Nvidia GPU še vedno kralj v smislu modelov usposabljanja.Julija letos je AWS predstavil novo strojno opremo za pospeševanje AI, ki jo je podprla NVIDIA H100.
Rasgon je dejal: "Čipi Nvidia imajo ogromen programski ekosistem, v zadnjih 15 letih pa je programski ekosistem, zgrajen okoli njih
Izkoriščanje prednosti v oblaku
Vendar je AWS -ova prevlado v oblaku velik dejavnik diferenciacije za Amazon.
Amazon ne potrebuje dodatne pozornosti.Amazon že ima zelo močno fundacijo za namestitev v oblaku.Vse, kar morajo storiti, je, da ugotovijo, kako obstoječim strankam omogočiti, da izkoristijo generativno umetno inteligenco, da se razširijo na dejavnosti ustvarjanja vrednosti, "je dejal DeKate.
Pri izbiri generativne umetne inteligence med Amazonom, Googlom in Microsoftom lahko Amazon privlači milijone strank AWS, saj že poznajo Amazon in vodijo druge aplikacije in tam shranijo podatke.
Mai Lan Tomsen Bukovec, podpredsednik AWS Technology, je pojasnil: "To je vprašanje hitrosti. Kako hitro lahko ta podjetja razvijejo te generativne aplikacije za umetno inteligenco, je odvisno od tega, kako začnejo s podatki v AWS in uporabljajo orodja za računalništvo in strojno učenje. Mizagotoviti, da ga vozite
Po podatkih Gartner je AWS največji svetovni ponudnik računalništva v oblaku, tržni delež v višini 40% v letu 2022. Čeprav se je Amazonov dobiček iz poslovanja medletno zmanjšal za tri zaporedne četrtidobiček iz poslovanja v drugem četrtletju.Z zgodovinske perspektive je AWS -ova stopnja dobička iz poslovanja veliko višja od Google Clouda.
Poleg tega ima AWS tudi vse večji portfelj orodij za razvijalce, osredotočeno na generativno umetno inteligenco.Swami Sivasubramanian, podpredsednik baze podatkov, analize in strojnega učenja na AWS, je dejal: "Obrtimo uro nazaj, še pred Chatgpt. Po tem ni tako, da smo nenadoma hiteli z načrtom, ker ne morete oblikovati novegačip na tako hitro, kaj šele vzpostaviti osnovno storitev v 2 do 3 mesecih
Bedlock lahko strankam AWS omogoči dostop do velikih jezikovnih modelov, ki so jih razvili antiopic, stabilnost AI, AI21 Labs in Amazon Titan.Sivasubramanian je dejal: "Ne verjamemo, da bo en model vladal svetu. Želimo, da imajo naše stranke najsodobnejše modele več dobaviteljev, ker bodo izbrale pravo orodja za pravo delovno mesto
Eden izmed najnovejših Amazonovih izdelkov za umetno inteligenco je AWS Healthscribe, ki je bil predstavljen julija, in želi pomagati zdravnikom, da pripravijo paciente, da obiščejo povzetke z uporabo generativne umetne inteligence.Amazon ima tudi center za strojno učenje, imenovan SageMaker, ki ponuja storitve, kot so algoritmi in modeli.
Drugo pomembno orodje je CodewHisper, za katerega Amazon pravi, da je povečal hitrost dokončanja nalog razvijalcev za 57%.Microsoft je lani poročal tudi, da je njegovo orodje za kodiranje GitHub Copilot izboljšalo delovno učinkovitost.
Junija letos je AWS napovedal naložbo v višini 100 milijonov dolarjev za vzpostavitev generativnega inovacijskega centra za umetno inteligenco.Adam Selipsky, izvršni direktor AWS, je dejal: "Imamo veliko strank, ki želijo generativno tehnologijo umetne inteligence, vendar morda ne vedo nujno, kaj jim to pomeni v svojem poslovnem kontekstu. Zato bomo predstavili arhitekte rešitve, inženirje, stratege, stratege,in podatki znanstveniki, ki sodelujejo z njimi ena na ena
Čeprav se je AWS doslej osredotočil predvsem na razvoj orodij, ne pa na gradnjo tekmovalcev za Chatgpt, nedavno izpuščeni notranji e -poštni naslov kaže, da izvršni direktor Amazona Andy Jassy neposredno nadzira novo osrednjo ekipo, ki gradi tudi razširljive velike jezikovne modele.
Med konferenčnim klicem v drugem četrtletju je Jia Xi izjavil, da "pomemben del" AWS -ovega poslovanja zdaj poganja umetna inteligenca in njegova podpora za več kot 20 storitev strojnega učenja, s strankami, vključno s Philips, 3M, Old Mutual in HSBC.
Eksplozivna rast umetne inteligence je povzročila vrsto varnosti, saj so podjetja zaskrbljena, da bodo zaposleni vključili lastniške podatke v podatke o usposabljanju, ki se uporabljajo v skupnem velikem jeziku.
Adam Selipsky je dejal: "Ne morem vam povedati, koliko podjetij Fortune 500, s katerimi sem se obrnil.
Trenutno Amazon samo pospešuje promocijo generativne umetne inteligence in trdi, da "več kot 100000" kupcev trenutno uporablja strojno učenje na AWS.Čeprav to predstavlja le majhen del AWS -ovih milijonov strank, analitiki trdijo, da se lahko to stanje spremeni.
Ne vidimo, da podjetja, ki pravijo: "Oh, počakaj malo, Microsoft že vodi v generativno umetno inteligenco.Pojdimo ven in spremenimo našo infrastrukturno strategijo, prestavimo vse na Microsoftware.Če ste že stranka Amazona, boste verjetno širše raziskovali Amazonski ekosistem. "
Generalni direktor Amazon Cloud Technology Adam Selipsky je junija letos dejal: "Svet upa, da bo imel več čipov za generativno umetno inteligenco, ne glede na to, ali gre
Vendar so druga podjetja hitreje ukrepala in vložila več sredstev za pridobitev poslovanja iz vala generativne umetne inteligence.Ko je OpenAI novembra lani predstavil Chatgpt, je Microsoft pridobil široko pozornost za svoje chatbote in 13 milijard dolarjev naložb v OpenAI.Podjetje je svoje izdelke hitro dodalo generativne modele umetne inteligence in jih februarja letos združilo v Bing.
Istega meseca je Google predstavil svoj model velikega jezika, Bard in nato vložil 300 milijonov dolarjev v konkurenčni antropic OpenAI.
Šele aprila je Amazon napovedal lansiranje lastne serije velikih jezikovnih modelov (imenovano Titan) in storitve Bedlock, ki bo razvijalcem pomagala uporabljati generativno programsko opremo za izboljšanje AI.
Amazon ni navajen preganjati trga.Amazon je navajen na ustvarjanje trga.Mislim, da so se prvič v dolgem času znašli v slabšem položaju in si močno prizadevajo, da bi dohiteli, "je dejal Chirag Dekate, podpredsednik analitika Gartnerja.
Meta je pred kratkim izdala svoje glavne modele Llama 2.Ta odprtokodni Chatgpt konkurent je zdaj mogoče preizkusiti v Microsoftovem javnem oblaku Azure.
Čipi so "resnična diferenciacija"
DeKate je izjavil, da lahko Amazonovi prilagojeni čipi na dolgi rok dajo prednost na področju generativne umetne inteligence,
Mislim, da je resnična diferenciacija v tehničnih zmožnostih, ki jih izvajajo, saj Microsoft nima prilagojenih čipov za usposabljanje ali infekcij
AWS je tiho začel proizvajati čipe po meri že leta 2013 s pomočjo specializirane strojne opreme, imenovane Nitro, ki je zdaj najbolje prodajani čip AWS.Amazon trdi, da ima vsak strežnik AWS vsaj enega, s skupno več kot 20 milijoni.
Leta 2015 je Amazon pridobil izraelski zagon čipov Annapurna Labs.Leta 2018 je Amazon predstavil graviton čipa na strežniku, ki temelji na ARM, ki je konkurent CPU -jev X86 iz velikanov, kot sta AMD in Intel.
ARM lahko predstavlja visoko enomestno ali celo 10% celotne prodaje strežnika, pri čemer velik del prihaja iz Amazona.Zato se v smislu CPU -ja dobro znajdejo, "je dejala Stacy Rasgon, višja analitičarka Bernstein Research.
Tudi v letu 2018 je Amazon predstavil čipe, osredotočene na umetno inteligenco.Pred dvema letoma je Google napovedal začetek svoje prve enote tenzorskega procesorja (TPU).Microsoft še ni sporočil, da razvija čip Athena AI, ki naj bi bil razvit v sodelovanju z AMD.
Matt Wood, podpredsednik Amazon Products, je pojasnil uporabo čipov za usposabljanje in infekcije.
Strojno učenje je razdeljeno na ta dve različni fazi.Zato trenirate modele strojnega učenja in nato sklepate o teh usposobljenih modelih, "je dejal Wood. V primerjavi s katerim koli drugim načinom usposabljanja strojnega učenja na AWS je usposabljanje izboljšalo svojo stroškovno učinkovitost za približno 50%
Po izidu Inverentia leta 2019 (trenutno v drugi generaciji) je bil usposabljanje prvič predstavljen leta 2021.
Inferentia "zagotavlja zelo nizke, visoke pretočne in nizke zamude strojnega učenja, kar pomeni, da ko vnesete poziv v generativni model umetne inteligence, so vse napovedi tukaj obdelane, da se odziva," je dejal Wood.
Vendar je trenutno Nvidia GPU še vedno kralj v smislu modelov usposabljanja.Julija letos je AWS predstavil novo strojno opremo za pospeševanje AI, ki jo je podprla NVIDIA H100.
Rasgon je dejal: "Čipi Nvidia imajo ogromen programski ekosistem, v zadnjih 15 letih pa je programski ekosistem, zgrajen okoli njih
Izkoriščanje prednosti v oblaku
Vendar je AWS -ova prevlado v oblaku velik dejavnik diferenciacije za Amazon.
Amazon ne potrebuje dodatne pozornosti.Amazon že ima zelo močno fundacijo za namestitev v oblaku.Vse, kar morajo storiti, je, da ugotovijo, kako obstoječim strankam omogočiti, da izkoristijo generativno umetno inteligenco, da se razširijo na dejavnosti ustvarjanja vrednosti, "je dejal DeKate.
Pri izbiri generativne umetne inteligence med Amazonom, Googlom in Microsoftom lahko Amazon privlači milijone strank AWS, saj že poznajo Amazon in vodijo druge aplikacije in tam shranijo podatke.
Mai Lan Tomsen Bukovec, podpredsednik AWS Technology, je pojasnil: "To je vprašanje hitrosti. Kako hitro lahko ta podjetja razvijejo te generativne aplikacije za umetno inteligenco, je odvisno od tega, kako začnejo s podatki v AWS in uporabljajo orodja za računalništvo in strojno učenje. Mizagotoviti, da ga vozite
Po podatkih Gartner je AWS največji svetovni ponudnik računalništva v oblaku, tržni delež v višini 40% v letu 2022. Čeprav se je Amazonov dobiček iz poslovanja medletno zmanjšal za tri zaporedne četrtidobiček iz poslovanja v drugem četrtletju.Z zgodovinske perspektive je AWS -ova stopnja dobička iz poslovanja veliko višja od Google Clouda.
Poleg tega ima AWS tudi vse večji portfelj orodij za razvijalce, osredotočeno na generativno umetno inteligenco.Swami Sivasubramanian, podpredsednik baze podatkov, analize in strojnega učenja na AWS, je dejal: "Obrtimo uro nazaj, še pred Chatgpt. Po tem ni tako, da smo nenadoma hiteli z načrtom, ker ne morete oblikovati novegačip na tako hitro, kaj šele vzpostaviti osnovno storitev v 2 do 3 mesecih
Bedlock lahko strankam AWS omogoči dostop do velikih jezikovnih modelov, ki so jih razvili antiopic, stabilnost AI, AI21 Labs in Amazon Titan.Sivasubramanian je dejal: "Ne verjamemo, da bo en model vladal svetu. Želimo, da imajo naše stranke najsodobnejše modele več dobaviteljev, ker bodo izbrale pravo orodja za pravo delovno mesto
Eden izmed najnovejših Amazonovih izdelkov za umetno inteligenco je AWS Healthscribe, ki je bil predstavljen julija, in želi pomagati zdravnikom, da pripravijo paciente, da obiščejo povzetke z uporabo generativne umetne inteligence.Amazon ima tudi center za strojno učenje, imenovan SageMaker, ki ponuja storitve, kot so algoritmi in modeli.
Drugo pomembno orodje je CodewHisper, za katerega Amazon pravi, da je povečal hitrost dokončanja nalog razvijalcev za 57%.Microsoft je lani poročal tudi, da je njegovo orodje za kodiranje GitHub Copilot izboljšalo delovno učinkovitost.
Junija letos je AWS napovedal naložbo v višini 100 milijonov dolarjev za vzpostavitev generativnega inovacijskega centra za umetno inteligenco.Adam Selipsky, izvršni direktor AWS, je dejal: "Imamo veliko strank, ki želijo generativno tehnologijo umetne inteligence, vendar morda ne vedo nujno, kaj jim to pomeni v svojem poslovnem kontekstu. Zato bomo predstavili arhitekte rešitve, inženirje, stratege, stratege,in podatki znanstveniki, ki sodelujejo z njimi ena na ena
Čeprav se je AWS doslej osredotočil predvsem na razvoj orodij, ne pa na gradnjo tekmovalcev za Chatgpt, nedavno izpuščeni notranji e -poštni naslov kaže, da izvršni direktor Amazona Andy Jassy neposredno nadzira novo osrednjo ekipo, ki gradi tudi razširljive velike jezikovne modele.
Med konferenčnim klicem v drugem četrtletju je Jia Xi izjavil, da "pomemben del" AWS -ovega poslovanja zdaj poganja umetna inteligenca in njegova podpora za več kot 20 storitev strojnega učenja, s strankami, vključno s Philips, 3M, Old Mutual in HSBC.
Eksplozivna rast umetne inteligence je povzročila vrsto varnosti, saj so podjetja zaskrbljena, da bodo zaposleni vključili lastniške podatke v podatke o usposabljanju, ki se uporabljajo v skupnem velikem jeziku.
Adam Selipsky je dejal: "Ne morem vam povedati, koliko podjetij Fortune 500, s katerimi sem se obrnil.
Trenutno Amazon samo pospešuje promocijo generativne umetne inteligence in trdi, da "več kot 100000" kupcev trenutno uporablja strojno učenje na AWS.Čeprav to predstavlja le majhen del AWS -ovih milijonov strank, analitiki trdijo, da se lahko to stanje spremeni.
Ne vidimo, da podjetja, ki pravijo: "Oh, počakaj malo, Microsoft že vodi v generativno umetno inteligenco.Pojdimo ven in spremenimo našo infrastrukturno strategijo, prestavimo vse na Microsoftware.Če ste že stranka Amazona, boste verjetno širše raziskovali Amazonski ekosistem. "