Spolu se svou nejnovější šarží nových mobilních platforem střední třídy pro smartphony Qualcomm učinil ještě větší oznámení na svém AI Day v San Franciscu. Mobilní čipový gigant dělá další hru pro servery poté, co v roce 2018 opustil svůj sortiment Centriq. Tentokrát společnost využívá své technologie v oblasti AI, aby se dostala do dveří cloud computingu. První čip, který jsme nazvali platformou Qualcomm Cloud AI 100.

Platforma Cloud AI 100 není mobilním čipovým přebalením, jedná se o převratný 7nmový design pro úlohy odvození AI, nikoli výcvik. To znamená, že čip bude drolit čísla procházející neuronovými sítěmi, než aby je používal k jejich trénování. Zdá se, že Qualcomm je v přímé konkurenci s Tesla T4 série Nvidia a inferenčních čipů Google Edge TPU určených pro servery a cloud computing. Stejně jako její konkurenti si Qualcomm uvědomil, že nejúčinnější zpracování AI se neprovádí na CPU, GPU a FGPA, ale vyžaduje specializovaný akcelerátor AI.

Co se týče výkonu, Qualcomm odhaduje více než 50x špičkové zvýšení výkonu AI oproti schopnostem svého Snapdragon 855. Snapdragon 855 nabízí přibližně 7TOPS výkonu, což naznačuje, že Cloud AI 100 je v rozsahu 350TOPS. To jistě poskytne Nvidia T4 útěk za své peníze. Společnost Qualcomm věří, že má také výhodu ve výkonu na watt, a může se pochlubit 10x vylepšením ve srovnání s nejpokročilejšími řešeními inovací AI inference, která jsou dnes nasazena. Když drtíte velká čísla, může energetická účinnost ušetřit společnostem obrovské částky za účty za elektřinu. Kromě toho chce Qualcomm využít své odborné znalosti v oblasti zpracování signálů a 5G, takže jeho cloudová platforma může v budoucích sítích s velmi nízkou latencí pracovat na okraji.

Na dotaz se Qualcomm nevyjádřil k tomu, zda architektura použitá v cloudu AI 100 byla proprietární nebo licencovaná odkudkoli. Zajímalo by mě, zda se jedná o první vzhled architektury Arm Trillium AI Arm, která je také navržena speciálně pro odvozování pracovních zátěží při nízkém rozpočtu na energii. Ale dost spekulace, Qualcomm říká, že v budoucnu bude sdílet více informací o své AI architektuře.

A konečně, podpora vývojářů Qualcomm Cloud AI 100 pracuje s většinou, ne-li všemi, ze špičkových softwarových balíčků. Je zde podpora rámců Caffe, Keras, mxnet, TensorFlow, PaddlePaddle a Cognitive Toolkit, spolu s runtimey Glow, OnnX a XLA.

Očekává se, že Qualcomm Cloud AI 100 začne odběr vzorků zákazníkům v roce 2007