Samen met de nieuwste serie nieuwe mobiele smartphoneplatforms uit het middensegment, heeft Qualcomm een nog grotere aankondiging gedaan op zijn AI-dag in San Francisco. De mobiele chipgigant speelt nog een keer voor servers, nadat hij zijn Centriq-assortiment in 2018 had verlaten. Dit keer maakt het bedrijf gebruik van zijn technologieën op het gebied van AI om zijn voet in de cloud computing-deur te krijgen. De eerste chip die we het Qualcomm Cloud AI 100-platform noemden.
Het Cloud AI 100-platform is geen herverpakking van een mobiele chip, het is een basisontwerp van 7 nm voor AI-interferentietaken in plaats van training. Dat betekent dat de chip de cijfers kraakt die door neurale netwerken gaan in plaats van te worden gebruikt om ze te trainen. Hierdoor lijkt Qualcomm rechtstreeks te concurreren met Nvidia's Tesla T4-serie en Google Edge TPU-inferentiechips die zijn ontworpen voor servers en cloud computing. Net als zijn concurrenten heeft Qualcomm zich gerealiseerd dat de meest efficiënte AI-verwerking niet wordt gedaan op CPU's, GPU's en FGPA's, maar een speciale AI-versneller vereist.
Qua prestaties schat Qualcomm een piek van meer dan 50x piek-AI-prestaties ten opzichte van de mogelijkheden van zijn Snapdragon 855. De Snapdragon 855 biedt ongeveer 7TOPS aan prestaties, wat suggereert dat de Cloud AI 100 in het bereik van 350TOPS ligt. Dat zal zeker de N4 van Tvidia een run voor zijn geld geven. Qualcomm gelooft dat het ook een voorsprong heeft op de prestaties per watt, met een 10x verbetering in vergelijking met de meest geavanceerde AI-inferentie-oplossingen die tegenwoordig worden toegepast. Wanneer u grote aantallen kraakt, kan energie-efficiëntie bedrijven enorme sommen energie besparen. Bovendien wil Qualcomm gebruik maken van zijn expertise in signaalverwerking en 5G, zodat zijn cloudplatform op de rand kan werken in toekomstige netwerken met een zeer lage latentie.
Op de vraag zou Qualcomm geen commentaar geven op de vraag of de architectuur die in de Cloud AI 100 wordt gebruikt, eigendom van of een licentie van elders is. Ik vraag me af of dit de eerste verschijning is van Arm's Trillium AI-architectuur, die ook specifiek is ontworpen voor inferentieworkloads met een laag stroombudget. Maar genoeg speculatie, Qualcomm zegt dat het in de toekomst meer informatie over zijn AI-architectuur zal delen.
Ten slotte werkt Qualcomm's Cloud AI 100 om ontwikkelaars te ondersteunen met de meeste, zo niet alle, toonaangevende softwarestacks. Er is ondersteuning voor Caffe, Keras, mxnet, TensorFlow, PaddlePaddle en Cognitive Toolkit frameworks, samen met Glow, OnnX en XLA runtimes.
De Qualcomm Cloud AI 100 zal naar verwachting beginnen met bemonsteren bij klanten in
