Het in Eindhoven gevestigde Axelera AI, an Artificial Intelligence (WHO) startup, kondigde donderdag aan dat het officieel zijn nieuwe AI-platform, Metis AI Platform, een holistisch hardware- en software oplossing om computervisieverwerking aan de rand te versnellen.
De aankondiging komt een maand later € 27 miljoen opgehaald in een Serie A-financieringsronde.
Het Metis AI-platform bestaat uit de Metis AI Processing Unit (AIPU)-chip en de Voyager SDK software stapel, beschikbaar als kaarten, borden en zichtsystemen, zegt het Nederlandse bedrijf.
Metis AI-platform: wat u moet weten
Axelera AI beweert dat Metis AI Platform het eerste product is dat honderden TOP's (Tera Operations per Second) rekenprestaties biedt tegen een scherpe prijs.
De Metis AIPU heeft een quad-core-architectuur waarbij elke kern alle lagen van een standaard neuraal netwerk kan uitvoeren zonder externe interacties, en levert tot 53.5 TOP's aan AI-verwerkingskracht.
De samengestelde doorvoer van de Metis AIPU kan oplopen tot 214 TOPS. Volgens Axelera AI is het de krachtigste en meest geavanceerde chip voor edge-apparaten in vergelijking met de momenteel beschikbare producten.
In Metis AIPU kan de quad-core-architectuur ofwel gecombineerd werken om de doorvoer te verhogen of onafhankelijk werken op hetzelfde neurale netwerk om latentie te verminderen of gelijktijdig verschillende neurale netwerken verwerken voor toepassingen met pijplijnen van neurale netwerken.
De vier kernen zijn geïntegreerd in een System-on-Chip (SoC), bestaande uit een RISC-V-controller, PCIe-interface, LPDDR4X-controller en een beveiligingscomplex dat is verbonden via supersnel Network-on-Chip (NoC).
De NoC verbindt de kernen met een gedeelde geheugenhiërarchie op meerdere niveaus van meer dan 52 MiB aan snelle geheugens op de chip. Bovendien maakt de LPDDR4-controller verbinding met extern geheugen voor veel grotere neurale netwerken.
De D-IMC-engine van Axelera drijft de werking van elke kern aan en versnelt matrix-vectorvermenigvuldigingsbewerkingen met de hoge energie-efficiëntie van 15 TOPs/W bij INT8-precisie.
Mede-oprichter en CTO van Axelera AI, Evangelos Eleftheriou, zegt: “De Metis AIPU levert recordprestaties en energie-efficiëntie en bereikt FP32 iso-nauwkeurigheid zonder hertraining. Het demonstreert de effectiviteit van Axelera's D-IMC-engine door matrix-vectorvermenigvuldigingen te bereiken met hoge precisie en constante tijd-complexiteit, die in combinatie met de geavanceerde kwantiseringsalgoritmen, het grote on-chip SRAM en de RISC-V-technologie goed zijn geschikt om tegemoet te komen aan de strenge operationele vereisten van de AI-toepassingen aan de Edge.”
“Axelera's end-to-end geïntegreerd software stack, gebouwd op open, industriestandaard frameworks en API's, pakt de pijnpunten van de gebruiker aan bij de ontwikkeling van AI-applicaties aan de rand, "voegt hij eraan toe.
Op de software voorkant, Voyager Software Development Kit bevat een geïntegreerde compiler, een runtime-stack en krachtige optimalisatietools waarmee klanten hun modellen kunnen importeren.
Het platform ondersteunt oplossingen voor veel omgevingen, van volledig ingebedde use cases tot gedistribueerde verwerking van meerdere 4K-videostreams over netwerkapparaten.
De Voyager SDK kwantiseert en compileert automatisch neurale netwerken die zijn getraind op verschillende frameworks, en genereert code die op het Metis AI-platform draait met toonaangevende nauwkeurigheid, beweert het bedrijf.
Verder staat de oplossing het toe software ontwikkelaars om zich te concentreren op het oplossen van het applicatieprobleem zonder enige expertise op het gebied van deep learning.
"Het Metis AI-platform is een keerpunt voor bedrijven die computervisie-applicaties aan de rand willen inzetten", zegt Paul Neil, VP Product Management bij Axelera AI.
Hij voegt eraan toe: “Nauw geïntegreerde hardware en software mogelijkheden, een gecureerde model-dierentuin en aanpasbare toepassingssjablonen stellen klanten in staat om de evaluatie- en ontwikkelingscyclus te versnellen en de time-to-revenue te verkorten.”
De producten zullen verkrijgbaar zijn in verschillende vormfactoren:
- Edge M.2-versnellingskaart, biedt tot 214 TOP's vanaf $ 149, wat overeenkomt met slechts $ 0.70 per TOP's
- PCIe-kaart levert tot 856 TOP's, aangedreven door vier Metis AIPU's
Afzonderlijk werkt Axelera AI samen met partners om systeemklare oplossingen te ontwikkelen.
Axelera AI heeft ook een aangekondigd Early Access-programma vandaag, waardoor klanten de volgende generatie computer vision-producten aan de Edge kunnen helpen vormgeven.
“We hebben een missie om de toegang tot AI te democratiseren, te beginnen met het Early Access Program. Het programma geeft geselecteerde klanten het voordeel dat ze onze baanbrekende technologie kunnen gebruiken voordat ze concurrenten zijn, terwijl ze op maat gemaakte ondersteuning bieden voor hun specifieke vereisten, met een reeks tastbare voordelen, waaronder hardware co-design, toegewijde software en ondersteuning voor machine learning, en co-marketinginitiatieven”, zegt Flavio Devidé, Axelera AI Head of Go-To-Market.
Axelera AI: wat u moet weten
Axelera AI, opgericht in 2021 door Fabrizio Del Maffeo en Evangelos Eleftheriou, ontwerpt 's werelds meest efficiënte en geavanceerde oplossingen voor AI aan de edge.
Het bedrijf zegt dat het duizenden efficiënte en toegankelijke edge AI-applicaties mogelijk zal maken en volledig zal integreren met toonaangevende open-source AI-frameworks wanneer het begin 2023 wordt gelanceerd voor geselecteerde klanten en partners.
Axelera AI heeft zijn hoofdkantoor in het AI Innovation Centre van de High Tech Campus in Eindhoven en heeft R&D-kantoren in België, Zwitserland, Italië en het VK, met 100 medewerkers in 11 landen.