Axelera AI, ein in Eindhoven ansässiges Unternehmen Artificial Intelligence (WHO) startup, gab am Donnerstag bekannt, dass es seine neue KI-Plattform Metis AI Platform, eine ganzheitliche Hardware- und Plattform, offiziell vorgestellt hat software Lösung zur Beschleunigung der Computer-Vision-Verarbeitung am Edge.
Die Ankündigung erfolgt einen Monat später In einer Serie-A-Finanzierungsrunde wurden 27 Millionen Euro eingesammelt.
Die Metis AI-Plattform besteht aus dem Metis AI Processing Unit (AIPU)-Chip und dem Voyager SDK software Stack, erhältlich als Karten, Boards und Vision-Systeme, sagt das niederländische Unternehmen.
Metis KI-Plattform: Was Sie wissen müssen
Axelera AI behauptet, dass die Metis AI Platform das erste Produkt sei, das Hunderte von TOPs (Tera Operations per Second) Rechenleistung zu einem Spitzenpreis bietet.
Die Metis AIPU verfügt über eine Quad-Core-Architektur, bei der jeder Kern alle Schichten eines standardmäßigen neuronalen Netzwerks ohne externe Interaktionen ausführen kann und so eine KI-Verarbeitungsleistung von bis zu 53.5 TOPs liefert.
Der Verbunddurchsatz der Metis AIPU kann 214 TOPS erreichen. Laut Axelera AI handelt es sich im Vergleich zu den derzeit verfügbaren Produkten um den leistungsstärksten und fortschrittlichsten Chip für Edge-Geräte.
In Metis AIPU kann die Quad-Core-Architektur entweder kombiniert arbeiten, um den Durchsatz zu steigern, oder unabhängig voneinander auf demselben neuronalen Netzwerk arbeiten, um die Latenz zu reduzieren oder gleichzeitig verschiedene neuronale Netzwerke für Anwendungen mit Pipelines neuronaler Netzwerke zu verarbeiten.
Die vier Kerne sind in ein System-on-Chip (SoC) integriert, das einen RISC-V-Controller, eine PCIe-Schnittstelle, einen LPDDR4X-Controller und einen Sicherheitskomplex umfasst, der über ein Hochgeschwindigkeits-Network-on-Chip (NoC) verbunden ist.
Der NoC verbindet die Kerne mit einer mehrstufigen Shared-Memory-Hierarchie von mehr als 52 MB On-Chip-Hochgeschwindigkeitsspeichern. Darüber hinaus stellt der LPDDR4-Controller eine Verbindung zu externem Speicher für viel größere neuronale Netze her.
Die D-IMC-Engine von Axelera unterstützt den Betrieb jedes Kerns und beschleunigt Matrix-Vektor-Multiplikationsoperationen mit der hohen Energieeffizienz von 15 TOPs/W bei INT8-Präzision.
Evangelos Eleftheriou, Mitbegründer und CTO von Axelera AI, sagt: „Die Metis AIPU liefert Rekordleistung und Energieeffizienz und erreicht FP32-Isogenauigkeit ohne Umschulung. Es demonstriert die Wirksamkeit der D-IMC-Engine von Axelera, indem es Matrix-Vektor-Multiplikationen mit hoher Präzision und konstanter Zeitkomplexität erreicht, die zusammen mit den fortschrittlichen Quantisierungsalgorithmen, dem großen On-Chip-SRAM und der RISC-V-Technologie gut geeignet sind. geeignet, um die strengen betrieblichen Anforderungen der KI-Anwendungen am Edge zu erfüllen.“
„Axeleras End-to-End-Integration software „Stack, der auf offenen, branchenüblichen Frameworks und APIs basiert, behebt die Benutzerprobleme bei der Entwicklung von KI-Anwendungen am Edge“, fügt er hinzu.
Auf dem software vorne, Voyager Software Das Development Kit umfasst einen integrierten Compiler, einen Laufzeitstapel und leistungsstarke Optimierungstools, um Kunden den Import ihrer Modelle zu ermöglichen.
Die Plattform unterstützt Lösungen für viele Umgebungen, von vollständig eingebetteten Anwendungsfällen bis hin zur verteilten Verarbeitung mehrerer 4K-Videostreams über vernetzte Geräte.
Das Voyager SDK quantisiert und kompiliert automatisch neuronale Netze, die auf verschiedenen Frameworks trainiert wurden, und generiert Code, der auf der Metis AI-Plattform mit branchenführender Genauigkeit läuft, so das Unternehmen.
Darüber hinaus ermöglicht die Lösung software Entwickler können sich auf die Lösung des Anwendungsproblems konzentrieren, ohne über tiefgreifende Lernkenntnisse verfügen zu müssen.
„Die Metis AI-Plattform stellt einen Wendepunkt für Unternehmen dar, die Computer-Vision-Anwendungen am Edge bereitstellen möchten“, sagt Paul Neil, VP of Product Management bei Axelera AI.
Er fügt hinzu: „Enge integrierte Hardware und software Die Leistungsfähigkeit, ein kuratierter Modellzoo und anpassbare Anwendungsvorlagen ermöglichen es Kunden, den Evaluierungs- und Entwicklungszyklus zu beschleunigen und die Zeit bis zur Umsatzerzielung zu verkürzen.“
Die Produkte werden in verschiedenen Formfaktoren erhältlich sein:
- Edge M.2-Beschleunigungskarte mit bis zu 214 TOPs zum Preis ab 149 US-Dollar, was nur 0.70 US-Dollar pro TOPs entspricht
- PCIe-Karte mit bis zu 856 TOPs, angetrieben von vier Metis AIPUs
Unabhängig davon arbeitet Axelera AI mit Partnern an der Entwicklung systemreifer Lösungen.
Axelera AI hat außerdem eine angekündigt Early Access-Programm Heute können Kunden die nächste Generation von Computer-Vision-Produkten am Edge mitgestalten.
„Unsere Mission ist es, den Zugang zu KI zu demokratisieren, beginnend mit dem Early Access-Programm. Das Programm bietet ausgewählten Kunden den Vorteil, unsere bahnbrechende Technologie vor der Konkurrenz zu nutzen und gleichzeitig maßgeschneiderten Support für ihre spezifischen Anforderungen zu bieten, mit einer Reihe konkreter Vorteile, einschließlich Hardware-Co-Design, dedizierter Hardware software und Unterstützung für maschinelles Lernen sowie Co-Marketing-Initiativen“, sagte Flavio Devidé, Axelera AI Head of Go-To-Market.
Axelera AI: Was Sie wissen müssen
Axelera AI wurde 2021 von Fabrizio Del Maffeo und Evangelos Eleftheriou gegründet und entwickelt die weltweit effizientesten und fortschrittlichsten Lösungen für KI am Edge.
Das Unternehmen gibt an, dass es Tausende effizienter und zugänglicher Edge-KI-Anwendungen ermöglichen und sich vollständig in führende Open-Source-KI-Frameworks integrieren wird, wenn es Anfang 2023 für ausgewählte Kunden und Partner eingeführt wird.
Axelera AI hat seinen Hauptsitz im AI Innovation Centre des High Tech Campus in Eindhoven und verfügt über Forschungs- und Entwicklungsbüros in Belgien, der Schweiz, Italien und Großbritannien mit 100 Mitarbeitern in 11 Ländern.