Erster kommerzieller Photonik-Prozessor Photonik-Prozessor für Real-Time-​AI-Anwendungen

Anbieter zum Thema

Q.ANT GmbH

FAULHABER SA

Qant bringt seinen ersten kommerziellen Photonik-Prozessor auf den Markt – für energie­effizientes High-Performance-Computing und Real-Time-AI-Anwendungen. Die erste Native Processing Unit verspricht eine mindestens 30-fache Verbesserung der Energieeffizienz und einen erheblichen Leistungsschub, der die Nachhaltigkeit von Rechenzentren in greifbare Nähe rückt.

Qant, führendes Start-up für photonisches Computing, hat die Markteinführung seines ersten kommerziellen Produkts bekannt gegeben – einer photonischen Native Processing Unit (NPU), die auf der firmeneigenen Rechenarchitektur Lena (Light Empowered Native Arithmetics) basiert. Da das Produkt auf dem Industriestandard PCI-Express aufbaut, ist es mit dem heutigen Computing-Ecosystem kompatibel. Die Qant-NPU kann komplexe, nichtlineare Berechnungen nativ mit Licht statt mit Elektronen ausführen.

Darüber hinaus verspricht die Technologie eine mindestens 30-mal höhere Energieeffizienz und signifikante Verbesserungen der Rechengeschwindigkeit gegenüber der herkömmlichen CMOS-Technologie. Die Qant-NPU wurde für rechenintensive Anwendungen wie AI-Inference, Machine Learning und Physiksimulationen entwickelt und hat sich bei der Lösung realer Rechenprobleme bewährt, wie Qant am Beispiel der Zahlenerkennung für Deep-Neural-Networks nachgewiesen hat (siehe Pressemitteilung zum Cloud-Zugang zur NPU).

Bildergalerie

Mathematische und algorithmische Dichte übertrifft CMOS-Technologie

«Mit unserer photonischen Chiptechnologie, die jetzt über die Standard-PCIe-Schnittstelle verfügbar ist, bringen wir die unglaubliche Leistungsfähigkeit der Photonik direkt in reale Anwendungen. Wir machen damit ein deutliches Statement: Leistung und Nachhaltigkeit können Hand in Hand gehen», sagt Dr. Michael Förtsch, CEO von Qant. «Zum ersten Mal können Entwickler KI-Anwendungen erstellen und die Möglichkeiten des photonischen Rechnens erkunden, insbesondere für komplexe, nichtlineare Berechnungen. Experten haben beispielsweise errechnet, dass eine GPT-4-Anfrage heute 10-mal mehr Strom verbraucht als eine normale Internet-Suchanfrage. Unsere photonischen Chips bieten das Potenzial, den Energieverbrauch für diese Abfrage um das 30-Fache zu senken.»

Der Durchbruch von Qant beruht auf der firmeneigenen Lena-Plattform, die Thin-Film Lithium Niobate (TFLN) on Insulator umfasst. Qant hat dieses photonische Material seit seiner Gründung im Jahr 2018 kontinuierlich weiterentwickelt. Diese Plattform ermöglicht eine präzise Lichtsteuerung auf Chipebene. Qant kontrolliert den gesamten Prozess vom Wafer bis zum fertigen Prozessor und nutzt sein tiefes Verständnis von Licht. Damit erreicht das Unternehmen eine mathematische und algorithmische Dichte, die die herkömmliche CMOS-Technologie übertrifft. So kann beispielsweise eine Fourier-Transformation, die in der herkömmlichen CMOS-Technologie Millionen von Transistoren erfordert, mit einem einzigen optischen Element durchgeführt werden.

«Der neuartige Ansatz von Qant für die photonische Verarbeitung ist ein bahnbrechender Schritt, um den steigenden Energiebedarf der KI-Ära zu decken», sagt Dr. Eric Mounier, Chefanalyst, Photonics & Sensing beim Analystenhaus Yole-Group. «Dieser Durchbruch wird durch die Verwendung optima­ler Materialien für optische Schaltkreise ermöglicht, die Qant in den letzten Jahren entwickelt hat. Diese neue Prozessorgeneration öffnet endlich den Zugang zu überlegenen mathematischen Operationen, die auf herkömmlichen GPUs zu energie­aufwändig waren. Erste Leistungssteigerungen werden bei AI-Inference und AI-Training erwartet, was den Weg für hocheffizientes, nachhaltiges KI-Computing ebnet.» (Quelle: Optical Computing report, Yole Intelligence, 2024)

Reduzierte Berechnungsanforderungen

Die Qant-NPU kann die Berechnungsanforderungen für Machine Learning, Computer-Vision oder für das Training und die Inferenz grosser Sprachmodelle (LLM) reduzieren.

• Testläufe mit dem Qant-NPU-Demosystem in der Cloud mit MNIST-Datensätzen ergaben, dass der Native-Computing-Ansatz von Qant eine mit linearen Netzen vergleichbare Genauigkeit bei weniger Energieverbrauch erreicht.

• Auch konnte in Simulationen von Kolmogorov-Arnold-Networks(KAN)-Simulationen gezeigt werden, dass 43% weniger Parameter benötigt werden und die Anzahl der Operationen um 46% reduziert werden kann, was ihn als effizientere Wahl für KI-Inferenz etabliert.

• Weitere Tests und Simulationen zur Bild­erkennung zeigen, dass die Qant-NPU deutlich schneller trainieren kann und eine genaue Erkennung mit nur 0,1 Millionen Parametern und 0,2 Millionen Operationen erreicht. Ein herkömmlicher Ansatz hat selbst bei 5,1 Millionen Parametern und 10 Millionen Operationen Mühe, akzeptable Ergebnisse zu erzielen.

Ausserdem ermöglicht sie schnellere Lösungen für partielle Differentialgleichungen in Physiksimulationen, vereinfacht die Zeitreihenanalyse und verbessert die Effizienz bei der Lösung von Problemen der Graphentheorie. Im Gegensatz zur Standard-CMOS-​Technologie verarbeitet die Qant-NPU Daten über Licht und ermöglicht so energieeffizientere mathematische Operationen. Während ein herkömmlicher CMOS-Multiplikator 1200 Transistoren benötigt, um eine einfache 8-Bit-Multiplikation durchzuführen, erreicht die Qant-NPU dies mit einem einzigen optischen Element.

Verfügbarkeit und Verpackung

Die Qant-NPU kann ab sofort bestellt werden und ist im Februar 2025 lieferbar. Sie ist als schlüsselfertiger Native Processing Server (NPS) erhältlich, der vollständig mit einer herkömmlichen Serverlandschaft kompatibel ist und in jedes HPC- oder Rechenzentrum integriert werden kann. Durch den frühzeitigen Zugang zu seiner photonischen Technologie will Qant den Durchbruch im Computing beschleunigen und neue Möglichkeiten in der KI und der wissenschaftlichen Forschung in einem Bereich eröffnen, der in nur wenigen Jahren erhebliche Leistungssteigerungen und ein enormes Energiesparpotenzial bieten wird.

Die intuitive Schnittstelle der Qant-NPU, das Qant Toolkit, lässt sich nahtlos in bestehende KI-Software-Stacks integrieren und ermöglicht es Entwicklern, auf verschiedenen Ebenen zu arbeiten, von der Multiplikation bis zu optimierten neuronalen Netzwerkoperationen. Ausserdem bietet es eine umfassende Sammlung von Beispielanwendungen.

(ID:50243217)