Tensorprodukt-Rechner

Das Tensorprodukt, im Vektorkontext auch Außenprodukt genannt, ist eine grundlegende Operation der linearen Algebra, die zwei Vektoren nimmt und eine Matrix erzeugt. Hat der Vektor u m Komponenten und der Vektor v n Komponenten, dann ist ihr Tensorprodukt u ⊗ v eine m × n Matrix, bei der der Eintrag in Zeile i und Spalte j gleich uᵢ mal vⱼ ist. Das steht im deutlichen Gegensatz zum Skalarprodukt, das zwei Vektoren zu einem einzelnen Skalar reduziert, oder zum Kreuzprodukt, das nur auf dreidimensionale Vektoren anwendbar ist und wieder einen Vektor liefert. Mathematisch gilt, wenn u = [u₁, u₂, …, uₘ] und v = [v₁, v₂, …, vₙ], dann ist (u ⊗ v)ᵢⱼ = uᵢvⱼ für jedes gültige Paar (i, j). Die Berechnung hat die Zeitkomplexität O(mn) und ist damit auch für mittelgroße Vektoren effizient. Das Tensorprodukt ist bilinear – wird einer der beiden Vektoren skaliert, skaliert das Ergebnis mit demselben Faktor, und es verteilt sich über die Vektoraddition. Das Tensorprodukt ist nicht kommutativ: u ⊗ v und v ⊗ u sind im Allgemeinen verschiedene Matrizen (die eine m × n, die andere n × m), außer wenn m = n gilt und eine besondere Beziehung besteht. Der erste Vektor bestimmt immer die Zeilen, der zweite immer die Spalten. Diese Asymmetrie ist besonders in Physik und maschinellem Lernen wichtig, wo die Reihenfolge eine physikalische oder semantische Bedeutung trägt. In der Quantenmechanik sind Tensorprodukte unverzichtbar, um zusammengesetzte Systeme zu beschreiben. Wenn zwei Quantensysteme kombiniert werden, ist der Zustandsraum des Gesamtsystems das Tensorprodukt der einzelnen Zustandsräume. Ein Zwei-Qubit-System hat zum Beispiel einen 4-dimensionalen Zustandsraum, der das Tensorprodukt zweier 2-dimensionaler Qubit-Räume ist. Quantenverschränkung entsteht genau dann, wenn sich ein zusammengesetzter Zustand nicht als einfaches Tensorprodukt einzelner Zustände schreiben lässt. Im maschinellen Lernen und in der Data Science bilden Tensorprodukte (und ihre höherdimensionalen Verallgemeinerungen, sogenannte Tensoren) die Grundlage für den Attention-Mechanismus in Transformer-Modellen, für Feature-Cross-Operationen in Empfehlungssystemen und für separable Faltungen in der Bildverarbeitung. Ein Gauß-Blur-Kernel ist beispielsweise das Tensorprodukt eines 1D-horizontales Gauß-Filters mit einem 1D-vertikalen Gauß-Filter und ermöglicht so eine effiziente separierbare Berechnung. In der Signalverarbeitung ermöglicht die Darstellung mehrdimensionaler Filter als Tensorprodukte von 1D-Filtern erhebliche Recheneinsparungen. Die von diesem Rechner erzeugte Darstellung als abgeflachter Vektor ist besonders nützlich, wenn das Ergebnis in eine nachfolgende Operation eingegeben werden soll, die einen 1D-Eingang erwartet, etwa eine voll verbundene Schicht eines neuronalen Netzes.