attention_weights — LLMCORE `score` op

• Datenarten: attnmap → attnmap

• Aufruf: import fullseye as fs; fs.ledger.attention_weights(scores, mask=None, window=None) -> 'np.ndarray' (die Implementierung direkt: import llmcore; llmcore.attention_weights(scores, mask=None, window=None) -> 'np.ndarray'; aus dem Register: opsllmcore.get("attention_weights"))

Verwendung

Zeilenweiser Softmax (mit Maske) → attnmap. Zeilensummen sind 1, Maskenpositionen exakt 0.

Pro Zeile wird zuerst das Maximum abgezogen, dann die Exponentialfunktion genommen. Das ist keine Dekoration -- wendet man exp ohne Abzug an, werden bei großen Scores alle Zeilen inf/NaN (gemessen: 96 von 96 Zeilen). Mit Abzug 0 Zeilen.

Args:

scores: (T, T) float rohe Scores (Ausgabe von attention_scores).

mask: None (alle Paare) / "causal" (unteres Dreieck) / "window" (kausales Fenster der Breite window) /

ein (T, T)-bool-Array. True bedeutet "darf hinsehen".

window: Fensterbreite bei mask="window" (Anzahl einschließlich sich selbst).

Returns:

attnmap (T, T) float: jede Zeile ist eine Wahrscheinlichkeitsverteilung (Summe 1). Positionen, an denen mask False ist, sind exakt 0.

Ausführlicher Anwendungsleitfaden

• Leitfaden zur Familie llmcore

Referenzen (Beispieldaten, Literatur)

• Katalog der Beispieldaten (Download-URLs / Lizenzen) — 2-D nutzt skimage.data (BSD/Public Domain) plus synthetische Bilder, 3-D nennt Download-URLs echter Datenquellen (Stanford, PDS, …).

• Herkunft und Literatur der Operatoren — die Quellen der Forschung/Verfahren, auf denen diese Operatorfamilie beruht.

• Der kanonische Algorithmus (Autor, Jahr) und seine Anwendungen stehen im Familienleitfaden oben.

Ausführbare Beispiele (verifizierte Samples, die diesen Operator wirklich aufrufen)

• poc_attention_identities — py -3.11 examples/poc_attention_identities.py

Typkompatible Folge-Operatoren (nehmen `attnmap` als Eingabe)

attention_apply

Gleiche Kategorie (`score`)

attention_scores · attention_apply

*Provenance: llmcore.py — LLMCORE Operator-Registry. Diese Notiz wird von tools/opdocs.py md erzeugt (nicht von Hand bearbeiten).*

attention_weights — LLMCORE score op