Dieser Artikel untersucht die Erweiterung der relativen Positionskodierung (RPE) von 1D-Sequenzen auf 2D-Bilder im Swin Transformer. Aufbauend auf T5s bias-basierter RPE mit Bucket-Partitionierung erläutert der Autor die Designentscheidungen für 2D-Raumbeziehungen, einschließlich der getrennten Behandlung von Höhen- und Breitendimensionen. Der Beitrag behandelt die mathematische Formulierung, Implementierungsüberlegungen und wie dieser Ansatz eine effiziente Positionskodierung für Sehaufgaben erreicht. Es ist eine wertvolle Ressource für Forscher und Ingenieure, die an Vision-Transformatoren arbeiten.
Eine detaillierte Erklärung, wie Swin Transformer 1D-bias-basierte RPE auf 2D-Bilder erweitert, mit Implementierungseinblicken.