Thema:
Eyetracking und das Display sind BIG! flat
Autor: Spyro2000
Datum:05.01.22 14:06
Antwort auf:PSVR2 - offizielle Neuigkeiten! von Fred LaBosch

Sony hatte es ja schon im Vorgänger entgegen allen anderen Konkurrenten geschafft, ein OLED-Display mit nicht nur 120 Hz sondern auch einer RGB-Stripe-Matrix einzubauen (alle anderen mussten auf PenTile setzen). Es ist nicht unwahrscheinlich, dass man das auch diesmal hinbekommt. Dadurch wirkte schon PSVR1 im Betrieb deutlich schärfer als PenTile-Panels mit derselben Auflösung. Der Grund liegt in einer 33% höheren Subpixel-Dichte (der Rechenaufwand erhöht sich dabei nicht).

[https://i0.wp.com/www.smartdroid.de/wp-content/uploads/2012/05/rgb-pentile-matrix.jpg]

Ebenfalls unglaublich, aber wahr: Sony veröffentlicht mit PSVR2 tatsächlich das erste, offiziell HDR-fähige Headset. Eigentlich eine Steilvorlage für VR war dort trotzdem HDR nie ein Thema.

Übrigens ist es sachlich einfach falsch, nur die Hälfte der Auflösung zu zählen weil sie ja "pro Auge aufteilt" werden muss. Das ist nicht der Fall da eben nicht beide Augen dieselben Pixel sehen sondern alle virtuellen Objekte tatsächlich aus zwei verschiedenen Winkel gerastert werden. Das Gehirn erhält also tatsächlich für jedes Pixel eigene Information die zu einer höheren wahrgenommenen Schärfe führen. Den 3D-Effekt gibt es quasi noch obendrauf und nicht "auf Kosten" von niedrigerer Auflösung wie man oft lesen muss.

Das Eye-Tracking ist aber der eigentliche Hammer. Zwar gibt's sowas schon länger etwa von Tobii zum Nachrüsten, trotzdem dürfte PSVR2 das erste verbreitete Headset mit dieser Technik werden (falls nicht Meta vorher ihr Project Cambria veröffentlicht).

Normalerweise setzt man hier auf einen Ring von IR-LEDs um die Augen herum + eine zusätzliche SW-Kamera mit mindestens 120 Hz (manchmal auch zwei):

[https://www.imore.com/sites/imore.com/files/styles/large_wm_brw/public/field/image/2018/03/qualcomm-vrdk-headset-eyes.jpg]

Dadurch lässt sich die Position der Pupillen bestimmen und nach einer Kalibrierung indirekt, auf welche Stelle im Display der User schaut.

[https://uploadvr.com/wp-content/uploads/2018/11/OculusEyeTracking.png]

Diese Info kann man dann nutzen um das sagenumwobene "Foveated Rendering" zu breiben. Vereinfacht gesagt berechnet man die volle Auflösung nur dort, wo das Auge auch gerade hinblickt und nach außen hin dann immer weniger Pixel. Diese Bilder werden dann auf die selbe Größe skaliert, die Unschärfte nimmt nach außen hin immer weiter zu. Je nach FOV des Headsets verwendet man zwischen 2 und 5 Zonen.

[https://venturebeat.com/wp-content/uploads/2019/07/tobii.jpg]

Vorteil: Gewaltige Einsparungen bei Bandbreite, Pixelfüllrate und Shading (durchaus mal 70% und mehr). Dadurch lässt sich in VR eine Optik realisieren, die konventionellen Spielen ebenbürtig ist oder sie sogar übertrifft.

Auch ein sehr großer Schritt zu PSVR1 ist das Headset- und Controller-Tracking. Endlich setzt man auch hier auf Inside-Out-Tracking. Kameras im Headset tracken die Umgebung und gleichzeitig IR-LEDs im Controller die Synchron zum Shutter der Kamera getaktet sind:

[https://uploadvr.com/wp-content/uploads/2019/08/oculus-insight-illustration.jpg]

Hier liegt viel Magie in der Software. Oculus hat es schon bei der Quest geschafft, die Qualität des Trackings von "gut genug" zu "praktisch perfekt" zu steigern. Ich habe alle Tracking-Verfahren ausprobiert und lange war hier Lighthouse die Referenz aber mittlerweile würde ich tatsächlich das Tracking von Quest 2 auf Platz 1 setzen. Einzige Ausnahme sind längere Bewegungen hinter dem Rücken oder über dem Kopf (die tatsächlich eher selten sind).

Jetzt fehlen eigentlich nur noch drei Dinge:

- Wireless-Modul, damit man mit der Quest 2 mithalten kann bei der das sehr gut über WLAN funktioniert (Wifi 6 Router/Repeater im selben Raum vorausgesetzt)
- PC-Kompatibilität oder zumindest keine Sperren dafür (möglich, aber bei Sony leider unwahrscheinlich)
- Brauchbares Audio (vielleicht optionale Over-the-Ear Speaker wie bei Index / Reverb G2)


< antworten >