Om de cameradetectiesystemen van hun Tesla’s te misleiden terwijl ze in de automatische modus rijden, maken Chinese klanten gebruik van nep-poppenhoofden van plastic.

Ze worden aan het plafond van hun auto’s vastgeschroefd en slagen erin het systeem te laten geloven dat de bestuurder alert is. Het is niet de eerste keer dat de aftermarket-sector probeert de veiligheidssystemen van geavanceerde zelfrijdende technologie te omzeilen.

“De rots”

In China worden tegenwoordig miniatuurpoppetjes verkocht die speciaal bedoeld zijn om het neurale netwerk van de aandachtcamera te misleiden, zodat het denkt dat er iemand naar de weg kijkt. Om de hype nog verder aan te wakkeren, zijn sommige van deze poppetjes gemaakt naar het evenbeeld van beroemdheden, zoals acteur Dwayne “The Rock” Johnson.

Wired-verslaggever Zeiy Yang bracht het nieuws naar buiten nadat hij zich had verdiept in obscure Chinese e-commerceplatforms. Wat hij ontdekte was een kleine maar snelgroeiende handel: hoofden ter grootte van een pingpongbal, geprijsd tussen $10 en $40, ontworpen om bij de achteruitkijkspiegel te worden geplaatst en zo te voorkomen dat de naar het interieur gerichte camera van Tesla de daadwerkelijke bestuurder kan zien. De camera kan geen onderscheid maken tussen een plastic gezicht en een echt gezicht.

Video’s die op sociale media de ronde doen, tonen aan hoe doeltreffend deze truc is. Nadat ze hun poppen hebben geïnstalleerd, kunnen bestuurders op de snelweg eten of een video bekijken zonder ook maar één waarschuwing te krijgen.

Een week lang geblokkeerd

Het bestuurdersbewakingssysteem van Tesla maakt gebruik van een naar de cabine gerichte camera die boven de voorruit is gemonteerd om de positie van het hoofd en de oogbewegingen te volgen tijdens het gebruik van FSD.

Als het systeem vaststelt dat de blik van de bestuurder te lang is afgedwaald, geeft het een waarschuwing. Bij aanhoudende afleiding kan het systeem zichzelf uitschakelen of het gebruik ervan een week lang blokkeren.

De opkomst van de nephoofden viel samen met een Chinese software-update van Tesla vorig jaar, waardoor strengere controle werd ingeschakeld. Bestuurders probeerden aanvankelijk de camera volledig af te schermen met een webcam-afdekkapje.

Maar de figuurtjes verschenen nadat Tesla een melding had weergegeven waarin werd gewaarschuwd dat de rijhulpsystemen zouden worden uitgeschakeld als de camera werd geblokkeerd.

De techniek ontwikkelt zich ook verder dan alleen nepkoppen. Het meest geavanceerde apparaatje dat is gemeld, is een klein schermpje waarop een video in een loop wordt afgespeeld van iemand die zijn hoofd beweegt en met zijn ogen knippert; er wordt beweerd dat dit een “0%-foutpercentage” haalt op de Model S, Model X en Cybertruck. Tot overmaat van ramp zijn er volgens Wired al enkele exemplaren verkocht aan klanten in de VS, Canada en Zuid-Korea.

Het is duidelijk dat er op markten waar FSD volledig is ingeschakeld, belangstelling bestaat om de aandachtshulp te omzeilen. Nu Europa de deur openzet voor deze technologie, lijkt het steeds waarschijnlijker dat er binnenkort een vergelijkbare oplossing op het continent zal verschijnen.

Stuurgewicht

Het is niet de eerste keer dat er veiligheidshacks opduiken. In 2018 heeft de Amerikaanse instantie voor verkeersveiligheid, de NHTSA, een product met de naam “Autopilot Buddy” uit de handel genomen.”

Dit $199-gewicht is ontworpen om op een Tesla-stuurwiel te passen en de koppelsensor te laten denken dat iemand het stuur vasthield. De cabinecamera is speciaal ontwikkeld om dit soort oplossingen tegen te gaan.

Er tekent zich dus een bepaald patroon af: zodra Tesla een maas in de wet dicht, vinden bestuurders de volgende. Maar er staat veel op het spel. Autopilot en FSD (Supervised) zijn systemen van niveau 2.

Ze vereisen te allen tijde actief menselijk toezicht en zijn voor een veilig gebruik afhankelijk van ingrijpen door de bestuurder. Ze zijn niet autonoom en maken fouten. Het omzeilen van het veiligheidsnet brengt het leven van medeweggebruikers in gevaar.

Je zou je kunnen voorstellen dat camera’s met AI deze mazen zouden kunnen dichten, maar Tesla heeft hier nog geen antwoord op gegeven. Een draadloze update lost het deze keer misschien niet op.