Tesla FSD uppges vara tio gånger säkrare än en mänsklig förare. Men nu avslöjar AI-tränare att bilarna kör på katter och rådjur i full fart.
– Jag skulle inte sätta mig i en robottaxi från Tesla om jag så fick betalt för det, säger en av de tidigare AI-tränarna till Reuters.
En granskning som nyhetsbyrån Reuters gjort baserad på intervjuer med nio tidigare AI-utbildare och ingenjörer hos Tesla visar på oroande brister hos Teslas självkörning. På ett kontor i Utah arbetar hundratals så kallade dataetiketterare med att granska videomaterial från Tesla-bilar runt om i världen. Deras uppgift är att träna företagets artificiella intelligens genom att mata den med exempel på bra och dålig körning. Men Reuters uppger att videosnuttarna visar hur bilar med FSD (Full Self-Driving) aktiverat kör på katter, hundar och rådjur i hög fart – ofta helt utan att ens bromsa före kollisionen.
Flera av de tidigare anställda berättar för Reuters att mjukvaran fortfarande kämpar med grundläggande trafikregler, som att lämna plats åt utryckningsfordon eller stanna för skolbussar med blinkande varningsljus. Ett särskilt team i Palo Alto, Kalifornien, som internt kallades för ”trauma-teamet”, hade speciella behörigheter för att granska de allra värsta incidenterna. Det handlade om sekvenser där FSD-systemet missat fotgängare helt, eller där barn som lekt på gatan varit millimeter från att bli påkörda innan föraren i absolut sista sekunden ryckt tag i ratten.
Skepticismen bland de anställda som faktiskt bygger systemet är stor, enligt Reuters.
– Vi har alla sett systemet fela. Jag skulle inte sätta mig i en robottaxi från Tesla om jag så fick betalt för det. Lita absolut inte på Elon om det här, säger en av de tidigare AI-tränarna till Reuters.
För att dämpa kritiken och övertyga investerare har Tesla flitigt citerat statistik som påstår att FSD är mångfaldigt säkrare än människor. Men trafikforskare och statistiker som har granskat Teslas metodik för Reuters dömer ut rapporterna som ren marknadsföring utan vetenskaplig grund.
Tesla räknar bara de olyckor där deras egna bilar krockat så kraftigt att krockkuddarna löst ut. Detta tal jämför de sedan med amerikansk federal olycksstatistik som omfattar alla olyckor där en bil behövt bärgas – vilket inkluderar väldigt milda plåtskador. Tesla jämför sina bilar, som i snitt är 4,1 år gamla, med det amerikanska genomsnittsfordonet som är 12,8 år gammalt.
Moderna bilar har oavsett märke autobroms och dödavinkelvarnare som minskar olyckor drastiskt.
– Att säga att en ny Tesla är säkrare än en tolv år gammal bil är som att säga: Mitt jetflygplan är snabbare än ditt bombflygplan från andra världskriget. Ja, och? Vad är din poäng? säger Phil Koopman, professor vid Carnegie Mellon University och expert på autonom säkerhet.
LÄS MER:
Maths Nilsson är motor- och ekonomijournalist och grundare av Carup, har mångårig erfarenhet från stora mediehus och tidningar. Mer information och kontaktuppgifter
