Tagasitõmbatud eesriie: Teslale omistatud üleliialdatud statistika ja kunstliku intelligentsi oskuste näitamised

Teine kahest osast
Esimene osa

Nähes FSD süsteemi vigu näitavaid videoid, tõstsid Tesla juhatuse liikmed ja tegevjuht oma väiteid selle tehnoloogia ohutuse ja täieliku autonoomsuse valmisoleku kohta. Eelmise aasta suurema osa jooksul rõhutasid Tesla juhid „10 korda ohutum” väidet.

„Auto, mis kasutab FSD-d, on 10 korda ohutum”, soodustab müüki, ütles Tesla finantsdirektor Taneja juulis toimunud tuluaruandluskõnes. „Isegi 99 dollarit kuus tähendab seda, et saad isiklikku šoofööri peaaegu 3,33 dollarit päevas.”

Tesla meetodil on oluline probleem, mis põhineb ühel võrdlusveal ja mille tõttu on Tesla väidetav ohutustase kolm korda liialdatud. Autotootja arvestas Tesla autoõnnetusi, kus aktiveerusid turvamoodulid, ja võrreldis neid föderaalsete andmetega kõigist õnnetustest, kus auto eemaldati kohalt tugilaevaga – palju vähem piiratud kriteerium. Õnnetused, mille korral on vaja tugilaeva, ei pruugi olla sageli piisavalt tõsised, et aktiveerida turvamooduleid.

Tesla kasutas seda „õunaid ja apelsineid” võrdlust isegi siis, kui võrdlemiseks olid kättesaadavad õunad: föderaalne andmekogum, mida Tesla kasutas, sisaldas ka õnnetusi, kus aktiveerusid turvamoodulid. See vigane meetod viis järeldusele, et Teslad, mis kasutavad FSD-d või Autopiloti, sõidavad õnnetuste vahel 10 korda pikemaid vahemaasid kui keskmine inimsõitja.

Siiski näitab sobivam võrdlus – kasutades Teslate ja kõigi teiste autode puhul turvamoodulitega seotud õnnetusi –, et Teslad, mis kasutavad juhiabi süsteeme, sõidavad turvamoodulite aktiveerumisega kaasnevate õnnetuste vahel umbes kolm korda pikemaid vahemaasid, selgitas Reutersile tehtud analüüsi järgi Marco Benedetti, Michigani Ülikooli Transpordiuuringute Instituudi abiteadur ja endine NHTSA statistik. Kahe muu liiklusohutusteadlase kontroll kinnitas Benedetti arvutusi ja nende järeldusi.

Siiski ei tähenda see, et FSD oleks tegelikult kolm korda ohutum kui keskmine sõitja, ütles Benedetti, sest Tesla meetodil on veel mitmeid muid vigu.

Tesla muutis oma lähenemist novembris, et hõlmata ainult andmeid autodest, mis kasutavad FSD-d, ja välja jätta need, mis kasutavad Autopiloti. Autopiloti kaasamine oli suurendanud Tesla väidetavaid vahemaasid õnnetuste vahel, sest see on vähem keerukas süsteem, mille eesmärk on kasutada ainult kiirteedel – kus autod sõidavad rohkem kilomeetreid ja põrkuvad palju harvem kui linnatänavatel. Ettevõte kasutab aga endiselt oma veebisaidil vigast turvamoodulitega õnnetuste võrdlust, et väita, et FSD on keskmisest inimsõitjast seitse korda ohutum või ligikaudu 85% ohutum (protsentuaalses muutuses väljendatuna).

Reuters leidis, et veel mitu muud Tesla vigaseid mõõtmisi teeb kahtlaseks, kas FSD on üldse mingil moel ohutum.

Näiteks ei arvesta autotootja sõidukite vanusega, kui võrdleb oma autode õnnetussagedust riikliku tasemega. Tesla võrdleb oma sõidukeid – mille keskmine vanus on S&P Global Mobility andmetel 4,1 aastat – kõigi Ameerika Ühendriikide autodega, mille keskmine vanus on 12,8 aastat. See moonutab tulemusi, ütlesid Reutersile 10 ohutusteadlast, sest peaaegu kõik autotootjad on alustanud viimastel aastatel oma kogu mudelivalikus põhjalike ohutusfunktsioonide, sealhulgas pimedas alas monitorimise ja automaatse häirepidurduse, pakkumist.

Tesla vähendab ka oma õnnetuste arvu, arvestades ainult neid õnnetusi, mis toimuvad kas FSD sisse lülitatuna või viie sekundi jooksul pärast selle välja lülitamist. USA valitsus nõuab aga autotootjatelt õnnetuste raporteerimist ka 30 sekundi jooksul pärast täiustatud juhiabi süsteemi deaktiveerimist.

Tesla väidab, et FSD võib salvestada aastas rohkem kui 32 000 elu ja ennetada rohkem kui 1,9 miljonit vigastust. Mõned liiklusohutusteadlased nimetasid neid numbreid tähenduseta, sest nad põhinevad ebatõelisel eeldusel, et kõik USA sõidukid – sealhulgas kaubalaevad ja õnnetustele kalduvad mootorrattad – asendatakse FSD-ga varustatud Tesla autodega ning et iga Tesla auto on tegelikult vähemalt seitse korda ohutum kui see, mille asemel see sõidab.

Waymo karmim lähenemine

Tesla ohutusstatistikate eeldus on ka vigane, sest FSD pole tegelikult täiesti autonoomne süsteem, ütlesid 10 liiklusohutusteadlast. Tesla ei võrdle oma tehnoloogiat inimsõitjatega, nagu ettevõtte juhid väidavad. Pigem võrdleb autotootja keskmist inimsõitjat teise keskmise inimsõitjaga – kes sõidab Teslat, kasutades FSD-d. Tesla ei arvesta ka sellega, et need sõitjad saavad FSD-d sisse ja välja lülitada – ja uuringud näitavad, et sõitjad hoiavad sageli täiustatud juhiabi süsteeme keerukates liiklusolukordades, kus neile tundub tehnoloogia ebaturvaline. Tesla enda andmed näitavad, et FSD-d kasutatakse peamiselt kiirteedel.

Alphabeti Waymo, vastupidi, võrdleb oma täiesti juhtimiseta robotaksid, mida praegu kasutatakse 11 Ameerika Ühendriikide metropoolias, inimsõiduautodega sarnastes tingimustes.

Waymo kasutab Tesla võrreldes karmimat lähenemist, analüüsides õnnetusandmeid piirkondades, kus ta tegeleb, ja kohandades seda teedeliikumise tüüpide ja naabruskondade järgi, mille läbi tema robotaksid sõidavad. Waymo keskendub konkreetsetele õnnetussagedustele – näiteks sellistele, kus aktiveerusid turvamoodulid või sai tõsiseid vigastusi – nii oma autode kui ka inimsõiduautode puhul samades piirkondades.

„Me peame keelekasutusega väga ettevaatlikud olema”, ütles Waymo ohutusteadlane John Scanlon. „Sul on vaja väga täpseid uurimisküsimusi ja väga täpseid järeldusi.”

Waymo viitab ka oma andmete puudustele ja koostöös väliseid teadlasi avaldab oma ohutusstatistikat kaasautorite poolt läbi vaadatud teadusajakirjades. Tesla, vastupidi, ei otsi ühtegi kaasautorite poolt läbi vaadatud teaduslikku hindamist ja avaldab ainult üldisi statistilisi ohutusväiteid, säilitades oma alusõnnetusandmed Tesla autodel saladusena.

Videod Tesladest, mis põrkuvad koertega, kassidega ja hiirtega

Siseselt saavad Tesla andmesildistajad otsest pilgu FSD ohutusele. Kolm endist töötajat kirjeldas mitmeid videoid, kus Teslad ei tuvastanud loomi ja põrkusid nendega kiirusel – ilma pidurdamata.

Viis endist töötajat ütles, et kindlad tiimid keskendusid FSD probleemidele koolibusside tuvastamisel. Seda on tõstatanud tehnoloogiaohutusgrupp Dawn Project, kes esitas 2023. ja 2024. aasta Super Bowl’i ajal reklaame, kus näidati videoid FSD-ga varustatud Tesladest, mis ei peatunud peatumismärgi ja vilkuvate tuledega busside ees.

Kaks endist töötajat ütlesid, et nad olid näinud sarnaseid videoklippe Tesla sees.

Viis endist andmesildistajat kirjeldas kiiret ja segaduses olevat töökeskkonda, kus prioriteedid muutusid Musk ja FSD-insenerite juhiste järgi. Andmesildistamise üksus kannatas kroonilise töötajavahetuse all monotoonsa töö ja üldiselt madala palgatase tõttu, ütlesid nad.

Tesla kõrgemad ametnikud käivitasid sageli uusi projekte reageerides uudisteartiklitele või sotsiaalmeedia postitustele, kus FSD tegi vigu, ütlesid neli endist töötajat. Üks neist kirjeldas tegevust, mille eesmärk oli lahendada, kuidas päikesevalgus võib häirida autode väliste kaamerate tööd. Seda põhjustas sotsiaalmeedia video, kus valgus, mis peegeldus passiivis olevast kellast, pimedas ühte kaameratest ja lõpetas FSD töö. Teine tegevus raudteeülekäikude kohta järgnes uudisteartiklitele FSD-ga sõitvate Teslade kohta, kes ei peatunud raudteeülekäikudel.

FSD klippides ilmnesid regulaarselt ka üleliialised kiirused, ütlesid viis töötajat, millele insenerid ja teised ülemad suhtusid kui madala prioriteediga probleemi.

Üks töötaja ütles, et sildistajad nägid Teslaid, kes ületasid kiiruspiiri 20–30 miili tunnis pärast seda, kui autotootja tutvustas FSD „Mad Max” režiimi, mis võimaldas agressiivsemat sõitmist. Teine sildistaja teatas, et nägi FSD-ga juhitavat autot, mis sõitis 60 miili tunnis 25 miili tunnis piiratud piirkonnas.

Avalikud robotaksidemonstratsioonid

Nähes FSD treenimisega seotud raskusi, kihutas Musk Tesla isejuhtimisvõimet October 2024 Warner Bros. stuudios Los Angelese ääres, kus toimus silmapaistev robotaksi avamine. Kutse saanud publik aplodeeris, kui Musk viitas umbes 20 kaheksa uksega „Cybercab” prototüübile, millel pole juhihooba ega jalapedaali ja mis liikusid ringi stuudios.

„Autod lihtsalt lähevad mööda, ilma inimesteta”, ütles ta.

Musk on öelnud, et Tesla tarkvara on mõeldud igal pool töötama ja suudab navigeerida tundmatutes paikades reaalajas. Kuid Cybercab-i sündmuseni järgnenud nädalad tegid töötajad prototüüpe iga öö 18.00–varajase homse kuni testides marsruuti, mida autod sündmusel läbisid, kahel endiselt andmesildistajal. Sildistajad kulutasid sadu tunde videote annotatsioonile, et tähistada kergteid ja teemärke, et vältida emotsionaalselt ebamugavaid juhtumeid, ütlesid töötajad.

Waymo teeb sellist kaardistamist suuremas mahus enne konkreetsetesse linnadesse käivitumist – lähenemine, mida Musk on korduvalt kritiseerinud kui liiga kallist ja aeglast. Musk nimetas 2024. aastal Waymo „väga piiratud lahendusi” „väga haavatavateks”.

Pärast Warner Bros. sündmust teatas Musk jaanuaris 2025 toimunud tuluaruandluskõnes, et Tesla käivitab robotaksid Austinis juunis 2025. Ta rõhutas tehnoloogiat „üldistatud AI-lahendusena”, millel ei ole vaja „kõrgtäpsuse kaarte konkreetses piirkonnas”.

Agar aga Austinis käivitumise eelnevatel kuudel filmis Tesla intensiivselt piiratud robotaksi tsoonis olevaid objekte, et kaardistada ala – sealhulgas semaforid, teemärgid ja muud objektid. Andmesildistajad annotatsioonisid seda videot, et tagada, et tarkvara suudaks hakkama keerukate stsenaariumidega, sealhulgas reisijate vastuvõtuga ja hädaabi sõidukitele reageerimisega, ütlesid kaks töötajat, kes sellest küsimusest otseselt teadsid.

Utahi andmesildistamise personal kahekordistus kolme kuu jooksul enne Austinis käivitumist ligikaudu 300 töötajani. Nad ütlesid, et osakond tegutses peamiselt projektidel, et tagada kontrollitud Austinis testimine õnnestuks.

Nähes andmesildistajad rolli ettevalmistustes, oli tarkvara endiselt ebaühtlane, ütlesid kaks töötajat. Iga FSD uuendusega paranesid mõned sõidumärgid. Teised halvenesid. Utahi kontoris kuvati kahte suurt ekraani, kus kuvati statistikat FSD juhtimisvahemaadest – oluline autonoomse sõidu ohutusmõõde.

„See tõusis ja langes aktsiaturul,” ütles üks endisest töötajast, ilma et oleks olnud ühtlast paranevat trendi.

Autod läksid tänavale kahe komplekti inimsõltuvate ohutusjälgijatega, kes olid valmis võtma kontrolli: üks istus esisõitjakojas ja teised jälgisid kaugelt. Utahis nägid sildistajad videotes, kui kaugelt jälgijad võtsid autod üle. Üks endine töötaja ütles, et Austinis marsruudid olid kujundatud piiratud alale, et autode tarkvara saaks põhjalikult õppida kindlate tänavate eriti keerukaid manöövreid.

„See oli nagu ‚OK, me õpetasime autot‘ töötama piiratud tsoonis”, ütles ta. „Sa ei saa väljaspool seda kreatiivseks.”

Neli allikat ütlesid, et ohutu laiendamine võib võtta aastaid. Juulis, üks kuu pärast Austinis robotaksid käivitumist, prognoosis Musk, et teenus jõuab 2025. aasta lõpuks Ameerika Ühendriikide rahvastuse poolele.

Jaanuaris väitis Musk valesti, et Tesla toimib Austinis ja San Francisco Bay Area’s 500 „robotaksiautoga”, lisades, et see arv „kahekordistub iga kuu” „eksponentsiaalse kõvera” järgi. Musk on öelnud, et Tesla toimib Bay Area’s „robotaksiteenusega”, kuigi tegelikult toimib seal ainult riikliku luba alusel takso teenus, mida tavaliselt kasutavad šooföörid ja mis nõuab inimsõitjat.

Tegelikult toimib Tesla Austinis ligikaudu aasta pärast käivitumist ikka ainult umbes 50 robotaksiga, kinnitas hiljutine linnaametnike esitlus. Autod liikuvad piiratud ja hoolikalt kaardistatud tsoonis, ütlesid kolm allikat. Mõnel autol on endiselt esisõitjakojas inimsõltuv ohutusjälgija, mille kinnitas hiljuti Reutersi reporteri hiljutine vaatlus.

Aprillis teatas Tesla, et käivitab robotaksid Dallasis ja Houstonis, lisades kaardid, kus näidati teenindatavaid alasid.

Reutersi reporterid, kes hiljuti teenust mõlemas linnas testisid, leidsid pikkade ootusaegade ja ebakorrapärase kättesaadavuse. Kolmel korral, kui reporter Dallasis ikkagi sai sõitu, ei jätnud robotaksi teda tema linna keskmes asuvas sihtkohas, mis oli Tesla reklaamitud teeninduspiirkonnas.

Igal korral jäi ta umbes 15-minutilise jalutamise kaugusel. – Rappler.com