În spatele cortinei: statisticile umflate ale Tesla și demonstrațiile de competență AI

A doua parte din două
Partea întâi

În timp ce angajații Tesla urmăreau videoclipuri cu greșelile FSD, consiliul de administrație și directorul executiv al companiei și-au intensificat afirmațiile privind siguranța tehnologiei și disponibilitatea acesteia pentru autonomie deplină. Cea mai mare parte a anului trecut, liderii Tesla au promovat afirmația că sistemul este de 10 ori mai sigur.

„Un mașini cu FSD care este de 10 ori mai sigură" va stimula vânzările, a declarat directorul financiar al Tesla, Taneja, într-un apel pentru investitori din iulie. „Chiar și la 99 de dolari pe lună, este ca și cum ai obține un șofer personal pentru aproape 3,33 dolari pe zi."

O problemă cheie cu metodologia Tesla provine dintr-o eroare de comparație care a umflat nivelul de siguranță revendicat de Tesla de trei ori. Producătorul auto a numărat accidentele Tesla cu declanșarea airbag-urilor și le-a comparat cu datele federale privind toate accidentele în care o mașină de remorcare a fost utilizată — un criteriu mult mai puțin restrictiv. Accidentele care necesită mașini de remorcare adesea nu sunt suficient de grave pentru a declanșa airbag-urile.

Tesla a adoptat această abordare de comparare a merelor cu perele, chiar dacă merele erau disponibile pentru comparație: datele federale utilizate includeau accidente în care s-au declanșat airbag-urile. Această metodologie defectuoasă a produs concluzia că Tesla-urile care folosesc FSD sau Autopilot parcurg distanțe de 10 ori mai mari între accidente față de șoferul uman mediu.

Comparația mai validă — utilizând accidente cu airbag-uri declanșate atât pentru Tesla, cât și pentru toate celelalte mașini — arată că Tesla-urile care folosesc sistemele de asistență la conducere parcurg de aproximativ trei ori mai mult între accidentele cu airbag-uri declanșate, potrivit unei analize efectuate pentru Reuters de Marco Benedetti, cercetător asistent la Institutul de Cercetare în Transporturi al Universității Michigan și fost statistician NHTSA. Alți doi cercetători în domeniul siguranței rutiere au verificat calculele lui Benedetti și au fost de acord cu concluziile.

Dar asta nu înseamnă că FSD este de fapt de trei ori mai sigur decât șoferul mediu, a spus Benedetti, din cauza mai multor alte deficiențe în metodologia Tesla.

Tesla și-a ajustat abordarea în noiembrie pentru a include doar datele vehiculelor care utilizează FSD și a le exclude pe cele cu Autopilot. Includerea Autopilot crescuse kilometrajul revendicat de Tesla între accidente, deoarece este un sistem mai puțin sofisticat destinat exclusiv autostrăzilor — unde mașinile acumulează kilometri și se accidentează mult mai rar decât pe străzile urbane. Compania, totuși, continuă să folosească comparația defectuoasă a accidentelor cu airbag-uri pe site-ul său web pentru a susține că FSD este de șapte ori mai sigur decât șoferul uman mediu, sau cu aproximativ 85% mai sigur exprimat ca modificare procentuală.

Mai multe alte măsurători defectuoase utilizate de Tesla aruncă îndoieli asupra faptului că FSD este deloc mai sigur, a constatat Reuters.

Producătorul auto, de exemplu, nu ia în considerare vârsta vehiculului atunci când compară rata accidentelor pentru mașinile sale cu rata națională. Tesla compară vehiculele sale — cu o vârstă medie de doar 4,1 ani, conform datelor S&P Global Mobility — cu toate vehiculele din SUA, care au o vârstă medie de 12,8 ani. Acest lucru denaturează rezultatele, au declarat 10 cercetători în domeniul siguranței pentru Reuters, deoarece aproape toți producătorii auto au început mai recent să ofere funcții de siguranță revoluționare, inclusiv monitorizarea unghiului mort și frânarea automată de urgență, pe întreaga lor gamă de modele.

Tesla reduce, de asemenea, numărul accidentelor înregistrate, numărând doar accidentele care au loc fie cu FSD activat, fie în termen de cinci secunde de la dezactivarea funcției. Guvernul SUA, prin contrast, solicită producătorilor auto să raporteze accidentele survenite în termen de 30 de secunde de la dezactivarea unui sistem avansat de asistență la conducere.

Tesla afirmă că FSD ar putea salva mai mult de 32.000 de vieți și preveni mai mult de 1,9 milioane de răniți anual. Unii cercetători în domeniul siguranței rutiere au calificat aceste cifre drept lipsite de sens, deoarece se bazează pe presupunerea nerealistă că fiecare vehicul american, inclusiv camioanele de marfă și motocicletele predispuse la accidente, ar fi înlocuit de un Tesla cu FSD — și că fiecare Tesla este, de fapt, de cel puțin șapte ori mai sigur decât cel pe care îl înlocuiește.

Abordarea mai riguroasă a Waymo

Premisa statisticilor de siguranță ale Tesla este, de asemenea, defectuoasă, deoarece FSD nu este un sistem cu adevărat autonom, au declarat 10 cercetători în domeniul siguranței rutiere. Tesla nu compară tehnologia sa cu șoferii umani, așa cum susțin directorii. În schimb, producătorul auto compară șoferul uman mediu cu un alt om mediu — unul care conduce un Tesla folosind FSD. Tesla nu reușește, de asemenea, să ia în considerare că acești șoferi pot activa și dezactiva FSD — iar cercetările arată că șoferii evită adesea utilizarea sistemelor avansate de asistență la conducere în situații de trafic complicate în care tehnologia li se pare nesigură. Chiar datele Tesla arată că FSD este utilizat mai ales pe autostrăzi.

Waymo de la Alphabet, prin contrast, compară robotaxi-urile sale complet fără șofer, acum implementate în 11 zone metropolitane din SUA, cu vehiculele conduse de oameni în condiții similare.

Waymo adoptă o abordare mai riguroasă decât Tesla, examinând datele despre accidente în piețele unde operează și ajustând în funcție de tipurile de drumuri și cartiere pe care le traversează robotaxi-urile. Waymo se concentrează pe rate specifice de accidente — cum ar fi cele cu declanșarea airbag-urilor sau cu răniți grav — atât pentru mașinile sale, cât și pentru mașinile conduse de oameni în aceleași piețe.

„Trebuie să fim foarte atenți cu limbajul pe care îl folosim", a declarat John Scanlon, cercetător în domeniul siguranței la Waymo. „Ai nevoie de întrebări de cercetare foarte specifice și de concluzii foarte specifice."

Waymo subliniază, de asemenea, deficiențele din datele sale și colaborează cu cercetători externi pentru a publica statisticile de siguranță în reviste cu recenzie inter pares. Tesla, prin contrast, nu solicită nicio recenzie inter pares și publică doar afirmații statistice de siguranță de nivel superior, păstrând secrete datele subiacente privind accidentele mașinilor Tesla.

Videoclipuri cu Tesla-uri lovind câini, pisici și cerbi

În interiorul Tesla, etichetatorii de date au o vedere nefardată asupra siguranței FSD. Trei foști angajați au descris mai multe videoclipuri care arată Tesla-uri nerecunoscând animalele și lovindu-le în viteză — fără a frâna.

Cinci foști angajați au spus că anumite echipe s-au concentrat pe problemele FSD legate de recunoașterea autobuzelor școlare. Aceasta este o preocupare ridicată de un grup de siguranță tehnologică numit Dawn Project, care a difuzat reclame în timpul Super Bowl-urilor din 2023 și 2024, arătând videoclipuri cu Tesla-uri cu FSD activat care nu reușeau să oprească pentru autobuze cu semne de oprire și lumini intermitente.

Doi foști angajați au spus că au văzut clipuri video similare în interiorul Tesla.

Cinci foști etichetatori de date au descris un mediu de lucru agitat și dezorganizat, cu priorități care se schimbau în funcție de directivele de la Musk și inginerii FSD. Unitatea de etichetare a datelor s-a confruntat cu o fluctuație cronică de personal din cauza muncii monotone și a salariilor în general mici, au spus aceștia.

Superiorii Tesla lansau adesea proiecte noi ca reacție la rapoarte de știri sau postări pe rețelele sociale care arătau FSD făcând greșeli, au spus patru foști angajați. Unul a descris un efort de a aborda modul în care lumina soarelui putea obstrucționa camerele exterioare ale mașinilor. Acesta a fost declanșat de un videoclip de pe rețelele sociale care arăta cum lumina reflectată de ceasul unui pasager a orbit una dintre camere, oprind FSD. Un alt efort privind trecerile de cale ferată a urmat rapoartelor de știri despre Tesla-uri conduse de FSD care nu reușeau să oprească la acestea.

Clipurile FSD arătau, de asemenea, în mod regulat depășiri ale vitezei, au spus cinci dintre angajați, pe care inginerii și alții din lanțul de comandă le tratau ca pe o problemă de prioritate scăzută.

Un angajat a spus că etichetatorii vedeau Tesla-uri depășind în mod regulat limitele de viteză cu 20 până la 30 de mile pe oră după ce producătorul auto a introdus un mod FSD „Mad Max" care permitea o conducere mai agresivă. Un alt etichetator a raportat că a văzut un vehicul pilotat de FSD circulând cu 60 mph într-o zonă cu limita de 25 mph.

Demonstrații publice de robotaxi

În timp ce angajații Tesla se luptau să antreneze FSD, Musk a promovat capacitățile de conducere autonomă ale Tesla în octombrie 2024 la o lansare spectaculoasă a robotaxi-ului pe terenul studioului Warner Bros. din apropierea Los Angeles-ului. Publicul invitat a aclamat în timp ce Musk a arătat aproximativ 20 de prototipuri ale „Cybercab"-ului cu două uși, care nu are volan sau pedale, circulând prin studio.

„Mașinile trec pur și simplu, fără oameni", a spus el.

Musk a spus că software-ul Tesla este conceput să funcționeze oriunde, navigând în timp real prin peisaje necunoscute. Dar cu săptămâni înainte de evenimentul Cybercab, personalul a testat prototipurile în fiecare noapte de la ora 18:00 până la răsărit, colectând videoclipuri ale traseului pe care mașinile l-ar urma la lansare, conform a doi foști angajați din domeniul etichetării datelor. Etichetatorii au petrecut sute de ore adnotând borduri și marcaje rutiere pe videoclip pentru a preveni incidente jenante, au spus angajații.

Waymo realizează o astfel de cartografiere la scară largă înainte de a lansa în orașe specifice — o abordare pe care Musk a respins-o în mod repetat ca fiind prea costisitoare și lentă. Musk a ridiculizat în 2024 „soluțiile foarte localizate" ale Waymo ca fiind „destul de fragile".

După evenimentul Warner Bros., Musk a declarat la un apel pentru investitori din ianuarie 2025 că Tesla va lansa robotaxi-uri în iunie 2025 în Austin. El a promovat tehnologia ca o „soluție AI generalizată" care nu necesita „hărți de înaltă precizie ale unei localități".

Cu luni înainte de lansarea în Austin, totuși, Tesla a filmat extensiv caracteristici într-o zonă limitată de robotaxi pentru a cartografia zona, captând semafoare, indicatoare rutiere și alte elemente. Etichetatorii de date au adnotat acel videoclip pentru a se asigura că software-ul poate gestiona scenarii dificile, inclusiv preluarea pasagerilor și reacția la vehiculele de urgență, conform a doi angajați cu cunoștințe directe despre subiect.

Personalul de etichetare a datelor din Utah, au spus trei dintre angajați, s-a dublat în cele șase luni dinaintea lansării în Austin, ajungând la aproximativ 300 de lucrători. Departamentul, au spus aceștia, a lucrat în principal la proiecte pentru ca testul Austin controlat cu atenție să decurgă fără probleme.

Pe măsură ce etichetatorii de date Tesla se pregăteau pentru lansare, software-ul era în continuare erratic, au spus doi dintre angajați. Cu fiecare actualizare FSD, unele comportamente de conducere s-au îmbunătățit. Altele s-au înrăutățit. În biroul din Utah, două ecrane mari afișau statistici privind kilometrajul între intervențiile șoferilor pentru FSD — o valoare cheie de siguranță pentru conducerea autonomă.

„Urca și cobora ca piața de valori" fără nicio îmbunătățire constantă, a spus unul dintre foștii angajați.

Vehiculele au ieșit pe străzi cu două seturi de monitoare umane de siguranță disponibile pentru a prelua controlul: unul așezat pe scaunul din față al pasagerului și alții urmărind de la distanță. În Utah, etichetatorii puteau vedea pe videoclipuri când monitoarele de la distanță preluau controlul vehiculelor. Un fost angajat a spus că traseele din Austin au fost concepute pentru o zonă limitată, astfel încât software-ul mașinilor să poată fi antrenat extensiv pe manevre specifice pe anumite străzi.

„A fost ca și cum, 'OK, am antrenat o mașină'" să opereze într-o zonă restricționată, a spus persoana. „Nu poți fi creativ în afara acelei zone."

Patru dintre surse au spus că extinderea în siguranță ar putea dura ani. În iulie, la o lună după lansarea robotaxi-ului în Austin, Musk a prezis că serviciul se va extinde pentru a deservi jumătate din populația SUA până la sfârșitul anului 2025.

În ianuarie, Musk a afirmat în mod fals că Tesla opera 500 de „vehicule robotaxi" în Austin și în zona Golfului San Francisco, adăugând că se așteaptă ca numărul să „se dubleze în fiecare lună" pe o „curbă exponențială". Musk a spus că Tesla operează un „serviciu de robotaxi" în zona Golfului, când de fapt operează doar un serviciu de transport la cerere în baza unui permis de stat, utilizat de obicei de șoferi angajați, care necesită un șofer uman.

În realitate, aproape un an după lansarea în Austin, Tesla operează în continuare doar aproximativ 50 de robotaxi-uri acolo, conform unei prezentări recente cu diapozitive a oficialilor orașului. Vehiculele traversează o zonă limitată și cartografiată cu atenție, au spus trei dintre surse. Unele au în continuare monitoare umane de siguranță pe scaunul din față al pasagerului, pe baza observațiilor recente ale unui reporter Reuters.

În aprilie, Tesla a anunțat că lansează robotaxi-uri în Dallas și Houston, împreună cu hărți care arătau zonele deservite.

Reporterii Reuters care au testat recent serviciul în ambele orașe au găsit timpi de așteptare lungi și disponibilitate eratică. În trei ocazii în care un reporter a reușit să ia o mașină în Dallas, robotaxi-ul nu l-a lăsat la destinația sa din centrul orașului, în cadrul zonei de servicii anunțate de Tesla.

De fiecare dată, l-a lăsat la aproximativ 15 minute de mers pe jos distanță. – Rappler.com