Obrovské odvolání Tesly ztíží – ale ne nemožné – zneužití Autopilota

Tesla dnes vydala oznámení o stažení 2 milionů vozidel v USA, aby řešila „defekt“ Autopilota, průkopnického a kontroverzního pokročilého asistenčního systému společnosti. Bezpečnostní experti tvrdí, že stažení z oběhu pravděpodobně ztíží zneužití Autopilota.

Těžší, ale ne nemožné.

„Je to pokrok,“ řekla Mary „Missy“ Cummingsová, expertka na robotiku, která v roce 2020 napsala článek hodnotící rizika systému Autopilot společnosti Tesla, „ale minimální pokrok.“

Cummings uvedl, že Národní úřad pro bezpečnost silničního provozu promeškal příležitost přinutit společnost, aby řešila obavy majitelů Tesly pomocí Autopilota na silnicích, kde to nemělo fungovat. Minulý týden, Washington Post zveřejnila vyšetřování spojující nejméně osm smrtelných nebo vážných nehod s řidiči Tesly, kteří používali Autopilota na silnicích, které nedokázali „spolehlivě navigovat“.

Podle odvolání vydá Tesla aktualizaci softwaru pro přibližně 2 miliony aut v USA – téměř každé vozidlo, které kdy v zemi prodala –, která zvýší počet varování a upozornění, když řidiči nedávají pozor.

Autopilot, který je standardem ve všech vozidlech Tesla, v sobě spojuje řadu funkcí včetně tempomatu a automatického řízení, které je určeno k použití pouze na dálnicích s omezeným přístupem, pokud nefunguje v tandemu se sofistikovanějším automatickým řízením ve městě. Ulice.

Podle odvolání by aktualizace softwaru měla vyřešit obavy týkající se používání systému Autosteer na silnicích, kde nemělo fungovat.

Foto: Justin Sullivan / Getty Images

„Pokud se řidič pokusí zapnout automatické řízení, když nejsou splněny podmínky pro zařazení, tato funkce řidiče upozorní, že je nedostupná, prostřednictvím vizuálních a zvukových výstrah a automatické řízení se nezapojí,“ uvádí dokument o stažení.

Tesla také rozšiřuje svůj systém „tři údery a jste venku“ tak, aby poprvé zahrnoval Autopilota. Dříve byli řidiči s dražší a rozsáhlejší funkcí Full Self-Driving vyřazeni ze systému, pokud nedávali pozor na vozovku. Nyní bude tato funkce zahrnovat i uživatele Autopilota. Podle odvolání budou řidiči čelit „případnému pozastavení používání funkce Autosteer, pokud řidič opakovaně neprokáže trvalou a trvalou odpovědnost za řízení, když je tato funkce zapnuta“.

Ale Cummings, který sloužil rok jako hlavní poradce pro bezpečnost v NHTSA, není přesvědčen, že to bude stačit k tomu, aby se předešlo budoucím incidentům. “Je to velmi nejasné,” řekla.

Je to pravděpodobně proto, že stažení bylo výsledkem dvouletého vyjednávání mezi NHTSA a Teslou, řekl Phil Koopman, profesor elektrického a počítačového inženýrství na Carnegie Mellon University, který studuje bezpečnost autonomních vozidel. Společnost se neztotožnila se zjištěními agentury, ale nakonec souhlasila s vydáním stažení – což naznačuje, že některé důležité prvky mohly být vynechány mimo oblast působnosti stahování.

“Toto má všechny znaky kompromisu, abychom dosáhli nápravy a vyhnuli se dalšímu roku vyjednávání mezi NHTSA a Teslou,” řekl. “Náprava tedy pravděpodobně nebude tak silná, jak by NHTSA chtěla vidět.”

“Toto má všechny znaky kompromisu, aby bylo možné dosáhnout nápravy”

Cummings souhlasí. “Tesla se pravděpodobně bránila,” řekla. “NHTSA velmi chce, aby stahování bylo dobrovolné, takže to Tesla pravděpodobně použila jako vyjednávací čip.”

Samozřejmě, že kvůli povaze samotného stažení to někteří bezpečnostní experti označují za obrovskou promarněnou příležitost. Umožnění společnosti Tesla prosadit bezdrátovou aktualizaci softwaru ignoruje mnoho strukturálních defektů s Autopilotem, řekl Sam Abuelsamid, hlavní výzkumný analytik společnosti Guidehouse Insights.

Systém monitorování řidiče od Tesly, který zahrnuje snímače točivého momentu na volantu pro detekci polohy rukou a kameru v kabině pro sledování pohybů hlavy, je nedostatečný a lze jej snadno oklamat, řekl Abuelsamid. Snímače točivého momentu jsou náchylné k falešným pozitivům, jako když se řidiči snaží oklamat systém přidáním závaží na volant, které působí proti automatickým pohybům, a falešným záporům, jako když kolo nedokáže detekovat ruce řidiče, pokud jej drží. stabilní.

Mezitím kamera, která se začala používat pouze pro monitorování řidičů Autopilot v roce 2021, nefunguje za špatných světelných podmínek, poznamenal. Jiné automobilky používají infračervené senzory, které dokážou detekovat hloubku a pracovat za špatných světelných podmínek. Spotřebitelské zprávy nedávno prokázal, že kamery Tesly mohly být oklamány, aby si myslely, že někdo na sedadle řidiče je, když tam nebyl.

“Tohle mohlo být zcela jiné,” řekl Abuelsamid. „NHTSA by mohla udělat svou práci a skutečně donutit Teslu, aby provedla stažení a nainstalovala robustní monitorování očí a rukou řidiče a skutečné geofencing systému nebo úplně deaktivovala Autosteer, pokud nemohou provést aktualizaci hardwaru.“

“NHTSA neustále upouští míč, pokud jde o Teslu,” dodal. “Bohužel, vzhledem k historii agentury při jednání s Teslou to byl pravděpodobně ten nejlepší případ.”

Leave a Reply

Your email address will not be published. Required fields are marked *