Najważniejsze rzeczy, które musisz wiedzieć
- Najnowsza wersja systemu FSD w wersji 14.3.6 próbowała skierować samochód w stronę rowu przy prędkości 110 km/h w idealnych warunkach jazdy, co wymagało interwencji kierowcy przy prędkości 102 km/h.
- „Niemalże idealna” wydajność systemu FSD na przestrzeni tysięcy kilometrów sprawia, że kierowcy nabierają nadmiernego zaufania, przez co tracą uwagę i wpadają w pułapkę nieoczekiwanej i zawstydzającej awarii.
- Tesla w swoich raportach nie rozróżnia między ulepszeniami oprogramowania a zaprzestaniem interwencji kierowcy w przypadku odłączenia się systemu; odnotowała 207 rekordowych wypadków spowodowanych systemami wspomagania kierowcy, podczas gdy system ten jest wciąż daleki od autonomicznej jazdy bez nadzoru.
System Full Self-Driving firmy Tesla w wersji v14.3.6 próbował zjechać z autostrady, którą mój samochód już minął, jadąc z prędkością 110 km/h (68 mph) i niemal zepchnął nas wprost do rowu.
Byłem gotowy przejąć kontrolę nad samochodem i tak zrobiłem, ale sytuacja była przerażająca. Mój przyjaciel, który siedział na miejscu pasażera, krzyczał ze strachu.
Co pokazuje kamera samochodowa
Do zdarzenia doszło w niedzielę wieczorem na autostradzie nr 55 w regionie Mauricie w prowincji Quebec, przy uruchomionym systemie FSD (Supervised) v14.3.6 — najnowszej i najlepszej wersji systemu FSD firmy Tesla na najnowszym sprzęcie.
Samochód jechał z prędkością 110 km/h prawym pasem. Nawierzchnia była sucha, ruch w obu kierunkach był utrudniony, oznakowanie drogi było nowoczesne i wyraźne, a znaki nad jezdnią odblaskowe. Warunki były idealne dla systemu FSD. Gdy przejeżdżaliśmy pod wiaduktem przy zjeździe 217, włączył się prawy kierunkowskaz, a samochód zaczął zjeżdżać na pobocze, podczas gdy na ekranie nadal wyświetlał się komunikat „Jazda autonomiczna”.
Problem polegał na tym, że stok zaczął się już za nami rozstępować. Skręcając tak późno z taką prędkością, wpadlibyśmy prosto w dziurę.
Odczyt prędkości spadł do 110, 109, 107 i 104 km/h, gdy samochód wykonywał manewr. W tym momencie chwyciłem kierownicę. Napis „Jazda autonomiczna” zniknął z ekranu przy 102 km/h.
Nie było to wahanie toru jazdy ani chwila zawahania. Samochód postanowił włączyć kierunkowskaz i skręcić w niedozwolonym miejscu.
Były to idealne warunki dla systemu FSD.
Gdybyś chciał zaprojektować najprostszy możliwy scenariusz dla Tesli, to właśnie on by się nadawał.
Droga dwujezdniowa. W nocy światła nadjeżdżających pojazdów i odblaski pasów ruchu są łatwo widoczne. Brak ruchu nie wymaga analizy. Wyraźne oznaczenia pasów ruchu. Duże, dobrze oświetlone znaki.
Biorąc pod uwagę wszystko, co widziałem w wersji 14, jazda po autostradach nocą i pustymi drogami to absolutna zaleta tego systemu . Przejechałem w ten sposób tysiące kilometrów bez dotykania czegokolwiek. Dlatego jestem tak pewny siebie. I ta pewność siebie to cała pułapka.
O tym konkretnym zagrożeniu pisałem w czerwcu.
Dwa i pół miesiąca temu opublikowałem artykuł, w którym twierdziłem, że system FSD v14 jest tak dobry, że nabrałem niebezpiecznej pewności siebie. Napisałem wtedy, że „system, który działa niemal idealnie, tworzy pułapkę – kierowcy ufają mu na tyle, by przestać zwracać na niego uwagę, a mimo to niespodziewanie, a czasem nawet krytycznie, zawodzi”.
Podtrzymuję każde swoje słowo, a niedzielny wieczór to udowodnił. Przejechanie kilku tysięcy mil między krytycznymi interwencjami to naprawdę imponujące osiągnięcie inżynierii. Ale to również czas, który uczy mózg, by przestał skanować i skupił się, sprawiając, że dwa razy się zastanowisz, zanim kupisz Teslę.
W notatkach do wydania Tesli w wersji 14.3.6 stwierdzono, że firma „opracowała fazę uczenia się przez wzmacnianie (RL) w celu wytrenowania sieci neuronowej systemu FSD”, przepisał interpreter sztucznej inteligencji (AI) za pomocą MLIR, aby osiągnąć „o 20% krótszy czas reakcji” oraz poprawiła reakcję pojazdu na degradację systemu, „zmniejszając liczbę niepotrzebnych przypadków odłączania się kierowcy od systemu”. Liczba przypadków odłączania się kierowcy od systemu maleje wraz z ulepszaniem oprogramowania, a także po zaprzestaniu ingerencji kierowcy. Tesla nie publikuje żadnych informacji, które pozwoliłyby osobom trzecim odróżnić te dwa czynniki.
Dostępne dane publiczne nie napawają optymizmem. Tesla zgłosiła do NHTSA rekordową liczbę 207 wypadków z udziałem autopilota i systemu wspomagania kierowcy (FSD) w ciągu jednego miesiąca, a 99.9% z 3,763 raportów o wypadkach z udziałem systemów wspomagania kierowcy od 2019 roku zostało pominiętych. Musk nadal zapewnia inwestorów, że nienadzorowany system FSD zostanie szeroko wdrożony w USA do końca roku, podczas gdy współprezes Waymo nadal wyjaśnia, dlaczego autonomiczna jazda oparta wyłącznie na kamerze nie spełnia wymagań prawdziwie autonomicznego systemu jazdy.
Opinia DzTecnium
Jedno zdarzenie, które niemal się wydarzyło, to tylko historia, a nie dane, ale myślę, że stanowi ono ważne przypomnienie o konieczności zachowania czujności.
Jak już wielokrotnie wspominałem, system FSD v14 Tesli to naprawdę imponujący produkt. Jednak nie dorównuje on temu, co FSD pierwotnie reklamowano: autonomicznej jeździe bez nadzoru. Jest daleki od tego i być może nigdy nie będzie. To pozostanie problemem i być może najgorszym błędem, jaki Tesla kiedykolwiek popełniła.
Jeśli jednak odłożymy to na bok i spojrzymy na FSD jako na system wspomagania kierowcy działający z punktu do punktu, to jest on naprawdę niesamowity.
Jednak ten olśniewający wyświetlacz rodzi samozadowolenie (obojętność). Tesla nie pomaga w tym, zwłaszcza z takimi stwierdzeniami prezesa Elona Muska, jak: „Możesz teraz patrzeć na swój telefon, kiedy go używasz”.
To ewidentnie lekkomyślne. W miarę udoskonalania systemu Tesla musi lepiej przekonywać kierowców, aby zwracali uwagę na ten problem samozadowolenia, a nie odwrotnie.
Możliwość dodawania komentarzy nie jest dostępna.