Systémy bez řidiče dnes umí držet jízdní pruh, projet křižovatkou a přesně spojovat data z různých senzorů – věci, které dříve patřily jen do výzkumných laboratoří. Současná úzká místa leží méně v oblasti řídicích algoritmů a více v oblasti sociální psychologie: lidé se zdráhají předat kontrolu softwaru, i když jeho chybovost je nižší než statistika nehod lidských řidičů.
Průlom v simultánní lokalizaci a mapování, senzorické fúzi a robustním řízení srazil technické selhání na zbytkové riziko. Nevyřešené zůstává to, co se odehrává v hlavě člověka: kognitivní zkreslení, vnímání rizika a křehkost důvěry v husté síti lidí, vozidel a softwaru. Jedno spektakulární selhání, zesílené sociálními sítěmi, dokáže přepsat subjektivní představu pravděpodobnosti způsobem, který bayesovské modely neumí zachytit.
Designéři dnes ladí rozhraní mezi člověkem a strojem stejně pečlivě jako odměňovací funkce u posilovaného učení. Zpětná vizuální vazba, stupňovaná míra autonomie a rychlost, s jakou lze převzít řízení, jsou stejně klíčové jako brzdná dráha. Inženýři diskutují, kolik „dohledu do útrob algoritmu“ mají uživatelům nabídnout, aby je nezaplavili informacemi, a řeší informační asymetrii i to, jak malé změny v prezentaci systému ovlivňují subjektivní pocit bezpečí. Pojišťovny a regulátoři se mezitím přou o rozdělení odpovědnosti v situaci, kdy je rozptýlená mezi vývojáře kódu, poskytovatele map a provozovatele flotil.
Technologie se řídit naučila. Společnost si ale teprve ujasňuje, kolik z volantu je ochotná pustit.
