Trovo significativo il commento del guidatore:
"Di solito [autopilot] è più prudente di quanto sarei io alla guida"
Che è la ragione per cui questi dispositivi di assistenza sono pericolosi. Perché, senza preavviso, sbagliano in situazioni che per un essere umano sono talmente ovvie da non pensarci neanche.
In qualche modo ricalca quanto succede con gli LLM: la maggior parte delle volte funziona bene, ma quando non funziona è difficile capirlo. Se non finisce contro un treno