Бивш шеф на отдел за автономни коли катастрофира със Tesla с активиран автопилот 

Технологичният свят не пропусна иронията в ситуация в която Рафи Крикориан – човекът, който някога ръководеше отдела за автономно шофиране на Uber – катастрофира със своята Tesla Model X, докато използваше системата за автономно шофиране (FSD). Крикориан описа подробно как рутинно завиване наляво в жилищен квартал завърши с това, че колата му се е блъснала в бетонна стена. Макар семейството му да се измъкна невредимо, инцидентът поднови критичния дебат за „зловещата долина“ на полуавтономното шофиране. Опитът на Крикориан подчертава феномен, който изследователите наричат „морална зона на деформация“. Подобно на физическата зона на деформация на колата, която е проектирана да абсорбира енергията от удара, човешкият шофьор в полуавтономна кола е позициониран да поеме правната и моралната отговорност, когато софтуерът се провали. Въпреки че системата изпълнява 99% от задачите по шофирането, човекът остава „официалният оператор“ – разграничение, което Tesla успешно е използвала, за да спечели множество съдебни дела. Същността на проблема не е просто софтуерен бъг, а фундаментален конфликт с човешката психология. Експертите наричат това „намаляване на бдителността“. Когато една система работи перфектно в продължение на месеци, както е било с FSD на Крикориан, човешкият мозък естествено започва да се отпуска. Колкото по-добра става технологията, толкова повече шофьорът ѝ се доверява. Това води до опасна среда, в която колата е достатъчно добра, за да накара шофьора да спре активно да „кара“, но не е достатъчно добра, за да се справи с 1% от крайните случаи, които водят до инциденти. Човешката биология просто не е пригодена ?