Uber публикува първите резултати от вътрешното разследване на смъртоносното пътнотранспортно произшествие, при което на 18 март автономен кросоувър на компанията за споделено пътуване прегази и уби пешеходка в гр. Темпи, щата Аризона. Инцидентът привлече общественото внимание, тъй като е първият документиран случай на смърт в катастрофа с безпилотен автомобил.
Данните от паметта на бордовата електроника показват, че изкуственият интелект е идентифицирал безпогрешно човека на пътното платно, но въпреки това е взел решение да игнорира опасността. Водачът-изпитател Рафаела Васкес (първоначално името бе обявено като Рафаел, но се оказва, че от Uber са наели транссексуален мъж, който вече е жена) пък изобщо не е успяла да реагира.
От видеозаписите става ясно, че по време на фаталния инцидент жертвата Илейн Хърцбърг е пресичала платното на непозволено място, бутайки велосипеда си, а Рафаела се е вторачила в телефона си. Според разследващите обаче събитията се случват толкова бързо, че дори и опитен шофьор с отлични реакции надали би могъл да спре навреме - Илейн се появява пред тестовото Volvo XC90 внезапно от сенките.
От Uber отбелязват, че в поведенческите алгоритми на изкуствения интелект, който управлява автономните коли, са заложени сценарии за игнориране на мними опасности като петна на пътното платно, летящи найлонови торбички, падащи листа и т.н. Системата обаче е разпознала жертвата като човек и въпреки това не е предприела нищо, за да избегне фаталния сблъсък.
Дали инцидентът е резултат от грешки в алгоритъма, саботаж или друг пропуск ще се изяснява тепърва. Управляващият софтуер на автономните автомобили се самообучава и коригира заложените поведенчески сценарии, като "опитът" на отделните тестови коли се обединява в обща база данни и се актуализира във всяка от тях.