Uber публикува първите резултати от вътрешното разследване на смъртоносното пътнотранспортно произшествие, при което на 18 март автономен кросоувър на компанията за споделено пътуване прегази и уби пешеходка в гр. Темпи, щата Аризона. Инцидентът привлече общественото внимание, тъй като е първият документиран случай на смърт в катастрофа с безпилотен автомобил.
Данните от паметта на бордовата електроника показват, че изкуственият интелект е идентифицирал безпогрешно човека на пътното платно, но въпреки това е взел решение да игнорира опасността. Водачът-изпитател Рафаела Васкес (първоначално името бе обявено като Рафаел, но се оказва, че от Uber са наели транссексуален мъж, който вече е жена) пък изобщо не е успяла да реагира.
От видеозаписите става ясно, че по време на фаталния инцидент жертвата Илейн Хърцбърг е пресичала платното на непозволено място, бутайки велосипеда си, а Рафаела се е вторачила в телефона си. Според разследващите обаче събитията се случват толкова бързо, че дори и опитен шофьор с отлични реакции надали би могъл да спре навреме - Илейн се появява пред тестовото Volvo XC90 внезапно от сенките.
От Uber отбелязват, че в поведенческите алгоритми на изкуствения интелект, който управлява автономните коли, са заложени сценарии за игнориране на мними опасности като петна на пътното платно, летящи найлонови торбички, падащи листа и т.н. Системата обаче е разпознала жертвата като човек и въпреки това не е предприела нищо, за да избегне фаталния сблъсък.
Дали инцидентът е резултат от грешки в алгоритъма, саботаж или друг пропуск ще се изяснява тепърва. Управляващият софтуер на автономните автомобили се самообучава и коригира заложените поведенчески сценарии, като "опитът" на отделните тестови коли се обединява в обща база данни и се актуализира във всяка от тях.
Напиши коментар:
КОМЕНТАРИ КЪМ СТАТИЯТА
1 Бил Гейтс
17:18 08.05.2018
2 иван
17:28 08.05.2018
3 Driving pleasure
НИКОГА НЕ СЕ ДОВЕРЯВАЙ НА ДЖЕНДЪТ И НА ИЗКУСТВЕН СМОТАНЯК!
Карайте си колите бе пичове! А ако ви мързи се возете на обществения транспорт!
17:37 08.05.2018
4 Язък Язимов
17:46 08.05.2018
5 незнайко
Коментиран от #6
17:47 08.05.2018
6 Driving pleasure
До коментар #5 от "незнайко":
има обаче една друга далавера - закона (поне в БГ) ти казва, че ти като шофьор си длъжен да съобразиш скоростта си и ако не се вижда като в случая да караш по-бавно...Обаче това нещо за педровците с изкуствените нтелекти явно не важи... тепърва ще гледаме подобни безумни катастрофи щото следващия път може едно птиче да се изцвъка на обектива на камерата или лазера и не пешеходец ми и осветен тир няма да види тая простотия .
17:51 08.05.2018
7 Име (като гост)
18:22 08.05.2018
8 Комшу
Защо не кандидатстваш за консултант ?
Коментиран от #10
18:27 08.05.2018
9 ловджия
18:40 08.05.2018
10 Driving pleasure
До коментар #8 от "Комшу":
на какво консултант бе човек?! тая простотия трябва да се забрани преди да стане масова и да почнат да умират хора!електрониката е крайно ненадежнда а в същото време вниманието на "шофиращия" и уменията му падат защото се доверява на системата - примера ти е пред очите. тъпото педи е чакало системата да направи нещо и му е било все тая, а системата е познала без да реагира.
ИИ може да умее да обработва огромни обеми данни, но той няма креативността нито пък възможността да оцени нова ситуация и да вземе решене за нея - просто няма как да замести човешкия мозък и само безмозъчни могат да се кефят на автономното шофиране!
18:44 08.05.2018
11 Dido
Коментиран от #21
19:44 08.05.2018
12 РЗС
19:47 08.05.2018
13 Къртев
20:12 08.05.2018
14 Бат Герги
20:18 08.05.2018
15 Николай
Този ситуация би трябвало да е достатъчен повод да се обяви всяка последваща работа по ИЕ за престъпна и да се преследва от закона по всеки възможен начин.
20:52 08.05.2018
16 Дългоиме
Ако спрат- добре.
Ако не- здраве да е.
21:43 08.05.2018
17 Скайнет
П.С. Ако си мислите, че някакъв джендър може да ме спре...
22:31 08.05.2018
18 Някой си
07:20 09.05.2018
19 ПакСЪмТук
ИСТИНСКАТА ПРИЧИНА ЗА НЕПРЕДВИДИМОТО ПОВЕДЕНИЕ НА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ Е НЕПРЕДВИДИМОТО ПОВЕДЕНИЕ НА ЕСТЕСТВЕНИЯ ИНТЕЛЕКТ, КОЙТО ГО Е СЪЗДАЛ !
Ако си достатъчно умен да не правиш това в което ще си "счупиш главата" , значи - ще оцелееш!
В природата това се нарича естествен подбор!
Което става е живо , което не става - не оцелява!
09:07 09.05.2018
20 Morgoth
09:10 09.05.2018
21 Morgoth
До коментар #11 от "Dido":
Изкуственият интелект ще има това което е програмиран да има, а то зависи от пазара и от законите. Естествено, че никой няма да иска да си купи кола, която би избрала да спаси неправилно пресичащ пешеходец за сметка на живота на собственика и неговото семейство, но пък за това са законите - за да създадат балансиран стандарт и да задължат производителите да го спазват.Коментиран от #25
09:13 09.05.2018
22 3463636
09:45 09.05.2018
23 ьцжб
09:50 09.05.2018
24 Да да
10:42 09.05.2018
25 Dido
До коментар #21 от "Morgoth":
Много е лесно да говориш на теория!Но на практика, ако не дай боже, това се случи на твой близък, да го смаже кола управляване от копютър, който е решил,че е по-безопастно за шофьора колата да прегази човек, вместо да излезе от пътя.Тогава няма да си толкова забит в буквата на закона, нали?!?!11:47 09.05.2018
26 Христо
Купуваш си автономен автомобил, прегазва човек... кол ще съдят? Автономния автомобил или собственика му?
Искуствения интелект трябва да се ограничи до там, че да има контрол единствено над спирането и да се задейства ако водача трябва да спре, а не го направи! Всички други контролни функции като ускорение, изменение на посока... трябва да се контролират от човешко същество, не от чип. Тея изгъзици за тотална автономия са рискови. Колите са постоянно свързани в мрежата и какво правим ако в същата мрежа попадне зловреден софтуер - масови убийства!
11:47 09.05.2018
27 Нещата са такива
12:32 09.05.2018
28 fgderr
Катаджия спира пиян шофьор, и го пита:
-Господине, защо шофирате пиян?
Шофьора се оглежда и смаяно пита:
-Ама аз ли карам?
....до къде го докарахме...
13:30 09.05.2018
29 Гадина
16:50 31.07.2018