8 Май, 2018 17:13 10 157 29

Автопилотът на Uber разпознал пешеходката, но въпреки това не спрял

  • uber-
  • volvo-
  • xc90-
  • автономен автомобил-
  • безпилотен автомобил-
  • автопилот-
  • инцидент-
  • катастрофа
Автопилотът на Uber разпознал пешеходката, но въпреки това не спрял - 1

Uber публикува първите резултати от вътрешното разследване на смъртоносното пътнотранспортно произшествие, при което на 18 март автономен кросоувър на компанията за споделено пътуване прегази и уби пешеходка в гр. Темпи, щата Аризона. Инцидентът привлече общественото внимание, тъй като е първият документиран случай на смърт в катастрофа с безпилотен автомобил.

Данните от паметта на бордовата електроника показват, че изкуственият интелект е идентифицирал безпогрешно човека на пътното платно, но въпреки това е взел решение да игнорира опасността. Водачът-изпитател Рафаела Васкес (първоначално името бе обявено като Рафаел, но се оказва, че от Uber са наели транссексуален мъж, който вече е жена) пък изобщо не е успяла да реагира.

Автопилотът на Uber разпознал пешеходката, но въпреки това не спрял

От видеозаписите става ясно, че по време на фаталния инцидент жертвата Илейн Хърцбърг е пресичала платното на непозволено място, бутайки велосипеда си, а Рафаела се е вторачила в телефона си. Според разследващите обаче събитията се случват толкова бързо, че дори и опитен шофьор с отлични реакции надали би могъл да спре навреме - Илейн се появява пред тестовото Volvo XC90 внезапно от сенките.

От Uber отбелязват, че в поведенческите алгоритми на изкуствения интелект, който управлява автономните коли, са заложени сценарии за игнориране на мними опасности като петна на пътното платно, летящи найлонови торбички, падащи листа и т.н. Системата обаче е разпознала жертвата като човек и въпреки това не е предприела нищо, за да избегне фаталния сблъсък.

Дали инцидентът е резултат от грешки в алгоритъма, саботаж или друг пропуск ще се изяснява тепърва. Управляващият софтуер на автономните автомобили се самообучава и коригира заложените поведенчески сценарии, като "опитът" на отделните тестови коли се обединява в обща база данни и се актуализира във всяка от тях.


Поставете оценка:
Оценка от 0 гласа.



Напиши коментар:

ФAКТИ.БГ нe тoлeрирa oбидни кoмeнтaри и cпaм. Нeкoрeктни кoмeнтaри щe бъдaт изтривaни. Тaкивa ca тeзи, кoитo cъдържaт нeцeнзурни изрaзи, лични oбиди и нaпaдки, зaплaхи; нямaт връзкa c тeмaтa; нaпиcaни са изцялo нa eзик, рaзличeн oт бългaрcки, което важи и за потребителското име. Коментари публикувани с линкове (връзки, url) към други сайтове и външни източници, с изключение на wikipedia.org, mobile.bg, imot.bg, zaplata.bg, bazar.bg ще бъдат премахнати.

КОМЕНТАРИ КЪМ СТАТИЯТА

  • 1 Бил Гейтс

    41 5 Отговор
    Изкуствения интелект е опасен
  • 2 иван

    24 4 Отговор
    Имаше време да реагира
  • 3 Driving pleasure

    69 5 Отговор
    Извода?!
    НИКОГА НЕ СЕ ДОВЕРЯВАЙ НА ДЖЕНДЪТ И НА ИЗКУСТВЕН СМОТАНЯК!

    Карайте си колите бе пичове! А ако ви мързи се возете на обществения транспорт!
  • 4 Язък Язимов

    40 3 Отговор
    Войната с изкуствения интелект започна !
  • 5 незнайко

    17 3 Отговор
    Късите светлини са толкова къси, че чак не се вижда !!! За човек е абсурдно да види навреме велосипедиста ! Само лазерна или ултразвукова система може да определи, че отпред има препятствие, подобно на парктрониците. Такава имат тези изпитателни коли, но някой трябва да обработи данните и да даде команда за спиране ! ТОВА Е СОФТУЕРА НА СИСТЕМАТА !!!

    Коментиран от #6

  • 6 Driving pleasure

    28 4 Отговор

    До коментар #5 от "незнайко":

    има обаче една друга далавера - закона (поне в БГ) ти казва, че ти като шофьор си длъжен да съобразиш скоростта си и ако не се вижда като в случая да караш по-бавно...
    Обаче това нещо за педровците с изкуствените нтелекти явно не важи... тепърва ще гледаме подобни безумни катастрофи щото следващия път може едно птиче да се изцвъка на обектива на камерата или лазера и не пешеходец ми и осветен тир няма да види тая простотия .
  • 7 Име (като гост)

    14 1 Отговор
    Изкуствения е пийнал две бири затова не е реагирал
  • 8 Комшу

    3 4 Отговор
    До "Driving pleasure"
    Защо не кандидатстваш за консултант ?

    Коментиран от #10

  • 9 ловджия

    28 0 Отговор
    Софтуерът е разпознал тъщата на програмиста.
  • 10 Driving pleasure

    14 6 Отговор

    До коментар #8 от "Комшу":

    на какво консултант бе човек?! тая простотия трябва да се забрани преди да стане масова и да почнат да умират хора!
    електрониката е крайно ненадежнда а в същото време вниманието на "шофиращия" и уменията му падат защото се доверява на системата - примера ти е пред очите. тъпото педи е чакало системата да направи нещо и му е било все тая, а системата е познала без да реагира.
    ИИ може да умее да обработва огромни обеми данни, но той няма креативността нито пък възможността да оцени нова ситуация и да вземе решене за нея - просто няма как да замести човешкия мозък и само безмозъчни могат да се кефят на автономното шофиране!
  • 11 Dido

    16 0 Отговор
    Изкуствения интелект никога няма да има съвест, жертвоготовност. Програмира се да пази водачите в колата на първо място. Никога няма да избере да блъсне колата в дърво и да жертва някой счупен крак на човек в колата за да избегне дете изкочило на пътя, например.....

    Коментиран от #21

  • 12 РЗС

    18 0 Отговор
    Изкуствения интелект е засякъл шматката, но е решил да не спира, знае че няма да бъде подведен под отговорност. Изкуствената жена дето е била вътре пък и е през х+я за тия дето претичват неправилно.
  • 13 Къртев

    5 1 Отговор
    "Е, като пресича не правилно" Да, но става въпрос за човешки живот! И според мен това трябва да се осъди по-жестоко от обикновен пътен инцидент, защото е убийство с оръжие. Но Аризона или, като цяло Америка уважават повече компютрите и създателите на несъвършенните си и извратени идеи, от колкото човешкия живот. Щом признават, нещо, което с цел печелене на пари, чрез секс си обръснало к'вот има и си сложило цици и има чеп за пол е ясно на какви честоти мислят. За това, дано не стигаме американците.
  • 14 Бат Герги

    7 1 Отговор
    Абе незнам аз кви са тия простотий ама хората преди години ни предупредиха с филма Терминатор ама май като гледам не сме си взели поука от това нещо така че този изкуствения интелект трябва да се спре преди да се повтори сценария от филма Терминатор
  • 15 Николай

    4 0 Отговор
    Точно тук и това е проблемът. Няма как да се разбере защо ИЕ е решил да блъсне човека. Надали се записва лог на причините за бездействие. И най-вероятно в този случай бездействието е мотивирано от надградено и "самообучено" поведение - никакъв шанс да се получи достоверен анализ на ситуацията.
    Този ситуация би трябвало да е достатъчен повод да се обяви всяка последваща работа по ИЕ за престъпна и да се преследва от закона по всеки възможен начин.
  • 16 Дългоиме

    11 0 Отговор
    Сега за новите такива трябва да наредят екипа дето разработва тия тенекиени пущини на пътя, заедно със акционерите и шефовете и да пуснат няколко на пълна скорост срещу тях.
    Ако спрат- добре.
    Ако не- здраве да е.
  • 17 Скайнет

    9 0 Отговор
    Лелята на Джон Конър е детерминирана. Да се готви следващия.

    П.С. Ако си мислите, че някакъв джендър може да ме спре...
  • 18 Някой си

    3 1 Отговор
    Всички в България карат без този изкуствен интелект бе колеги ама от началото на годината .на пътищата на страната са загинали десетки. И въпреки новите камери числото расте
  • 19 ПакСЪмТук

    5 0 Отговор
    Покрай изкуствения интелект има една тънка, но много съществена част.
    ИСТИНСКАТА ПРИЧИНА ЗА НЕПРЕДВИДИМОТО ПОВЕДЕНИЕ НА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ Е НЕПРЕДВИДИМОТО ПОВЕДЕНИЕ НА ЕСТЕСТВЕНИЯ ИНТЕЛЕКТ, КОЙТО ГО Е СЪЗДАЛ !

    Ако си достатъчно умен да не правиш това в което ще си "счупиш главата" , значи - ще оцелееш!

    В природата това се нарича естествен подбор!
    Което става е живо , което не става - не оцелява!
  • 20 Morgoth

    3 1 Отговор
    От филмчето не се вижда добре, защото качеството е ниско, но по всяка вероятност един внимателен шофьор с добро зрение е можел да я види преди да излезе пред колата. AI-то също я е видяло, но като всеки софтуер си има бъгове, които ще трябва да се изчистват с времето. Все пак при такова идиотско пресичане повечето щяха да я сгазят.
  • 21 Morgoth

    2 1 Отговор

    До коментар #11 от "Dido":

    Изкуственият интелект ще има това което е програмиран да има, а то зависи от пазара и от законите. Естествено, че никой няма да иска да си купи кола, която би избрала да спаси неправилно пресичащ пешеходец за сметка на живота на собственика и неговото семейство, но пък за това са законите - за да създадат балансиран стандарт и да задължат производителите да го спазват.

    Коментиран от #25

  • 22 3463636

    3 0 Отговор
    Това е скайнет - не спира за хора а само за терминатори
  • 23 ьцжб

    3 0 Отговор
    Не се вижда пешеходеца за човек шофьор обаче изкуствения интелект я е видял защото има инфрачервен сензор, защо не е спрял? Трябва да се терминира.
  • 24 Да да

    3 0 Отговор
    Първия случай на автономна кола джихадист! Но защо е спряла само с един! Явно още се обучава
  • 25 Dido

    0 0 Отговор

    До коментар #21 от "Morgoth":

    Много е лесно да говориш на теория!Но на практика, ако не дай боже, това се случи на твой близък, да го смаже кола управляване от копютър, който е решил,че е по-безопастно за шофьора колата да прегази човек, вместо да излезе от пътя.Тогава няма да си толкова забит в буквата на закона, нали?!?!
  • 26 Христо

    3 0 Отговор
    Утре тея коли могат да се самообучат да газят наред.
    Купуваш си автономен автомобил, прегазва човек... кол ще съдят? Автономния автомобил или собственика му?
    Искуствения интелект трябва да се ограничи до там, че да има контрол единствено над спирането и да се задейства ако водача трябва да спре, а не го направи! Всички други контролни функции като ускорение, изменение на посока... трябва да се контролират от човешко същество, не от чип. Тея изгъзици за тотална автономия са рискови. Колите са постоянно свързани в мрежата и какво правим ако в същата мрежа попадне зловреден софтуер - масови убийства!
  • 27 Нещата са такива

    2 1 Отговор
    Трябваше на велосипеда да е изобретателя на автономното возило!
  • 28 fgderr

    3 0 Отговор
    Като го гледам на клипчето този дамския как се беше отпуснал..., ако Волво-то беше скочило на спирачките, незнам този как щеше да изглежда. Цялата ситуация с тая случка ми звучи като един стар виц:
    Катаджия спира пиян шофьор, и го пита:
    -Господине, защо шофирате пиян?
    Шофьора се оглежда и смаяно пита:
    -Ама аз ли карам?

    ....до къде го докарахме...
  • 29 Гадина

    0 0 Отговор
    Добре, всички се вторачихте в траверса и изкусвения интелект. Защо никой не коментира интелекта на пресичащата?