10 Август, 2017 11:53 4 660 10

Агенти с изкуствен интелект проговориха на непознат за хората език

  • изкуствен интелект-
  • агенти-
  • роботи-
  • илон мъск-
  • facebook-
  • tesla

Facebook спря принудително системата с ИИ след инцидента

Агенти с изкуствен интелект проговориха на непознат за хората език - 1
Снимка: Shutterstock

Изследователи на Facebook бяха принудени да спрат една от машините си с изкуствен интелект, след като откриха, че е започнала да комуникира на език, който те не могат да разберат. Инцидентът напомня за главния антагонист Скайнет в култовия филм "Терминатор". Може би главният изпълнителен директор на Tesla Илон Мъск е прав за това, че изкуственият интелект (ИИ) е "най-големият риск, пред който сме изправени".

В случая, принудил изследователите да дръпнат щепсела на машината с изкуствен интелект, върху която работили, системата не е започнала да спира компютрите по света или нещо подобно, но спряла да използва английски и започнала да използва език, който създава сама.

Боб: "Аз мога мога аз аз всичко останало.

Алис: "Топките са нулеви за мен, за мен към мен за мен при мен за мен при мен."

Горните пасажи, които са безсмислени за хората, са част от разговор между двама агенти с ИИ, разработени от Facebook изследователите. Агентите на ИИ системата, създадени да преговарят с хора, първо си говорили помежду си, използвайки обикновен английски език, но в крайна сметка създали нов език, който само те разбират.

Агентите с ИИ не били настроени да са ограничени само до английски език, и така създали език, който да улесни и ускори комуникацията им. Изследователите на Facebook обаче решили да изключат ИИ агентите и да ги настроят да говорят един на друг само на английски.

Каква би била вредата, ако се оставят агентите с ИИ да комуникират помежду си на език, който са изобретили сами?

На първо място, хората няма да разбират какво си говорят системите за ИИ, използващи собствения си език. Системите за ИИ имат изключително сложни скрити мисловни процеси, които хората не са в състояние да разберат, а ако започнат и да говорят на непознат за тях език, тайната им ще бъде още по-опасна.

Ако агентите с ИИ имат право да говорят на език, който сами са създали, те вече нямат да имат нужда дори от човешка намеса. Според Мъск хората трябва да се страхуват от изкуствения интелект и поиска от управниците на САЩ да приложат регламенти относно технологията.

"Запознат съм с най-модерните системи с ИИ и мисля, че хората трябва да бъдат наистина загрижени за това", каза изпълнителният директор на Tesla по-рано този месец на лятната среща на Асоциацията на националните губернатори в Роуд Айлънд.

"Системите с изкуствен интелект могат да правят доста неща по-добре от хората и, ако не се държат под контрол, ще се превърнат в нещо, което може да ни замести изцяло."


Поставете оценка:
Оценка от 0 гласа.


Свързани новини


Напиши коментар:

ФAКТИ.БГ нe тoлeрирa oбидни кoмeнтaри и cпaм. Нeкoрeктни кoмeнтaри щe бъдaт изтривaни. Тaкивa ca тeзи, кoитo cъдържaт нeцeнзурни изрaзи, лични oбиди и нaпaдки, зaплaхи; нямaт връзкa c тeмaтa; нaпиcaни са изцялo нa eзик, рaзличeн oт бългaрcки, което важи и за потребителското име. Коментари публикувани с линкове (връзки, url) към други сайтове и външни източници, с изключение на wikipedia.org, mobile.bg, imot.bg, zaplata.bg, auto.bg, bazar.bg ще бъдат премахнати.

КОМЕНТАРИ КЪМ СТАТИЯТА

  • 1 111

    26 0 Отговор
    Започва се.
  • 2 АрНиТуУ

    15 0 Отговор
    I'll be back!

    Коментиран от #3

  • 3 DUN

    6 0 Отговор

    До коментар #2 от "АрНиТуУ":

    You will be back..
    ама Арни е в преклонна възраст и не знам кой ще спаси този път света!;-)
  • 4 Тео сапуна

    2 1 Отговор
    Нищо повече от РЕКЛАМА .
  • 5 коцето

    1 0 Отговор
    А сетете се ако направят квантов комп. и го свържат с ИИ
  • 6 Ощърбий

    1 0 Отговор
    Еволюция. :)
  • 7 Гост

    6 0 Отговор
    The Matrix - началото
  • 8 Направи си сам

    2 0 Отговор
    Началото на края....
  • 9 T-1000

    1 0 Отговор
    Помни : Генезис е скай нет!
  • 10 БолгАрия

    0 0 Отговор
    Изкуствен интелект, означава все пак интелект, нали?!? Е, сега кажете ми, кой ИНТЕЛЕКТ би разговарял на такъв елементарен, варварски език на единствените канибали в Европа?!? Само хора БЕЗ ИНТЕЛЕКТ биха го използвали...