OpenAI е прекратила отношенията си с трима изследователи от екипа по безопасност заради твърдения, че са споделяли поверителна информация с външна организация, работеща по безопасността на изкуствения интелект. Случаят беше съобщен първо от The Wall Street Journal, който не посочи имената на служителите, организацията или конкретните данни, за които става дума.
В изявление до изданието OpenAI заяви, че вътрешно разследване е установило неправомерно боравене с чувствителна информация извън установените процедури. Компанията определи това като нарушение на правилата и на доверието, което е необходимо за работата ѝ. По-късно OpenAI подчерта, че случаят не е свързан с това служителите да са повдигали въпроси за безопасността или да са изразявали несъгласие.
„Тези решения не бяха свързани с повдигането на въпроси за безопасността или с публичното изразяване на мнение“, заяви OpenAI.Тримата отричат да са нарушавали правилата
След уволненията имената на изследователите бяха посочени като Джасмин Уанг, Микита Балесни и Томек Корбак. На 8 октомври те публикуваха отворено писмо до органите за безопасност и надзор на OpenAI, в което оспориха версията на компанията.
Тримата заявиха, че са работили с външни експерти в рамките на професионалните си задължения и че уволненията могат да накарат други служители да се въздържат от открити разговори за рисковете от разработването на мощни модели. По думите им досега изследователите са били насърчавани да поставят под въпрос решенията на компанията и да търсят независима експертиза.
Те отрекоха и да са били източник на информация за вътрешни дискусии около архитектури на модели, чиито процеси на разсъждение са по-трудни за наблюдение. Според тях работата по този проблем изисква тясна комуникация с външни организации за безопасност.
Спорът включва и достъп до електронна поща
Джасмин Уанг заяви, че OpenAI ѝ е посочила като причина за уволнението достъп до електронната поща на ръководител. По думите ѝ достъпът е бил предоставен за нуждите на подбор на кадри, а след приключването на задачата тя е поискала той да бъде премахнат. Уанг твърди, че по-късно случайно е отворила чувствително съобщение и веднага е уведомила ръководителя.
OpenAI не е оповестила публично пълните резултати от вътрешното разследване и не е уточнила кои конкретни правила са били нарушени. Компанията обаче заяви, че установеното поведение надхвърля споделянето на информация с външна организация и представлява „значително нарушение на доверието“.
OpenAI посочи, че продължава да работи с независими оценители на безопасността и подкрепя по-широки усилия за запазване на възможността действията и разсъжденията на най-мощните модели да бъдат наблюдавани. Тримата бивши служители настояват компанията да спазва тези ангажименти и да запази открития диалог с външните специалисти.
Източници: wsj.com, techcrunch.com, cbsnews.com