Секс партита, LSD и създаване на по-умен от човека AI: Какво се случва зад кулисите на OpenAI

Последиците от направата на всеобщ изкуствен интелект изглежда стоят на заден план

Снимка: iStock by Getty Images

Секс партита, LSD и създаване на по-умен от човека AI: Какво се случва зад кулисите на OpenAI

Последиците от направата на всеобщ изкуствен интелект изглежда стоят на заден план

09:37 | 21 май 2024 | Редактор : Стоян Гогов 2 1366 Снимка: iStock by Getty Images

Преди няколко дена Жан Лейке напусна OpenAI. Изследователят бе шеф на екип, който трябваше да предотврати рисковете от създаването на AGI - всеобщ изкуствен интелект, чиито възможности са равни или по-високи от човешките.

"Не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме точка на пречупване. Вярвам, че много по-голяма част от ресурсите ни трябва да бъде изразходвани за подготовка за следващите поколения модели, за това те да са наистина сигурни и безопасни. За това какво ще е въздействието им върху обществото.

Тези проблеми са доста трудни за коригиране и съм загрижен, че не сме на траектория да стигнем до там.През последните няколко месеца екипът ми плаваше срещу течението. Борехме се за изчислителна мощ, за да можем да провеждаме изследванията си, но това ставаше все по-трудно.

Изграждането на по-умни от човека машини е едно изключително опасно начинание. OpenAI поема огромна отговорност от името на цялото човечество. Но през последните години културата и процесите на безопасност заеха заден план пред лъскавите продукти. Отдавна е време да се заемем невероятно сериозно с последиците от AGI", написа Жан Лейке в социалната мрежа Х.

Той завършва своята публикация със странно звучащата фраза "Научи се да почувстваш AGI".

Преди време стана ясно, че главният учен на OpenAI, Иля Суцкевер, е обсебен от фразата "почувствай AGI". Той дори провеждал полу-религиозни церемонии в името на всеобщия изкуствен интелект.

"Ако не чувствате AGI, когато се събудите и когато заспите, не трябва да сте в тази компания", заяви преди време OpenAI.

Изглежда намигването към тази фраза е отприщило теч на доста "пикантна" информация.

Соня Джоузеф е специалист по машинно обучение от Принстън, като в момента тя е докторант, изследващ мултимодална интерпретируемост. Предишната ѝ среда е била съставена от специалисти по AI в Силициевата долина, сред които и много служители от OpenAI.

"Да си активна част от хакерската сцена на Силицевата долина, е като да имаш кариера на политик в сянка", започва Соня Джоузеф.

"Когато бях там попаднах в средата на елитни кръгове в сферата на AI-технологиите. Виждала съм някои тревожни неща около социалните кръгове на едни от първите служители в OpenAI, техните приятели и колеги-предприемачи, за които досега съм мълчала.

Не е мое право да говоря защо Ян Лейке и екипът на супергрупата подадоха оставки. Нямам представа защо и не мога да направя никакви претенции. Вярвам обаче, че моите културни наблюдения върху средата са доста показателни за случващото се в нея.

Секс партита и тежка употреба на LSD от някои елитни изследователи на AI са практика, която създава негативни последствия за жените в сферата и за безопасността около AGI като цяло.

Те са емблематични за по-широки проблеми: климат на принуда, който нормализира безразсъдството и преминаването на граници.

Няма нищо лошо в секс партитата и тежката употреба на LSD на теория, но съчетано със сянката на групи от интереси със 100 милиарда долара в банковата сметка това води да една наистина повредена социална динамика. Представете си банкерите от Уолстрийт от 2008 г. на LSD - ситуацията не вещае нищо добро за безопасността на AI.

Жените са като канарчетата в мината. Те често са първите, които разбират, че нещо се е объркало ужасно, и усещат културния въглероден окис във въздуха. И когато повдигна проблема усещам моментално затваряне и групово мислене.

Вероятно тези проблеми всъщност не са на OpenAI, а са симптом на много по-дълбоко гниене в Долината. Иска ми се да мога да кажа повече, но вероятно не трябва.

Не пиша това от името на никой и не искам да генерализирам. Има толкова много брилянтни, мили, невероятни хора в OpenAI и има толкова много брилянтни, мили и невероятни хора в Anthropic/EA/Google. Аз съм агностик. Моята единствена лоялност е уважението и достойнството на човешкия живот", пише Соня Джоузеф.

"Не съм под NDA. Никога не съм работила за OpenAI", допълва Джоузеф. "Просто наблюдавах заформилата се култура около изследователите на AI в Сан-Франциско, чувах вътрешна информация, знаех за задкулисни сделки и е запознах с доста "изгорели".

Трудно е да се направят изводи от изказванията на Джоузеф, защото те не са конкретни. Те обаче звучат логично на фона на корпоративната култура в IT сектора, където "изкарването на продукт по-бързо от конкуренцията" е водещ принцип. Все повече бивши служители от сферата на изкуственият интелект "бият камбаната", че безопасността и последствията от технологията за обществото стоят на заден план. Междувременно всички лидери в сегмента са се прицелили в разработването на AGI - изкуствен интелект с равни или по-големи умствени способности от нашите собствени.

ИЗБРАНО