Драмата със Сам Алтман се случила на фона на голям пробив в AI, който застрашава човечеството

Създаването на AGI е една от целите на OpenAI

11:16 | 23 ноември 2023 | Редактор: Стоян Гогов 90 14131

По време на продължилата няколко дена драма с борда на OpenAI, уволнението и в последствие връщането на Сам Алтман, може да се е случило нещо много по-важно, съобщава "Ню Йоркър".

Виж още Сам Алтман отказа на Microsoft и се връща на шефското място в OpenAI

Няколко учени в компанията са изпратили писмо до борда на директорите, в което предупреждават за огромен пробив в изкуствения интелект, който според тях може да застраши човечеството, твърдят вътрешни източници пред Ройтерс.

Според един от източниците, ръководителката на част от операциите на OpenAI, Мира Мурати е споменала проекта, наречен Q*, пред служителите в сряда и е казала, че през уикенда е получила интересно писмо за него.

Проектът Q* или Q-Star, е свързан с разработването на суперинтелигентност или всеобщ изкуствен интелект (AGI). OpenAI определя AGI като AI системи, които са по-умни от хората.

Шефът на OpenAI, Сам Алтман, смята, че общият изкуствен интелект (AGI) ще има приблизително същия интелектуален капацитет като "среден човек, който бихте могли да наемете като колега".

С появата си AGI много лесно може да постигне суперинтелигентност или превъзходство над човешкия разум. Според Сам Алтман изграждането на всеобхватен изкуствен интелект, който надхвърля човешките способности, "би направило света прекрасно място за живот".

Проектът Q* е показал пробив, свързан с решаването и проявяването на разбиране за определени математически уравнения.

Ройтерс не е успяла да получи достъп до писмото, а служителите, които са го написали, не са отговорили на исканията за коментар на агенцията.

Като се имат предвид огромните изчислителни възможности, новият модел успя да реши определени математически проблеми, е посочил служител на компанията.

Въпреки че решава математически задачи едва на ниво начален етап на образование, разрешаването им обнадеждава разработчиците за бъдещия успех на Q*, е казал източникът.

Ройтерс не е успяла да провери възможностите на Q*, описани от източниците, предава БТА.

Изследователите смятат математиката за граница на генеративното развитие на изкуствения интелект. Понастоящем генеративният изкуствен интелект успява да извършва езиков превод чрез статистически прогнози на следващата дума и отговорите на един и същи въпрос могат да варират значително. Развитието на възможността да се решават математически задачи, в които има само един правилен отговор, предполага, че изкуствения интелект ще има по-големи способности за разсъждение, наподобяващи човешкия интелект. Това може да се приложи например към нови научни изследвания, смятат изследователите в сферата.

Това е притеснило част от екипа на OpenAI. Мнозина считат, че подобна технология е екзистенциална заплаха за човечеството.

Създаването на всеобхватен изкуствен интелект може да унищожи човечеството или да доведе до тоталното му поробване. Над 1000 учени от сферата на AI предупреждават, че безконтролното развитие на технологията може в крайна сметка да сбъдне най-антиутопичните прогнози, с които Холивуд ни е запознавал.

ИЗБРАНО