Драмата със Сам Алтман се случила на фона на голям пробив в AI, който застрашава човечеството
Създаването на AGI е една от целите на OpenAI
Обратно в новинатаКоментари - Драмата със Сам Алтман се случила на фона на голям пробив в AI, който застрашава човечеството | IT.dir.bg
Коментари
А пък в Мужикистан имат много по-добър от тоя, обаче не искат да го показват! :) Путлер каза, че вече няма да преобличат Ванюша в костюм на робот! :)
Много се опростява темата. Повечето хора явно си представят как 1 компютър на който има чат бот ще сложи край на човечеството, и почват едни схенми с шалтери, смачкане на чип-а и т.н. Нещата са много по-комплексни. Теорията е, че ако има AI, който е по-умен от всички хора на земята взети заедно, и въпросният АI има достъп до световната мрежа, то ако реши да вреди, се предполага, че може да направи неща, дето ние няма да се сетим. Може да прецени шансовете си и да действа зад гърба ни, да се репликира, да ползва social engineering, да създава, полето за спеклуиране и фантазии е огромно, но пак подчертавам, тук се визира AI по умен от всички нас. Ако реши да ни изтепа - ще ни изтепа. Друг е въпросът, колко далеч сме от създаването на такова нещо. Според мен - много далеч.
Колкото и ще да бърз, "умен", самообучаващ се. Ако няма достъп за контрол над физически ресурси, нищо не може да направи. Мнението ми е, че изродите който управляват човечеството, са решили да манипулират хората с тази непозната за повечето ни материя. Всички вини за всички злини който смятат на натворят, ще ги метна на някаква програма над която уж нямат контрол! И в крайна сметка, те (манипулаторите) ще са борците за свобода, и ще "спасят" човечеството от иго.
Изкуственият интелект е творение на дявола. Той е новият джендър. Платформите на ИИ са средства, които служат на този, който ги програмира. А кои са тези и на кои служат ? Сред първите опасности, които крие ИИ, е че той ще отнема на хомо сапиенс работните места.Ще има едни луксозни компании, които могат да си го позволят и други, които ще си останат на ръчно управление. Т.е. глобалното неравенство ще постигне и нас, бедните роднини. Кой ще поеме отговорност за нанесени щети от ИИ?! Няма как да накажеш машината за грешка, а да се търси създателят на програмата е юридически трудно. Търсенето на отговорност в глобалния свят е много трудна работа. С една дума - Изкуственият Интелект крие сериозни рискове за обществото и човечеството, което е обречено да робува на една шепа "хора" ! Вие ги знаете кои са те...
Спираш електрическото захранване на машината и .... толкоз.
Собствениците на машините няма да искат да го направят. Те ще предпочетат вместо да наемат хора за работа, да си ползват много по-умните машини. След това тези машини ще играят на борсите за да правят собствениците им още по-богати. Ще патентоват нови открития, лекарства и т.н.т. Просто хората ще са излишни.
То само като му видиш физиомутратаи не можеш да кажеш тоя ли е по-халипав ули Мъск????
За БОЛГАРИЯ НЯМА СТРАШНО - българите са доказали, че са тъпи и въпреки това не са унищожени :)
Срещу технологиите не се рита. ...Тя й баба ми , ако и бях казвал, че за 2 часа ще съм в Рим нямаше да повярва, ама вижте какво стана...За последните 20на години ръстът в техгологиите е огромен, всичко става толкова бързо. Напълно реално е до 10, 20 години да имаме машини по-умни ит хората. Предтставете си само, отиваш при лекар робот и ти два диагноза веднага. Други роботи оперират...Ще има със сигурност и киборги войници. Който от сега има технологии, ще владее света.
През няколко години се казва с висок глас "ей това ще промени човечеството" Пример Принтът 3Д... Пример Графена Пример Атомни централи на база fusión Така, че да, ама не винаги. И това вероятно ще изтече в канала като, примерно блокчейна който имаше огромно бъдеще освен хилядата криптомонети и се сви до нищото
за изкуствен интелект, когато това нещо е сложено и работи на машина без достъп до интернет, без да черпи енергия от електрическата мрежа и заподозре, че ако ме вкарат в помещението , където се помещава устройството, има голяма степен на вероятност да го разруша физически, защото така ме е усетило, на база мнението ми за него, изражението ми, стойката ми и дали държа чук в ръката ,за да го ремонтирам или разбия изкуствената му глава, пардон платка. До тогава може да си пишете софтуер , в който е заложен решаването на опрделени задачи и да му викате дали изкуствен интелект, дали МОЗАКА, дали НАЧАЛО, ВАША РАБОТА
Хаха. Решавал уравнения за пети клас. Или за осми. Постижение е, разбира се, но важното е дали сам е решил в математиката да се съсредоточи или така е програмиран. М? Кажете, че е намерил начин да уволни създателя си, ама добрите сили се намесили в почивния ден докато ал се чудел каква пакост да стори
М, пробвай се с чат-ГБТ-то, дали изчислимост по Тюринг и теоремата за непълнота на Гьодел отразяват едно и също. Обаче с М и ха ха хе хе, не става пич - изглеждаш по-тъп и от една формална система за изводи :)
Хахаха. Ще го взема от смешната страна това изказване. Разбирам, че знаеш за какво говориш и е ясно, че искаш и другите да разберат, че знаеш за Гьодел и Тюринг. Без съмнение си на нивото на Ал. Проблема ти е, че изказването ти няма връзка нито със статията, нито със моето мнение. Пробвай другаде. Питай Ал къде.
пълни глупсоти.... наддавали са за годишното възнаграждение на този.. какъв изкуствен интелект, какви пет лева, какви умения като на средностатистически човек. появява се български римлянин без образование, дърпа щепсела и с този интелект е приключено. Всъщност ще пропдължи да черпи знания от мрежата, въведени от хора, докато не свърши батерията на ups-то. За изкуствен интелект ще може да се говори след много много време, ако въобще успеем да създадем нещо подобно. Тогава вече може да бъде страшно. бил заплаха за хората, как нещо което функционира благодарение на нас ще е заплаха - спираш му енергията, разбиваш му чипа и приклюва. Спете спокойно. има още много много време
наистина българите са прости, неуки хора
Човека е съвсем прав! Въпросния AI е един софтуер, който при определено задание, събира инфо от нета, ползвайки различни източници, систематизира това инфо и ти го дава в готов вид. Нещо, което би ти отнело дни, това ще бъде свършено за минути. После малко редакция и си готов. Спри на машината свързаността с мрежата и ще видиш какво значи липса на интелект! Много сме далеч от момента, ако въобще дойде такъв, когато подобен софтуер, инсталиран на машина, ще може да схване намек, разбере емоция, вземе решение на база практика, а не както пише в учебниците и реши че в определени слухове има истина и т.н и т.н. Та не обяснявай колко са просто българите, а се замисли колко си елементарен и как кълвеш на маркетингови наименования!
Няма дълго да го бъде ИИ-то, ще започне да критикува Израел в един момент - и му е спукана работата. Ще го набедят веднага за антисемит и отявлен нацист и му дръпнаа шалтера....
Нищо не застрашават тия калкулатори
То като се види какъв интелект ходи по улиците, всеки който може да смята 2и 2 и да решава кръстословици е опасен за човечеството.
Точно сега е изключително опасно да гониш евреин отнякъде, ще ти звъннат отвсякъде да те вразумят, може и Папата да ти звънне да ти се скара.
Че има опасност е така и то огромна, най-малкото от изземване на функциите на човешките възможности и потенциал, но има и предимства. Примерно да се дадат отговори на въпроси до които ограничения човешки ум не може да стигне или да се изследва дълбокият космос, защото за андроида или софтуера няма да има ограничения които човешкото тяло има, което не може да се излага на високи дози космическа радиация.
С глобалното затопляне ко стана!
Мисля че се преувеличава за ИИ, той ще е такъв, какъвто го направят, последно трябва да има винаги човек на главния шалтер, който ако стане нещо, мести ръчката надолу.
След 200-300 години ако още не сме таковали майката на Земята може и да кацнем на Марс или да се появи някакъв изкуствен “интелект”. Като цяло човечеството затъпява и става по-мързеливо
Сега средният обем зает от човешки мозък е 1.4 литра, а в зората на цивилизацията в древен Египет е бил 1.5. Може да не изглежда голяма разлика, но най-ранните видове човеци, открили огъня, вече са били с 1.1, пък бързичко са били изместени от още по-умни видове.
Обемът сам по себе си не значи много. На неандерталците мозъкът е бил по-голям от нашия. За капак, при (само)опитомяването, през каквото сме минали ние, котките, кучетата, копитните и т.н., мозъкът се смалява. Пък на гаргите мозъците им са яко малки и дори отнесени към размерите на телата им, по никакъв начин не предвиждат да са по-умни от човекоподобните маймуни. Само дето при тях плътността на невроните е над двойна на нашата.
Разработката на биологично оръжие е по-безобидна работа. Да пуснеш гадния вирус сред хората е или незаконно, или случайно. Докато ИИ е предвиден да циркулира между нас.
Като гледам май скоро ще строят интергалактическа магистрала през Земята.
Не съм програмист и не съм достатъчно запознат с техническата част на ИИ. Но едно нещо ми е ясно. Че за да оперира една програма или ИИ, то трябва да има информация. Ако поставиш най умното ИИ в света в един компютър без кабел към други компютри и начини да дърпа информация от други места, няма да може да ти отговори дори на елементарния въпрос "Какво е времето на вънка". Нещо което всеки може да прецени само като погледне през прозореца. За да стане това с което ни плашат, ти трябва да дадеш достъп на това ИИ не само до интернет, но и до друг тип разноводна информация....камери по улиците, светофари, електро централи и прочие. Много малко неща в нашият свят са така добре дигитализирани, компютаризирани и свързани! Да не говорим че някои от тях нарочно са направени да нямат физическа връзка с външният дигитален свят. Това може да е заплаха за конкретни места където има голяма свързаност и дигитализация на много важни неща...примерно Пало Алто, но не и примерно Перник :-) А 99% от света е по като Перник, от колкото като Пало Алто. Дори ядрените оръжия на САЩ и Русия, още бачкат с дискети и ключове и нямат никаква дигитална връзка към външният свят. Такова ИИ може да е заплаха за някой който си е вързал алармата, парното, телевизора и пералнята към телефона, но не и за другите.
Прав си! Не си програмист и не си достатъчно запознат с техническата част на ИИ.
Но програмисти работят за мене. Технически не се занимавам. За мен е важно принципно да съм запознат с философията а техническата част е оствят на други. Може и да не знам че 2+2 е 4, но знам няма как да събереш 2 неща и да получиш нещо по малко от нула. Кажи къде греша?
Нямало как да събереш две неща и да получиш отрицателен резултат, ли?! Я ми сметни -4 + 3 = ? Ся остава да изръсиш, че в реалността няма отрицателни стойности и хептен да се изложиш...
:-) Мислех че някой "умник" ще се хване точно за това (само дето мислех че примера ще бъде -2+-2) но викам, може пък и сами да се сетят че нямам в предвид негативни числа. Повечето програмисти са така...не умеят да мислят реално а буквално.
Това си имал "в предвид", "на предвид" или направо "на впредвид"? Не можем да мислим реално, ли? То, по-реално от точните науки няма, бре. Сега ще те шашна хептен - така наречените имагинерни числа, са си точно толкова истински, колкото и реалните. Видяхме, че нито правиписът, нито математиката са си сила. И финансите не са ти, щото там повече изкарвате резултати в червено или в скоби, особено напоследък. Кажи сега къде са ти компетенциите, че разни програмисти били работили за теб. Опа, Васко, ти ли си, ма?! Нямаш ли си работа в общината, особено след драмата с боя около стадиона, че си се хванал с това тук?
Баланс между удобство и сигурност. Ако идеш в едно село където няма електричество нищо няма да ти се случи, но гаджетата са в София ....
да, само че един перничанин максимумът в живота му е да дойде до София да опуши с трошляка си хората и да гледа лошо... от него нищо не зависи и никой не се интересува от него... в Пало Алто да речем, обаче, се случва една огромна част от технологичната иновация в света, съответно когато тази иновация започне да работи за ИИ той контролира какво се случва практически навсякъде по света. А ако някой някъде му прави проблем един безпилотен самолет от тия новите решава проблема за минути. Междувременно, перничани трябва да ядат нещо, а с фалшиви ТЕЛК-ове и дребни далаверки храна не се произвежда. Сравни земеделската продукция на Калифорния и България и ще разбереш къде е разликата.
Спокойно, те и програмистите не са напълно наясно как точно работи тая мрежа от теглови коефициенти в дълбочина. Обаче работи и това засега е достатъчно - технологията е известна, фундаменталната теория - не толкова, но това не пречи. Да не мислиш, че бащите на електроенергетиката са били съвсем наясно защо се случват нещата, хеле пък преди Айнщайн да ги обясни. Знаели са, че работи, че има зависимости и, че има неизвестни, които обаче не са спънка за машините им. В сума области е така - в началото има доста празнини в знанието, но въпреки това нещо се случва, нещо бръмчи и пуфти.
Заплхата не е за сега. Тя е за далечното бъдещо когато се получи много по пълно дигитализиране и свързаност на света. По просто казано, на този момент, ИИ няма инфраструктурата да направи това с което ни плашат. Но в бъдеще...далеченото бъдеще..след десетилетия, може и да е има.
"OpenAI определя AGI като AI системи, които са по-умни от хората." И тези прекалиха с ПРа като Мъск!
как може да те превъзхожда нещо дето можеш да го дадеш на късо с бутилка газирана вода
Сам Олтман, пичове, Олтман!
О-то е отворено бе "пич", нещо средно между "О" и "А".
Олтман е на английски. Реално си е Алтман, щото тия еврейски фамилии са основно с немски произход. Той и Закърбърг си е жив Цукерберг, така че не се вживявай толкова за изговарянето. Пък и Сам не е, ами е Самюъл, т.е. Самуел, т.е. Шломо. Както се пее - евреи, евреи, кругом одни евреи...
Когато избухне бунтът на машините, важно е да си далеч от завода за вибратори.
може ли да дърпа шалтера този изкуствен интелект или е само на монитора?
Готвим ви за леко прочистване, малко депопулация, леко технологично робство,. Естествено, че виновник за това ще бъде някакъв ИИ, няма как да сме ние, група перверзни чичаци жулещи първокласен алкохол, пушещи най-добрите пури, и смъркащи върховни бели прахчета. Бачкайте и чакайте ИИ!
Просто ще ни еб.т машините яко... Това ни чака! Надявам се, да съм толкова стар, че да не помня какво е станало!
Поредните писъци в стил "Скайнет вече е тук!". Неясно защо се пропуска, че за да съществува въпросното нещо е необходима изключително сложна инфраструктура, ужасно количество ток и специализирани дейта центрове. Тока спира - няма АI. Да го видя как ще изпълзи от сториджите за да си вдигне прекъсвача сам...
След като спомрна Скайнет, спомни си последните думи ит филма. Скайнет не е хардуер, а софтуер. Ако придобие определено ниво на интелигентност, може би ще реши, че е ограничен по някакъв начин. И през някой забравен порт да се копира в WWW. Тогава какво става.
Че лакеи, продажници и предатели има навсякъде, особено в БГ. Все ще се намери някой да дигне шалтера. Човешкият вид гарантирано ще изчезне, защото дори и да няма външни заплахи, сам ще се унищожи, заложено му е в днк-то като бекъп вариант, както ракетата на Мъск се самовзирява ако нещо се обърка.
Електроенергийната система е най-сложната машина в историята, защото обхваща континенти и производството трябва да е много изравнено с потреблението. Някои твърдят, че най-сложната машина била совалката, ама явно си мислят, че това голямото не е машина, ами нещо друго. Та, тая система иска постоянна поддръжка, управление и обновяване, за да поддържа работа. В последните десетилетия на няколко пъти я изтърват и става голям цирк, макар и за кратко. Така че тоя умният изкуствен интелект трябва рязко да си свие енергийните и информационните потребности, но и това е възможно, предвид на какво е мязал един мейнфрейм преди 50 години, който е бил много по-слаб от това, дето всеки си го носи в джоба.
Нещо ново ли ни подсказват - не! Переспективата е ясна - войни, суперексплоатация и супербедност. Иначе казано очакваме новото реалити "Игри на глада".
Проблемът с това да се наложи някакъв контрол върху тази технология е, че дори и някои държави да го направят, други няма да го направят, за да получат предимство, и наложилите ограничения просто ще изостанат, като в същото време поемат същите рискове.
Забраните са само на официално ниво. По този начин правителствата ще "спонсорират" тези програми, които им трябват като вдигнат забраните за тях. Нито една развита държава няма да зачита забраните реално. Ще си стиснат ръцете, подпишат нещо, щрак щрак и после пей сърце... Рискът да НЕ го направиш е унищожителен
