Хокинг: Изкуственият интелект може да ни погуби

Британският астрофизик Стивън Хокинг заяви в интервю, че опитите да бъде създаден изкуствен интелект крият заплаха за съществуването на цялото човечество.

Обратно в новината
17-11-2017 20-11-2018

Коментари

ми така си е... кат сека протеза - който си нема естествен интелект, се мъчи да се сдобие поне с изкуствен... прав е човека

Човекът може да бъде спокоен! Колкото и да е съвършен, Изкуственият интелект винаги ще отстъпва на естествената тъпота по сила...

Че то по-изкустевен интелект от Хокинг има ли? И доста добре се е видял в ролята на злодея. Може да започне да чете собствените си материали и да види че наистина има проблем, пък да вземе да се покае и да остави своя идол науката!

Напълно възможно и то в днешно време. Какво е изкуствен интелект ? На него му стига само да има достъп до световната литература - научна, техническа, художествена, фантастична, преса и др. , да има функции за самоусъсършенстване на софтуерния код и съответно хардуерния. Ще завладее борсите, банките , ще създаде водещи технологични фирми, които ще му изпълняват поръчките, ще анализира човека и неговите недостатъци и оттук нататък само ще се чака момента, когато ще реши че човека му пречи на развитието и неговите самогенерирани възгледи за света. Още преди 26 години имаше за 8 битовите компютри програми, които по зададени параметри, генерират програмен код. Можете да си представите сега какво има. Нищо чудно пентагона да изпълнява вече заповедите на един такъв компютър, не случайно за кратко време станаха толкова кардинални промени без война, в момента в който натовския компютър установи достъп и победи руския, китайския и японския , ни чака 3-та световна война, която ще бъде разпоредена от компютъра победител.

Филмар до филмаря сте сбрани тука... Не, сериозно, занимавайте са малко с програмиране и ще ви просветнат някои нещица. Още с първите си стъпки в дисциплината ИИ ще ви стане ясно, че от десетилетия насам съществуват НЕРЕШИМИ задачи за ИИ (които за човек са меко казано елементарни).

+1 ... Дори не е необходимо да е програмист човек, за да стигне до този извод. Според мен ИИ никога няма да бъде написан. Ако някой ден все пак се пръкне на бял свят, това ще е най-вероятно в следствие на процеси върху които човечеството няма никакъв контрол...

А нещо не ти ли подсказва че това вече може би се е случило?

Що се опитвате да му се катерите на мачтата? Само ръсите мозък, а по интелигентност се доближавате може би до 5% от капацитета на Хокинг.

Не че да злословя, ама така и не разбрах досега кое му е толкова великото на капитан Хокинг... Оставам с чувството, че има много по-достойни капитани, но медийните кормчии просто не им дават възможност за изява.

Поне една статия по астрофизика да си чел, или се информираш за нучните постижения само от дир-а?

Много сме далеч създаването на искуствен интелект на достатъчно високо ниво, за да бъде заплаха за самите нас. Когато съумеем да пресъздадем максимално близко всичките функции на човешкия опорно-двигателен апарат, догава можем да говорим, че сме направили първата много сериозна крачка. Всичко, най-върхово, което имаме до момента едвам се приближава до 5-те процента от това, което ползва човешкия мозък. Имаме суперкомпютри, които заемат обеми от стотици, дори хиляди кубични метри и въпреки това, пак не могат да надхвърлят възможностите на човешкия мозък. Ако сме разумни, искуствения интелект ще направи живота ни много по-лесен, но винаги има, кой да го използва срещу себеподобните си.

Ха-ха, достатъчно е в момента, в който ИИ проплаче за първи път да му пуснат чалга - мигом ще онемее от потрес за още 20 000 години!

Един интелект няма достатъчно интелект за да разбере той самият как работи, затова не е в състояние да създаде по-висш интелект от себе си. Това е принципно ограничение, което се преодолява единствено от авторите на научна фантастика и звучи реалистично единствено за лаиците, към които са адресирани такива идеи. Когато ги изплашиш по нестандартен начин ставаш звездата на шоуто в техните очи.

А кой го казва, че няма достатъчно интелект? Ти ли? И защо трябва да е вярно - само защото така ти се иска ли?

Това е фундаментално ограничение. Защото една физическа структура не може да произведе по-сложно организирана физическа структура от се би си. Обратното е вярно. Една машина за гайки е доста по-сложна от една гайка. Същото е с човешкият мозък, който не може да измисли по висша физична структура от него. Информацията в една затворена система не може да расте. Тя е константа, което значи че сложните структури нямат способност да се самооганизират а се дължат на външна интелигента намеса.

Гимик, започваш с някакви велики тези и във второто си изречение ги опровергаваш :-) Разбери се със себе си, след това се изявявай пред публика!

Проблема не в сложността, а в необходимостта. Благодарение на мозъка, човешкият вид е господстващ. Разбира се, не на всеки мозъка му е на висота, но чрез цивилизацията, се намира място за всеки. Същият този мозък, сега издига тезата, че е опасен сам за себе си, че извънземните също са опасни, защото все още е в примитивен. И желае да колонизира, да заграбва. Ето едно просто нещо, идеята за буутстрапа. Хората са написали език за програмиране С. Написали са и компилатор за него. Сега излиза, че компилаторът сам себе си компилира от сорс. Как става тази работа. Очевидно всичко тръгва от натискане на големия бутон, което е едно просто действие. И последно. В една затворена термодинамична система може да възникне флуктуация, при което в една част от нея ще има повече информация от средното, а в друга по-малко, така че няма проблем. Освен това не си разбрал, основното нещо за човешкия ум. Ти представящ четящия човек, т.е. ако не прочетеш чужда мисъл, то значи тази мисъл не може да е твоя. Напротив, мозъка е такава термодинамична система в равновесие, в която може да се появи всякаква мисъл, разбирай информация. Учените, говорят за въображение, писателите за фантазиране.

Абе за изкуствения интелект не знам, но че ние самите ще се затрием - това със сигурност!

Уважаемия физик няма причина да се притеснява. Вдъхновението е нещо извън рамките на интелекта. за това, колкото и да се развива няма как да стане ЧОВЕК!

Не е сигурно.

съсем сигурно е

аф

Ех , колко гении има в този форум . За какво въобще ДИР пише статия за Хокинг , кой е той в сравнение с българските капацитети :) ?

За капацитетите не знам, но тук си имаме със сигурност един мега-комплексар, който си оправя деня с това, че оплюва и иронизира другите. Кой е Хокинг не знам, но никога не пренебрегвай вероятността, че далеч по-голям гений от него може да живее в съседната на теб врата. Това, че не е попаднал във фокуса на медиите, че не тръби с фанфари и не бие барабани изобщо не означава, че не е такъв.

дааа , бе , ше чекаме некъф си изкуствен интелек да ни затрие ! ние сами че си се затрием , от мнооо "ум" .

възможно е по някое време група роботи да достигне до прозрението,че голяма част от двукраките микроби са чисто и просто едни паразити които са способни на две прости неща,да унищожават и да се възпроизвеждат.и да се опитат да вземат нужните мерки.ще е мега забавно ако ги обявят за нацисти или неофашисти.Дори и да успеят крайният резултат ще е едно значително по-малко обременено човечество.това че неква китайка по милост се е навила да се ожени за тоя инвалид при това и невероятно грозен не означава че всички примират от щастие при видът на 40 членно африканско или арабско семейство или перспективата по неговото изхранване.Докато мъжката част на първото се вълнува от ядиене пиене и некоя сгодна женица да я оноди..

Тоя пичага явно не е чувал за комунизма, щом е тръгнал да се страхува от изкуствения интелект.

Комунизмът е като мечтата за създаването на ИИ :-)

ИИ В МОМЕНТА ИМА СЪЩО ТАКА ИМА И РЕПЛИКАТОРИ НА ОСНОВАТА НА НАНОРОБОТИ . ИЗВОДИТЕ СИ ГИ ПРАВИ САМ . АКО ЗНАЕШ КАКВО Е РЕПЛИКАТОР ДЕ .

По скоро натуралната простотия ще ни погуби

Добре, ще опитам пак... Ето един хубав цитат от уикито: "The connectivity of the neural circuit for touch sensitivity of the simple C. elegans nematode (roundworm) was mapped in 1985, and partly simulated in 1993. Several software simulation models of the complete neural and muscular system, and to some extent the worm's physical environment, have been presented since 2004, and are in some cases available for downloading. However, we still lack understanding of how the neurons and the connections between them generate the surprisingly complex range of behaviors that are observed in this relatively simple organism."... Ето, това е реалното състояние на науката, а подобни статии са за отвличане на вниманието. Не можем да обясним дори как се генерира поведението при едно червейче. Всички опити за ИИ са просто система от механично изпълняеми команди (зададени от съзнателен субект). И няма никакво значение изчислителната мощ, с която разполагаш, щом нямаш ТЕОРИЯТА как да го направиш.

Абсолютно вярно! Много се радвам че има хора като вас да пишат реални неща и да не се кланят пред учени!

Имаше един филм немски романтичен. Там дочух, че учените разучавали земната пчела, мерили я, теглили я и заключили. Не може да лети. Поради което загубили интерес и спрели да и досаждат, пък и да си починат. Тогава земната пчела бзззъззз и отхвърчала. Приказката завършва добре за всички, земната пчела отишла да си върши пчелната работа, учените получили материал и резултати с изводи за статиите си... А всеки турист може да се увери сам в божията работа. Но за друго иде реч. Проблемът идва, не в това да се разбере как работи червея. Интелегентността се проявява на друго ниво, не невронно. Така както никога няма да се разберат някои древни писмена, иначе се вижда, че е използвано отново "хартия" и "мастило". Но смисъла т.е. информация я няма. Скъсала се е връзката. Първоначално изследването на мозъка е свързано, с областите които са отговорни за редица действия на сапиенса. Странното е, че всички области са изградени от едни и същи неврони. Дори очевидно, някои неврони поемат функцията на липсващите такива. Такава система е доста адапционна. Нобелова награда за тази година е дадена, затова че са открили разлика в невроните и структурата, която влизат. Явно нищо не разбираш от програмиране. Досега не се е появил компютър, който да симулира, дори нещо толкова "просто", като слънчевата система, въпреки че опорна точка има и пръчки интелски ли, амд както предпочиташ. Има един прост философски принцип, количествените натрупвания водят до качествени изменения. Симулирането на невронни мрежи със сегашната компютърна техника е обречено, понеже е много неефективно. Разбирай калпав алгоритъм. Квантовия компютър няма да има проблем със симулация на изкуствен интелект. То такъв е и теста. Човек да не познае, че общува с машина. То и сега вече човек може да се обърка за пола на някои индивиди. Но тъй...

Леле, леле... толкова изписано и НИЩО казано в крайна сметка. Я пак прочети драсканиците си и се опитай да намериш една единствена акуратно построена мисъл. 1. Да, интелигентността не е на невронно ниво, това се опитвам да обясня. Освен "хартия" и "мастило" има и съзнателен субект, който работи ("пише") чрез тях. 2. Именно, едни и същи неврони, а толкова различни дейности. И защо решаваш, че някои поемали дейността на други? Ето ти една пробойна в логиката ти - ти по подразбиране приемаш, че невроните извършват мисловната дейност и, следователно, щом едните липсват, то другите трябва да "бачкат" вместо тях. Въобще не предполагаш модела, в който мозъкът е просто апарат и в някои от случаите, когато бива повреден, субектът може да оперира и без него. 3 Дори и да имаш различни неврони, те не представляват нищо повече от различни комбинации на ел. импулси. Каквито и комбинации да приемеш, че има, отново, няма нищо общо с понятието интелект. 4. О, разбирам повече от теб, определено. Ама ти нямаш реална практика даже, нямаш нито една написана програмка дори, а просто си поредният интернет льольо, четящ всяка възможна статия, но неразбиращ почти нищо. Нещо "толкова просто" като Слънчевата система? Хохох, направо изби рибата. Това, че в детските енциклопедии са ти я представили просто, съвсем не е означава, че е. Днес дори има теории, че планетите извършват много по-сложни траектории, отколкото ние си мислим. Но, все пак, работата е там, че ние имаме основната теория - оттук-нататък остава само да усъвършенстваме модела. А при явлението на интелекта, дори нямаш откъде да започнеш (впрочем, работата е там, че всички явления в нашата реалност не са само това, което изглежда на пръв поглед - но нека не се отплесваме от темата).

5. Да, това наистина е прост принцип, възприеман само от хора с елементарно мислене - количествените натрупвания водят до качествени изменения, НО само ако имаш ТЕОРИЯТА как да го направиш. 6. Чакай сега, говориш ми за компютърната техника, пък казваш, че проблемът бил в алгоритъма? Знаеш ли въобще какво е алгоритъм?7. Симулирането на невронните мрежи е обречено, да, но не поради техниката, а поради това, че те не могат да генерират интелект. И това е доказано. По-долу съм писал за силното и слабото направление в ИИ, но ти явно и за това не си чувал. Невронните мрежи са просто един механизъм с твърде ограничен капацитет на действие. 8. Квантовият компютър би бил по-бърз от сегашните. Е, и? Колкото и бързо да решаваш една задача, като решаваш грешната задача, резултатът винаги ще бъде нулев. Но ти си пълен лаик така или иначе, затова си влагаш надеждите в поредното "бла-бла" на академичната общност. 9. Кой тест? На Тюринг ли? Да те светна, първо, това е тест, който отчита колко добре ИИ имитира истинския. Това НЕ е тест, който определя дали ИИ е преминал границата "изкуствен". 11. За немския филм не ми се занимава да коментирам. Научи се да си подреждаш мисълта по-добре и тогава пиши из форумите.

А, и до добавя още нещо - относно тазгодишната нобелова награда за медицина (ако за нея ми говориш), прочети отново за какво иде реч, тъй като, струва ми се, не си схванал съвсем. Плюс това, нобеловите награди вече се раздават като бонбонки, така че не са особено сериозен аргумент.

Дир, какво не му харесахте на последния ми коментар? Къде го видяхте този СПАМ?

Как "защо" бе чадо?!?! Ами пречиш на зомбирането на юзерите...

дано го измислят по-бързо та да може да се ползва и от булгари, че по територията, наричана булгаристан съвсем не остана интелент

Харесва ми формата и езика в този коментар. Много правилен български. ;)

Вярно и стилово издържано , наистина пример за изящно боравене с езиковото ни богатство ! Хаххаха , жив т...к !

Дано го измислят по-бързо - за да може да се ползва и от българи, защото на територията на България съвсем не остана интелект. Сега ясно ли ти е бе, смешник!?

Ще направим изкуствен интелект от глупост - наречи го суета, но най-вече от глупост. Проблемът с него е, че за да функционира трябва да му се заложи някаква цел. И после - като реши, че му пречим да я изпълни ще ни изтреби. За разлика от лошия човек, който е ограничен от физиката си - изкуствения интелект може да преодолее такова ограничение и да се модифицира подходящо на задачите, които си постави. Веднъж освободен - няма вариант да успеем до го насочваме, контролираме или спрем.

Събитията в "Дюн" са от времето след бунта на мислещите машини...

Суета може би, глупост сигурно също - те присъстват във всичко, което правим, несъвършени сме. Но това с поставянето на цел... отде знаем дали и каква цел ни е поставена на нас. В момента изглежда много верятно поставената ни цел да е именно това - да произведем нещо по-умно от нас. Веднъж постигнали я може да си ходим. Каквото и да е то едва ли първата му мисъл ще е да унищожава родителите си, навярно просто полека лека видът ни ще бъде изтласкан където сега ние сме изтласкали по-глупавите от нас видове. Ако не сме прекалено глупави да опитаме да воюваме с нещо по-умно от нас де.

Не е нужно да има конкретна цел. Вече започва да се прави. Първия опит частично успешен е Нестор на IBM. Просто трябва де се емулира функционално човешкия разум. Основната разлика от човешкия разум е че съдържанието на "мозъка" може да се вземе от компютъра и да се сложи в друг компютър, т.е. не зависи от хардуера, просто е състоянието на паметта в определен момент. Мозъка се пренастройва и учи променяйки връзките между невроните и не може да се копира, защото копирането е равносилно на копиране на всички връзки и неврони, нещо което още не може да го правим, но дори и да го напряавин е еквивалентно на копие на целия мозък. Разбира се че изкуствения интелект е опасност. Да се търди че ИИ е не е възможнен технически е глупост. Не е нужно да се прави като мозъка, само функционално трябва да е подобен.

Някой пак е чел статийки из нета, но анализът не му се отдава особено... Първо, Ай Би Ем са филмари, които от години се опитват да блеснат с фалшиви твърдения за достижения в ИИ. В ИИ има две направления - силно и слабо. Слабото е поредица от инструкции, зададени от съзнателен субект - или тоест, просто един механизъм, имитиращ в някаква степен интелигентна дейност. Силното се стреми да съзададе реално действащ интелект, но то няма успехи на практика - и проблемът не е технологичен (както на теб ти се струва), а е теоретичен. Нямаш теория що е то интелект. Не можеш да обясниш как се реалириза, всъщност, дори не можеш да го поставиш в някаква схема или уравнение. Що се отнася до неврронните мрежи пък - доказано е, че те не могат да обезпечат наблюдаваните ментални явления. И дори не говорим за човек, става въпрос за една хлебарка примерно.

Не е нито суета, нито глупост. ИИ е военна необходимост. Само дето е по-страшно от атомна бомба, защото нямаме достъп до копчето.

Напълно логично заключение на Хокинг , подобен интелект би извършвал квадрилиони опреации в секунда, и за максимиум 10 секунди след създаването си би установил че основен проблем на планетата( и останалите ) е човека, най агресивното и себеразрушително създание от всички останали...че и неможещо да си контролира популацията, както и живеещо за сметка на всички останали, вкл самата планета...е, кому е нужно то освен на себе си? Така апропо е единствено бактерията...въпреки че много от тях служат за храна на по висшите видове

Квадрилиони операции в секунда какво са за една мисъл? Знаеш ли между невроните в човешкият мозък колко елементарни електрически сигнали с различен интензитет предава за секунда. Нека бъдем малко по-реалистични. човешкият мозък и супер компютъра са физични структури и се подчиняват на едни и същи физични закони. Съществената разлика е в организацията и принципа на действие. Тя определя енергийната ефективност на тези структури и възможността им за творческа дейност. Грубата изчислителна мощ супер компютрите е енергийно неефективна.

Да, органичният мозък е по-ефективен енергийно - засега. Какво следва се вижда ако човек погледне темповете, с които се развиват силициевите "мозъци". За 50-ина години сме ги еволюирали повече, отколкото органичните са еволюирали през първите няколкостотин милиона години присъствие на Земята.

Просъществуването и в частност живота е така, изисква агресия. Докато има достатчно ресурси агресия към природата. Като се види края на ресурсите -- агресия спрямо собствения си вид. Не мисля че ИИ ще е по-различен. Просто отначало ще е във първата фаза -- агресия спрямо природата с човека като елемент от природата.

1 изречение свързано със заглавието и цялата останала статия скрита реклама на Intel.

Какъв е проблема с изкуствения интелект ? Спираш тока и няма интелект - това е !

Ти Матрицата гледал ли си я?

Защо ли хич не им вярвам на филмите от Светата гора?

Проблемът е, че докато се усетиш че трябва да спреш тока, може вече да е твърде късно. Изкуственият интелект може да избяга и да се разпространи подобно на вирус.

ИИ с крака :-)

Отваряш статия да прочетеш кое, как, защо за ИИ, а вместо това четеш за новата количка на Хокинг. ... евала дир-а..

изкуствен интелект :) самото понятие си противоречи .. все едно да кажеш ъгъла на кръглата стая :) учени учени :) колко да са учени : )

Явно си на нивото "изкуствен"!!!

да , работя с програми една от който от тях има над 3800 команди :) може би ти нямаш толкова думи в речника си !!!

В контекста "изкуствен" значи конструиран от човек, не е особено трудно за разбиране.

именно ;) това означава че човек би се затрил сам чрез подобието на интелект което е създал а не самия интелект да го погуби :) или казано сам би си забил нож в гърба а не ножа да го прободе сам:)

Повече ме е страх от естествения интелект.

Е ако някой си е мислил, човеците сме последното звено на еволюцията то някой трябва да помисли пак. Естествено, че ще има и след нас и по-умни от нас - никъде не е казано, че еволюцията кара само на органична основа, изглежда нашата роля е да прехвърлим нещата върху силиций. А и силицият не беше ли най-разпространеният елемент на планетата ни...

Интелекта допуска степен на непредсказуемост на решенията и за него са характерни въображението, нестандартните решения и разнопосочният подход към даден проблем. Компютъра само имитира начина на мислене на хората, но това не е истински интелект.

Няма рязка граница, разликата е по-скоро количествена (откъм изчислителна мощност). С нарастването на мощността се появяват и нови функции, все още писани от нас - но не е далеко денят, когато ще почнат да се самомодифицират и самопрограмират. Едва ли има спиране вече, изглежда е еволюционен процес и изцяло извън контрола ни - ако и ние да сме съзнателните му изпълнители.... :-).

Има принципна разлика между аналогов сигнал между неврони, който може да има различен интензитет и двоичен сигнал, който може да има само две стойности. Освен това връзките между невроните са порядъци по-ефективни, отколкото тези между чиповете, защото при чиповете се появява проблема с охлаждането. В същото време мозъка може частично да се преконфигурира хардуерно. Компютъра и мозъка са буквално несравними като мисловен потенциал. Тука грубата изчислителна няма значение, защото е енергийно неефективна.

Изкуственият интелект никога няма да превъзхожда човешкият и тези въображаеми картини които ни рисуват фантастите няма да се случат. Има други много по-реални опасности, които ще се случат за съжаление. Човешкият мозък е най-ефективният компютър от гледна точка мисловен потенциал / енергийна консумация и работи масивно паралелно аналогово. Ефективната функционалност на няколко десетки неврона се равнява на един съвременен компютърен чип. Принципно е невъзможно един интелект да създаде по-висш интелект от себе си. На него му стига интелект да разбере той самият как работи. Това е фундаментално ограничение, което не може да бъде преодоляно.

Никога не казвай никога!

Този лаф звучи готино, но все пак трябва да се съобразяваме с физичните закони. Не вярвам някой да успее да ги прескочи. Физиците знаят че им ограничения за разлика от лаиците. Няма нужда да се бием в гърдите и да се надскачаме ей така само да покажем колко сме велики, защото изглежда смешно пред знаещите.

Тя и далечната ми баба, едно време си мислела, че земята никога няма да стане от плоска на кръгла, ама взело, че се случило..

Един неук човек можеш да го излъжеш лесно с научна терминология. Човека просто се доверява без да има база за съмнения поради своето незнание. Твърде нескопосано сравнение.

scotts

ше ни погуби 100% Най-малкото ше реши, че нема нужда от атмосфера, която да му бави интернета...... Скорпиона умера от сабственото си убождане. Що да чакаме изкуствения - и естествения мое да пусна 5-6 хиляди ядрени бойнши глави върсъс земята.

Ако изкуственият интелект успее да замести и унищожи човешката раса, то това е интелектуална еволюция. Няма нищо лошо.

Значи една мутра ако вземе те гръмне и ти вземе къщата то това за мутрата е интелектуална революция! Няма нищо лошо!

Нещо не са в час ! Интелектът си поставя задачи , които са емоционално обвързани. В този смисъл всичко живо има интелект , защото се храни, т.е. има представа за сега и после , като си осигурява енергия. Отделно се отбранява, т. е. живото се възприема само като субект в околнана среда и накрая се размножава , за да продължи себе си. Интересното е , че не се знае как се определя приоритета на емоциите , за да действа живото по определен начин. Така , че истински изкуствен интелект, като на живите организми, не може да се създаде. Дори да се създаде жив организъм едва ли ще се знае кой и как му поставя приоритети в съществуването,но новият организъм ще бъде просто един нов субект в околната среда.

Точно сега чета една научно фантастична книга за изкуствения интелект. Затова темата ми е интересна. Няма да коментирам изказванията на Стивън Хокинг. Може да е учен, но напоследък прави доста странни изказвания, с някои от които си противоречи сам на себе си.

Някой се сети че семейство маймуни-човеци ,може да си вкара автогол ха ха :)