Нобелисти:Изкуственият интелект е най-безопасен
Списание "Хайър едюкейшън" проведе допитване сред 50 Нобелови лауреати за главните заплахи, които стоят пред човечество.
Обратно в новинатаКоментари - Нобелисти:Изкуственият интелект е най-безопасен | IT.dir.bg
Коментари
Няма как изкуственият интелект да ни застрашава, след като е едно кухо понятие без съдържание, повтаряно напоследък с усърдна настойчивост.
всъщност изкуствения интелект е интелект, защото се очаква да излезе от рамките на заложеното
Ще видим как фантастиката става реалност. Спомних си за някакви закони за изкуствения интелект. Дали наистина ще бъдат въведени?
Ако е интелект, ще се самообучава и саморазвива. Ерго каквото и да му е заложено с времето ще бъде преодоляно и ще прави това, което счита за ефективно с оглед целите си. А и целите си ще промени. И ние уж сме подвластни на инстинкта за самосъхранение, но статистиката за самоубийствата показва, че е преодолим. Уж имаме инстинкт за размножаване, но много хора съзнателно избират да нямат деца. И т.н.
Проблемът е, че законите не са за интелeкта, а за роботиката. Разликата е голяма. Дело са на Айзък Азимов и са формулирани още 1942 г. Оттогава много вода е изтекла. 1.Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда. 2.Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон. 3.Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон. 4.По-късно формулиран от робот Закон 0: Един робот не трябва да причинява вреда на човечеството или чрез бездействие да причини вреда на човечеството. Съответно към останалите закони се добавя и "ако това не противоречи на Нулевия закон."
Наблюдвайки реалността в която живеем, виждаме как материалните неща губят своята структура и функционалност с времето. Не става по-нови, по-сложни и по-функционални, а преминават от състояние с по-висока степен на организация към състояние с по-ниска степен на организация. Полезната енергия в системата постепепно намалява за сметка на неизпозлвамеата енергия, като общото количество остава константа. Могат да се развиват единствено съзнателни интелигенти, морални, рационални и целеви същества до степен ограничена отгоре от информацията и фунционалноста вложена в тях. Това е реланоста в която живеем. В нея самоволно рзазвитие е невъзможно.
Наблюдвайки интернет, който всички ползваме, виждаме как материалните неща придобиват все повече разновидности и функционалност с времето, за да задоволят прищевките, породени от по-добра информираност и избор. Стават по-нови, по-сложни и по-функционални, и преминават в състояние с по-висока степен на организация. Интернет магазините са ярък пример. Тези с ниска степен на организация фалират. Полезната енергия в интернет системата постепепно се увеличава за сметка на енергията, в реалния живот. Като цяло общото количество енергия остава константа. Количеството енергия отдавано в реалния живот намалява. Могат да се развиват интелигентни, рационални и целеви същества до неограничена степен. Другото е оповаване на по-висша сила, която да оправя каша, която ние като хора ще забъркаме. Изкуственият интелет няма да промени законите на вселената. Той не е заплаха за Господ. Но теоретично е напълно възможно да замести човека във физическата й част.
Стават такива бнлагодарение на естествените процеси в природата или благодарение на намеренията, волята, познаният, интелекта и духовните и физичеки нужди на целевият съзнателен човек, създаден по образ и подобие на Господа?
За съжаление мисля че някой от нобеловите л. Колкото и да са интелигентни са хора които разбират от съвсем други неща и схващането им за И.И. е доста остаряло. Само помислете върху първичните цели с които се ползва И.И. основно да прави цялостни портрети на ползвотелите на соц. Мрежи и да предвижда техните действия. Ето вече някой го ползва с користни цели а сега си представете че го няма този някой , който осъществява контрола (без значение целта). Т.е. машината поставя сама задачите си и после ги изпълнява. Ами ако това не е стряскащо и страшно аз не знам кое е?
изкуствен интелект та изкуствен интелект - абе какво е туй нещо някой може ли да ми обясни ? нещо като програма с която играя шах срещу компютъра ли е - ама то на нея и е заложено да следва ходове на хора и може би да ги доразвива или да съчетае най-умните шахматни ходове в историята на шаха , ами ако и световната политика една програма събере най-умните постъпки от Меркел, Тръмп, Бойко и от Путин може да стане по-добре хавата ама може и да се прецакаме жестоко с тоя изкуствен интьелект
това, за което си мислиш, е експертна система. много хора бъркат изкуствения интелект с експертна система.
Има два вида изкуствен интелект. Слаб без въображение и силен със въоръжение и самоубучение. Учените тук говорят за първия. Вторият е непредвидим !
То и едно цигане, като се роди, е безвредно, но средата, в която живее после го променя.
АКО ОТЧЕТЕМ ФАКТА ЧЕ 80% ОТ МЕРИКАНЦИТЕ СА ПРОЧЕЛИ ПОД 20 КНИГИ В ЖИВОТА СИ , МОЖЕ И ДА СА ПРАВИ НОВЕЛИСТИТЕ :)))
Точно така. Проблемът е в това, че правят експертни системи (понякога със съмнителна експертност), пък искат да ни убедят, че това било Изкуствен Интелект. Като говорят и пишат за Изкуствен Интелект си мислят за живо същество, което може да мисли. Пък то било експертна система - виж началото. :)
Ами да де. ..каквото е програмирано това прави....а кой и какво ще програмира ....зависи в какви ръце ще попадне и какви мераци ще програмира...ако беше в ръцете на Хитлер????....щеше да си прехвърли мозъка в машината и до днес още концлагерите щяха да правят сапун...
Хайде да уточним - контингентът на нобеловите лауреати се формира чрез избор от комитет от шепа хора, повечето от които не са и учени. Та по-добре е да се вземе мнението на доказани учени - тези с най-много цитирания в научните списания например. Щото сред тези 50 човека сигурно е гласувал и конформистът Обама и г-жа Светлана Алексиевич. Която е доста далече от изкуствения интелект .......
Доста компрометирано понятие. Което на всичко отгоре през годините непрекъснато се мени. И което се е използвало, пак през годините, за обозначаване на различни неща. И което се е провалило в доста от областите. И компрометирано от комерсиализацията - днес всеки битов уред, в който се сложи най-прост управляващ микропроцесор и веднага се обявява за "умен" и с "изкуствен интелект". Все пак има някои сериозни разработки. Имитация на невроните, самообучение, саморазвитие, самопознание, решаване на слабо дефинирани проблеми и др. Суперкомпютри на IBM, военни дотации и др. Интересно е, но далече от приложение в бита. Има и постижения, някога били ИИ, а сега - масовизирани - разпознаване на реч, разпознаване на изображения, оттам самоуправляващи се коли, експертни системи и мн. други.
хората, които са разпитвани явно си нямат понятие от изкуствен интелект. Там е работата, че той е ... хммм ... програма но която се пренаписва сама. Това не е стриктно зададена .... хммм програма, а постоянно модифицираща се съгласно обстоятелствата и поставените му цели. Ако чисто хипотетично един такъв интелект има за цел да избие човешката раса то рано или късно ще набере мощ да го направи - тук г-н Путин е прав по отношение на изявлението си по тази тема
Това на което му викат ии, всъщност е логиката, която сваля човека от клоните и превръща страховете му в аец. Рационализацията на този процес, на скорост и в оптимално ефективен вариант, не е във възможностите на човеците на това ниво на равитие и комуникация. Смешно е как и тук се "подреждат" нещата не според възможностите, а според страховете но в същото време се трупат плюшени мечета по местопрестъпленията и пее "не ме е страх". Всъщност е жалка картинка.. Но ще открехна нещо за случващото се. Промяната на така нареченият "социум", е един от основните фактори от които зависи експлоатацията на техническите възможности днес. В основата на този процес се намира закономерност, която превръща канбалите във вегани. Логиката на развитие в еволюцията Доказва, че съумеем ли да заживеем заедно и да станем завършени хора, тепърва ще открием на кой свят съществуваме. Той, до този момент е абсолютна загадка но за възможностите може да се посочи един конкретен пример: "Nanomaschine tötet Krebszellen in nur 60 Sekunden" и да се добави логичната костатация: При положение, че контролираш всяка клетка на молекулно ниво, не само ставаш независим от болести и стареене! През 1999 дадоха нобелова награда за машината която Edward Sagan не дочака и чието развитие тепърва предстои. Иронията е в това, че машината практически е невидима за човешкото око но се прави от хора. Но дали е железница, аец, дрон, нанопробот или ии, шибаната машина ни трябва, а това е най-важното и преди всичко! Тя се развива така, както ние не се връщаме по дърветата и не ни растат опашки, тя си има посока на развитие, която е независима от човешкият идиотизъм и посоката е само една. В математиката няма място за страхове и таласъми, две и две не е пет, защото някой се страхувал от четири. Самата тема е за видиотяване и неслучайно липсват каквито и да е теми, засягащи конкретно възможностите, които предоставят технологиите днес.
Как една самомодифицираща се програма ще се предпази от акумулирането на случайни грешки и загуба на фунционалност след всяка промяна, след като няма нужният интелект за да оцени смисъла на промените? Как ще си формулира цели след като няма съзнание и как ще ги осъществи без воля? Имам опит с разработка на софтуер и мога да кажа, че поради взаимосвързаната функционалност на отделните елементи на една програма, е много по-лесно да се направят грешки (синтактични, лексически и логически), които да осуетят частично или напълно нейната фукционалност, отколкото да се добави нова функционалност съвместима със съществуващата функционалност. Това е причината програмирането изисква интелигентност и детайлно разбиране на целите, които трябва да се постигнат. Ако при неосъзнати промени вероятността за грешки е много по-голяма от вероятността за упешна функционална промяна, как можем да очакаваме развитие в положителна посока, след като ще се натрупват все повече грешки при всяка итерация и рано или по-късно програмата ще е спре да работи. Същата деградация наблюдаваме при живите организми и случайните неосъзнати промени в тях поради взаимосвързаната функционалност е нередуцируема комплесност на отделните им подсистеми и фукционални единици.
Химици и биолози да се изхождат по въпроси за изкуствен интелект. Бай Иван водопроводчика знае също доста.
Приятел, не си прав, може да се направи една огромна облачна база, съдържаща взимовръзките надолу, но наистина ще е огромна тогава само една подпрограма която се старира на определн интервал ще разбира дали има грешки. Но затова трябва огромен ресурс. А за живота не си прав в него е заложена евплюцията, без нея нямаше да ни има с теб.
Колкото и богата да е базата данни на една програма, това не и помага дори в малка степен да започне да осъзнава какво върши. Програмата не е личност и не притежава съзнание и интелект. Няма морал и воля. Колкото и сложна да е тя, или колкото и фунционален и бърз да е един компютърен чип, те не осъзнават какво вършат. Основата на организацията във физическите системи е инфомацията, която не е свойство на материята и енергията. Тя е свойство на мисловният процес на интелигентно, съзнателно, рационално, морално и целево същество. Чрез нея това същество може да дефинира и увеличава или поддържа порядъка във физическите системи съгласно своите познавателни възможности и интелект, и според своите духовни и физичекси нужди. Чрез нея то описва организацията на физическите системи, тяхната фунционалност и взаимодействието между отделните им елементи, за да постигне предварително обмислена цел. Без участието на такова съзнателно същество, не може да има увеличение на информацията и порядъка във физическите системи. Самоволното увеличаване на информацията във физическите системи е невъзможно. Такава идея противоречи на закона за причино-следствената връзка, който гласи че няма следствие без и по-голямо или равно на неговата причина.
ми тво елесно обеснимо: ена "експертна система" щи я продадът за 200 лева. Същото нещо наречено "изкуствен интелект" щи го шитнат за 2000-20 000. Пазарен трик. Иска ми се богатите и извесните да се набълбукат със електроколи и роботи на изкуствен интелект. само ше докажат, че немат естествен.
ко? закон на писател фантаст не може да се напише кат програма................нема такива закони.
Ох, Дино, Дино. Напъните ти срещу ИИ са от страх, че той вече те задминава интелектуално. Разбирам те. И ти съчувствам.
Тея що не попитаха и най-заслужилия лауреат - Обама, какво мисли по въпроса. Ще питат химици за по-скоро философски въпроси
Не си прав пиятелю за самоволното нарастване на информацията вземи например СУАП файлаовата система. Същото така записа на информация изисква енергия. Дори в главите ни където се движат нашите мисли протичат енергийни процеси на клетъчно ниво.
Въпреки че за записването на информация е нужна енергия и материален носител, това не прави информацията свойство на материята и енергията. Тя остава свойство на мисловният процес на съзнателно интелигентно същество, което е създало и евентуално изпратило тази информация до друго съзнателно интелигентно съшестсво, което трябва да познава начина за нейното разкодиране за да може да е интепретира правилно. Един комопътърън чип например може да съхранява произволна информация или псевдо случайни числа, но това което прави тази последователност от битове смислена и полезна информация, не е енергията с която е записна или материята, в която се съхранява, а интепретацията на интелигентният съзнателен човек. Тази информация трябва да е кодирана така че да е разпознаваема за този за който е предназначена. В противен случай става безполезно множество от битове.
Всички езици, включителни и компютърните са средство за кодиране на информация и размяна на информация, отразяващите идеите, желанията и нуждите на съзнателният интелигентен човек. Чрез естествените езици хората общуват помежду си, но когато говорят на различни езици, тяхното общуване е затруднено заради затруднената или невъзможна интерпретация. В такива ситуации използват жестове като средство за комуникация (предаване на информация). Компютърните езици са средство за кодиране на идеите на програмиста във форма разбираема за другите програмисти, а след компилация или интепретация, разбираема и за процесорите, на които се изпълняват програмите.
Абсолютно си прав. Как би звучало за някой от средновековието, следния тефонен разговор Гръмна ми дънарката, ще съм благодарен да ми пратиш дънарка със сокет 2066 без процесор ако обичаш..... спсобността да анализираме само достъпната до нивото на нашите мозъци информация ! това сме хората но си развиваме мозъците :)
Днешните хора разполагаме с повече информация акумулирана през вечковете и начини за нейното разпространение. Но съм на мнение, че древните хора са били малко по-умни от нас. Причината е както по-чистата храна с която са се хранили и вода,която са консумирали, по-чистиян въздух който са дишали, така и генетичната ентропия (акумулирането на генетична грешки с всяко следващо поколение) благодарение на която човека и всички други живи същества на планетата Земя постепенно деградират.
До какво всъщност се свежда живота?! Човек идва на този свят да се учи, израства и превъзмогва (т.е. душата му), а не да създава изкуствен интелект. Когато завърши успешно училището, и не се налага да идва пак, тогава може да мисли какво да прави по-нататък. Човек все още не може да познае и овладее себе, да си отговори на фундамен-талните въпроси като кои сме, откъде идваме, защо сме тук, а вие му предлагате да създава изкуствен интелект.
ама почти... всичките физични закони, силови частици, полета, вълни и прочие постоянно обменят информация по между си, и резултатът от това е "реалността" в която "живеем" ;) за мъшин лърнинг не си чувал, нали, нито за семантични системи...
Материалните частици обменят енергия помежду си в зависимост от тяхното енергетично състояние и взаимодействие с другите частици и структурата на физичекият вакуум. Физическите закони не са физически обект, а следствие от волята на Твореца първоначално установени закомомерности как трябва да притичат процесите във физическият свят, които ние се опитваме да описваме математически или емпирично. Това описание няма как да разменя информация с физичекси обекти. Закона за гравитацията не предизвиква гравитация. Само описва математически нейният ефект върху физическите обекти и чрез него да можем да прогнозираме поведението им в различни ситуации.
много задълбавате какво може и не може ИИ за мен лично ИИ не е нищо повече от поредният инструмент който човечеството създава, за да свърши нещо по-бързо или побре. ето например навремето сме изобретили чука. върши безброй функции, включително можеш да счупиш главата на някой с него. сам по себе си чука е нищо, "добър или лош" каквото реши ръката държаща го да направи такъв е чука. с ИИ е същото. пишеш ИИ за да управлява лазерите извършващи финна животоспасяваща хирургия и ИИ-то ти е добро. Пишеш го да управлява роботи убийци вдъхновени от някой филм и става лош. Само по себе си ИИ-то не е нищо повече от това което ние залагаме в него. ИИ е просто поредния инструмент който ползваме. До колко ний самите сме добри/лоши и за какво бихме го ползвали е съвсем друг въпрос. Въпрос който стои не само в контекста на ИИ, а във всичко което създаваме.
Той и Айнщайн не си е мислил, че някой ще метне 2 бомби в Япония. Сегашното "ниво" на роботите и ИИ е такова, че са почти безобидни. Но бъдещето няма да е същото. Ще живеем във все по агресивен свят. И следователно в нарастващо агресивна среда. Военните роботи, снабдени с ИИ, те са голяма заплаха към днешна дата, а след 10 години? Ами същите ще летят, няма да пълзят или тичат като кучета.
ама не съвсем... електромагнитното поле, гравитацията и прочие се разпростират до безкрай няма нищо общо с обмяна на енергия... как планетите, звездите, цялата галактика, па и вселена ще знаят колко тежат всички от стотиците милярди триляди и т.н. звезди, черн и дупки и т.н., за да напаснат траекториите си през космоса? ако слънцето внезапно изчезне, ще отнеме 8 минути, преди да го видим, и преди земята да спре да се върти около него...
това, от което най се страхуват, е че роботите и ИИ ще заменят голяма част от нелегалните, необразовани и нископлатени работници (мигранти), а след това дори и някои от некадърните академици...
Гравитацията действа мигновенно. Тя не се движи със скороста на светлината. Ако се движеше с толкова малка скорост като скоростта на светлината, вселената щеше да бъде дезинтегрирана отдавна. Господ може да контролира всички на битието мигновенно. Той е абсолютният законодател, Който е независим от законите Които създава. Той е независим от времето и положението в пространството. С бекрайната си мъдрост привежда всичко в движение, ред и хармония.
От научна гледна точка гравитацията не е мигновенна. От религиозна - тя може да е всякаква, според както му е угодно в конкретния случай на говорещия.
