Нобелисти:Изкуственият интелект е най-безопасен
Списание "Хайър едюкейшън" проведе допитване сред 50 Нобелови лауреати за главните заплахи, които стоят пред човечество.
Обратно в новинатаКоментари - Нобелисти:Изкуственият интелект е най-безопасен | IT.dir.bg
Коментари
Тази година се навършват 20 г. от онзи паметен ден когато компютърът Диип Блу или "Синята бездна" победи великият грос майстор Гари Каспаров, а законът на Мур продължава да е в сила...
това, от което най се страхуват, е че роботите и ИИ ще заменят голяма част от нелегалните, необразовани и нископлатени работници (мигранти), а след това дори и някои от некадърните академици...
Той и Айнщайн не си е мислил, че някой ще метне 2 бомби в Япония. Сегашното "ниво" на роботите и ИИ е такова, че са почти безобидни. Но бъдещето няма да е същото. Ще живеем във все по агресивен свят. И следователно в нарастващо агресивна среда. Военните роботи, снабдени с ИИ, те са голяма заплаха към днешна дата, а след 10 години? Ами същите ще летят, няма да пълзят или тичат като кучета.
много задълбавате какво може и не може ИИ за мен лично ИИ не е нищо повече от поредният инструмент който човечеството създава, за да свърши нещо по-бързо или побре. ето например навремето сме изобретили чука. върши безброй функции, включително можеш да счупиш главата на някой с него. сам по себе си чука е нищо, "добър или лош" каквото реши ръката държаща го да направи такъв е чука. с ИИ е същото. пишеш ИИ за да управлява лазерите извършващи финна животоспасяваща хирургия и ИИ-то ти е добро. Пишеш го да управлява роботи убийци вдъхновени от някой филм и става лош. Само по себе си ИИ-то не е нищо повече от това което ние залагаме в него. ИИ е просто поредния инструмент който ползваме. До колко ний самите сме добри/лоши и за какво бихме го ползвали е съвсем друг въпрос. Въпрос който стои не само в контекста на ИИ, а във всичко което създаваме.
До какво всъщност се свежда живота?! Човек идва на този свят да се учи, израства и превъзмогва (т.е. душата му), а не да създава изкуствен интелект. Когато завърши успешно училището, и не се налага да идва пак, тогава може да мисли какво да прави по-нататък. Човек все още не може да познае и овладее себе, да си отговори на фундамен-талните въпроси като кои сме, откъде идваме, защо сме тук, а вие му предлагате да създава изкуствен интелект.
Тея що не попитаха и най-заслужилия лауреат - Обама, какво мисли по въпроса. Ще питат химици за по-скоро философски въпроси
Химици и биолози да се изхождат по въпроси за изкуствен интелект. Бай Иван водопроводчика знае също доста.
Как една самомодифицираща се програма ще се предпази от акумулирането на случайни грешки и загуба на фунционалност след всяка промяна, след като няма нужният интелект за да оцени смисъла на промените? Как ще си формулира цели след като няма съзнание и как ще ги осъществи без воля? Имам опит с разработка на софтуер и мога да кажа, че поради взаимосвързаната функционалност на отделните елементи на една програма, е много по-лесно да се направят грешки (синтактични, лексически и логически), които да осуетят частично или напълно нейната фукционалност, отколкото да се добави нова функционалност съвместима със съществуващата функционалност. Това е причината програмирането изисква интелигентност и детайлно разбиране на целите, които трябва да се постигнат. Ако при неосъзнати промени вероятността за грешки е много по-голяма от вероятността за упешна функционална промяна, как можем да очакаваме развитие в положителна посока, след като ще се натрупват все повече грешки при всяка итерация и рано или по-късно програмата ще е спре да работи. Същата деградация наблюдаваме при живите организми и случайните неосъзнати промени в тях поради взаимосвързаната функционалност е нередуцируема комплесност на отделните им подсистеми и фукционални единици.
Приятел, не си прав, може да се направи една огромна облачна база, съдържаща взимовръзките надолу, но наистина ще е огромна тогава само една подпрограма която се старира на определн интервал ще разбира дали има грешки. Но затова трябва огромен ресурс. А за живота не си прав в него е заложена евплюцията, без нея нямаше да ни има с теб.
Колкото и богата да е базата данни на една програма, това не и помага дори в малка степен да започне да осъзнава какво върши. Програмата не е личност и не притежава съзнание и интелект. Няма морал и воля. Колкото и сложна да е тя, или колкото и фунционален и бърз да е един компютърен чип, те не осъзнават какво вършат. Основата на организацията във физическите системи е инфомацията, която не е свойство на материята и енергията. Тя е свойство на мисловният процес на интелигентно, съзнателно, рационално, морално и целево същество. Чрез нея това същество може да дефинира и увеличава или поддържа порядъка във физическите системи съгласно своите познавателни възможности и интелект, и според своите духовни и физичекси нужди. Чрез нея то описва организацията на физическите системи, тяхната фунционалност и взаимодействието между отделните им елементи, за да постигне предварително обмислена цел. Без участието на такова съзнателно същество, не може да има увеличение на информацията и порядъка във физическите системи. Самоволното увеличаване на информацията във физическите системи е невъзможно. Такава идея противоречи на закона за причино-следствената връзка, който гласи че няма следствие без и по-голямо или равно на неговата причина.
Това на което му викат ии, всъщност е логиката, която сваля човека от клоните и превръща страховете му в аец. Рационализацията на този процес, на скорост и в оптимално ефективен вариант, не е във възможностите на човеците на това ниво на равитие и комуникация. Смешно е как и тук се "подреждат" нещата не според възможностите, а според страховете но в същото време се трупат плюшени мечета по местопрестъпленията и пее "не ме е страх". Всъщност е жалка картинка.. Но ще открехна нещо за случващото се. Промяната на така нареченият "социум", е един от основните фактори от които зависи експлоатацията на техническите възможности днес. В основата на този процес се намира закономерност, която превръща канбалите във вегани. Логиката на развитие в еволюцията Доказва, че съумеем ли да заживеем заедно и да станем завършени хора, тепърва ще открием на кой свят съществуваме. Той, до този момент е абсолютна загадка но за възможностите може да се посочи един конкретен пример: "Nanomaschine tötet Krebszellen in nur 60 Sekunden" и да се добави логичната костатация: При положение, че контролираш всяка клетка на молекулно ниво, не само ставаш независим от болести и стареене! През 1999 дадоха нобелова награда за машината която Edward Sagan не дочака и чието развитие тепърва предстои. Иронията е в това, че машината практически е невидима за човешкото око но се прави от хора. Но дали е железница, аец, дрон, нанопробот или ии, шибаната машина ни трябва, а това е най-важното и преди всичко! Тя се развива така, както ние не се връщаме по дърветата и не ни растат опашки, тя си има посока на развитие, която е независима от човешкият идиотизъм и посоката е само една. В математиката няма място за страхове и таласъми, две и две не е пет, защото някой се страхувал от четири. Самата тема е за видиотяване и неслучайно липсват каквито и да е теми, засягащи конкретно възможностите, които предоставят технологиите днес.
хората, които са разпитвани явно си нямат понятие от изкуствен интелект. Там е работата, че той е ... хммм ... програма но която се пренаписва сама. Това не е стриктно зададена .... хммм програма, а постоянно модифицираща се съгласно обстоятелствата и поставените му цели. Ако чисто хипотетично един такъв интелект има за цел да избие човешката раса то рано или късно ще набере мощ да го направи - тук г-н Путин е прав по отношение на изявлението си по тази тема
Хайде да уточним - контингентът на нобеловите лауреати се формира чрез избор от комитет от шепа хора, повечето от които не са и учени. Та по-добре е да се вземе мнението на доказани учени - тези с най-много цитирания в научните списания например. Щото сред тези 50 човека сигурно е гласувал и конформистът Обама и г-жа Светлана Алексиевич. Която е доста далече от изкуствения интелект .......
Ами да де. ..каквото е програмирано това прави....а кой и какво ще програмира ....зависи в какви ръце ще попадне и какви мераци ще програмира...ако беше в ръцете на Хитлер????....щеше да си прехвърли мозъка в машината и до днес още концлагерите щяха да правят сапун...
АКО ОТЧЕТЕМ ФАКТА ЧЕ 80% ОТ МЕРИКАНЦИТЕ СА ПРОЧЕЛИ ПОД 20 КНИГИ В ЖИВОТА СИ , МОЖЕ И ДА СА ПРАВИ НОВЕЛИСТИТЕ :)))
То и едно цигане, като се роди, е безвредно, но средата, в която живее после го променя.
Има два вида изкуствен интелект. Слаб без въображение и силен със въоръжение и самоубучение. Учените тук говорят за първия. Вторият е непредвидим !
изкуствен интелект та изкуствен интелект - абе какво е туй нещо някой може ли да ми обясни ? нещо като програма с която играя шах срещу компютъра ли е - ама то на нея и е заложено да следва ходове на хора и може би да ги доразвива или да съчетае най-умните шахматни ходове в историята на шаха , ами ако и световната политика една програма събере най-умните постъпки от Меркел, Тръмп, Бойко и от Путин може да стане по-добре хавата ама може и да се прецакаме жестоко с тоя изкуствен интьелект
това, за което си мислиш, е експертна система. много хора бъркат изкуствения интелект с експертна система.
Точно така. Проблемът е в това, че правят експертни системи (понякога със съмнителна експертност), пък искат да ни убедят, че това било Изкуствен Интелект. Като говорят и пишат за Изкуствен Интелект си мислят за живо същество, което може да мисли. Пък то било експертна система - виж началото. :)
Доста компрометирано понятие. Което на всичко отгоре през годините непрекъснато се мени. И което се е използвало, пак през годините, за обозначаване на различни неща. И което се е провалило в доста от областите. И компрометирано от комерсиализацията - днес всеки битов уред, в който се сложи най-прост управляващ микропроцесор и веднага се обявява за "умен" и с "изкуствен интелект". Все пак има някои сериозни разработки. Имитация на невроните, самообучение, саморазвитие, самопознание, решаване на слабо дефинирани проблеми и др. Суперкомпютри на IBM, военни дотации и др. Интересно е, но далече от приложение в бита. Има и постижения, някога били ИИ, а сега - масовизирани - разпознаване на реч, разпознаване на изображения, оттам самоуправляващи се коли, експертни системи и мн. други.
За съжаление мисля че някой от нобеловите л. Колкото и да са интелигентни са хора които разбират от съвсем други неща и схващането им за И.И. е доста остаряло. Само помислете върху първичните цели с които се ползва И.И. основно да прави цялостни портрети на ползвотелите на соц. Мрежи и да предвижда техните действия. Ето вече някой го ползва с користни цели а сега си представете че го няма този някой , който осъществява контрола (без значение целта). Т.е. машината поставя сама задачите си и после ги изпълнява. Ами ако това не е стряскащо и страшно аз не знам кое е?
Ако е интелект, ще се самообучава и саморазвива. Ерго каквото и да му е заложено с времето ще бъде преодоляно и ще прави това, което счита за ефективно с оглед целите си. А и целите си ще промени. И ние уж сме подвластни на инстинкта за самосъхранение, но статистиката за самоубийствата показва, че е преодолим. Уж имаме инстинкт за размножаване, но много хора съзнателно избират да нямат деца. И т.н.
Наблюдвайки реалността в която живеем, виждаме как материалните неща губят своята структура и функционалност с времето. Не става по-нови, по-сложни и по-функционални, а преминават от състояние с по-висока степен на организация към състояние с по-ниска степен на организация. Полезната енергия в системата постепепно намалява за сметка на неизпозлвамеата енергия, като общото количество остава константа. Могат да се развиват единствено съзнателни интелигенти, морални, рационални и целеви същества до степен ограничена отгоре от информацията и фунционалноста вложена в тях. Това е реланоста в която живеем. В нея самоволно рзазвитие е невъзможно.
Наблюдвайки интернет, който всички ползваме, виждаме как материалните неща придобиват все повече разновидности и функционалност с времето, за да задоволят прищевките, породени от по-добра информираност и избор. Стават по-нови, по-сложни и по-функционални, и преминават в състояние с по-висока степен на организация. Интернет магазините са ярък пример. Тези с ниска степен на организация фалират. Полезната енергия в интернет системата постепепно се увеличава за сметка на енергията, в реалния живот. Като цяло общото количество енергия остава константа. Количеството енергия отдавано в реалния живот намалява. Могат да се развиват интелигентни, рационални и целеви същества до неограничена степен. Другото е оповаване на по-висша сила, която да оправя каша, която ние като хора ще забъркаме. Изкуственият интелет няма да промени законите на вселената. Той не е заплаха за Господ. Но теоретично е напълно възможно да замести човека във физическата й част.
Ще видим как фантастиката става реалност. Спомних си за някакви закони за изкуствения интелект. Дали наистина ще бъдат въведени?
Проблемът е, че законите не са за интелeкта, а за роботиката. Разликата е голяма. Дело са на Айзък Азимов и са формулирани още 1942 г. Оттогава много вода е изтекла. 1.Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда. 2.Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон. 3.Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон. 4.По-късно формулиран от робот Закон 0: Един робот не трябва да причинява вреда на човечеството или чрез бездействие да причини вреда на човечеството. Съответно към останалите закони се добавя и "ако това не противоречи на Нулевия закон."
всъщност изкуствения интелект е интелект, защото се очаква да излезе от рамките на заложеното
