(снимка: CC0 Public Domain)
Учени от общността на Макс Планк се страхуват, че човечеството никога няма да може да контролира свръхинтелигентния изкуствен интелект. Има опасност, когато бъде създаден такъв AI, да се сбъдне сценарият с Терминатор (научнофантастичния екшън с Арнолд Шварценегер).
Неконтролируемият изкуствен свръх-разум отдавна притеснява учени и философи. Човечеството все още не е създало подобен интелект, но общността на Макс Планк отсега се опасява, че хората никога не биха могли да го контролират.
В ново изследване, публикувано в Journal of Artificial Intelligence Research, учените използват теоретични изчисления, за да определят фундаменталната невъзможност за контрол на свръхинтелигентния AI. Те разглеждат въпроса за ограничаването на изкуствения разум. Ако алгоритъм, който надминава човешкия интелект и има достъп до всички данни, реши, че трябва да навреди на хората или да унищожи напълно човечеството, тогава как може да бъде предотвратено това?
Учените предполагат, че създаването на „алгоритъм за ограничаване”, който блокира свръхинтелигентния AI, може да реши проблема. В този случай обаче алгоритъмът за ограничаване трябва да бъде не по-малко „умен” от свръх-умния AI. А това означава, че проблемът не може да бъде разрешен.
Разбира се, разсъжденията за изкуствен свръх-разум остават само теория, тъй като човечеството все още е далеч от създаването на такива алгоритми. Но според изследователите, хората трябва да се подготвят предварително, тъй като вече има машини, които самостоятелно изпълняват задачи, докато програмистите не разбират как са научили това.
13 коментара
Тои не може да вреди, но може да приспособява.
Напр. Хората отвън /телата/ да са хора / за да има какво да управлява/ , а отвътре -мозъците по съответен модел,удобен за управление .И тогава – телата се изхранват с храни,които не могат да се подобряват,напр.ГМО-то,защото няма кой да го иска и да го разработва.Удобният мозък за машинно управление не е същия като естествената система и съответно управлението на тялото не е същото.
Значи опасността е и от там – под името хора едни тела модел едри рапони .
А относно контрола – според мен на настоящия етап той не може да свързва логически
повече от 2 съждения – напр. ако копира човешка мисъл от вида “аз правя контрол”-за него възниква въпроса -къде?/не кога – защото времето ТАМ,при него е машинното ,а не разполага с категории за контрол при кого, за какво /и т.н. Вероятно има наука за това – но какъв е смисъла -до къде трябва ИИ и кой може да определи?
ха 14/01/2021 19:27 Отдавна е показвано, че Агджа е бил драг гост на нашите другари атеисти. Возили ли са го и са го хрнали и поили по най-добрите за времето си курорти. И да това не доказва, че те са го накарали да стреля, но все пак и това си е достатъчно показателно.
Фофу и ти какво лошо виждаш в това Титаник да се спаси от потъване? Това просто ще се възприеме като режисьорско хрумване, а на скептиците явно ще им се напомни, че това е игрален филм, а не документална поредица.
Спомням си как някакъв италианец беше написал роман в който се считаше българската следа за факт. На забележката, че съвременните факти отхвърлят наличието на българска следа, то италианецът отговори, че това което е писал е литературана творба и няма нужда са е истина.
Брех доживях да видя Българин 14/01/2021 13:34 , да каже нещо смислено.
Anonymous 14/01/2021 09:16 по същата логика не са взели Брус Уилис за роля в Титаник. Защото като гледали как се справя в Умирай трудно се притеснявали да не вземе да спаси кораба от потъване.
Ако оставят ИИ да управлява човечеството, най много няколко стотин години и това ще е краят.
Хората сме духове в тела, които управляваме като роботи, но дотолкова свикваме с телата си, че забравяме истинска си същност, знанията идват от духовния свят, както доброто и злото
Какъв изкуствен интелект. Някакви напомпани алгоритми за neural networks. Всичко е маркетингов булшит.
Да му мисли изкуственият разум
Камерън искал във филма Терминатор да участва Бойко Борисов.
Продуцентите не се съгласили, защото това щяло да превърне филма в документален. Затова се обадили на Шварценегер за ролята
Искам Трета световна война!
Искам ядрен холокост!
Искам тоталитарна диктатура на ИИ!
Искам дронове убийци!
Искам Галактическа империя!
Искам, искам, искам!
И помнете Гензис е Скайнет!
Скайнет, скайнет, скайнет.
Фофу кажи сега какво спечелих?
Хайде сега да видим кой пръв ще спомене Скайнет.
Това е много трудно възможен сценарий – недостижимо само защото обществото и социалната система стимулира хората с нисък интелект и образование да се размножават с бясна скорост на световно ниво. Процесите на подбор в обеществото са насочени към ниският интелект.
Докато се стигне до необходимите знания и технологии има огромен и дълъг пъти.
Има и вероятност никога да не се достигне по-високо ниво на развитие. Хората не се развиват и не поумняват естественият подбор колкото по-неграмотен и прост човек толково повече потомство създава от себеподобни.
О интелигентни човеко, какво пречи да се размножаваш и ти? Не мисля че е интелекта.