Хората няма да могат да контролират свръхинтелигентните машини
Хората няма да могат да контролират свръхинтелигентните машини …
Международен екип от учени демонстрира, че контролът върху свръхинтелигентен изкуствен интелект е невъзможен (HiddenTruth.site).
Проведеното изследване е публикувано в Journal of Artificial Intelligence Research.
Представители на различни научни дисциплини, включително специалисти от Центъра за хора и машини към Института за човешко развитие Макс Планк (Center for People and Machines of the Max Planck Institute for Human Development), решават да тестват до колко хората са в състояние да контролират свръхинтелигентни роботи.
Един от авторите на изследването – Мануел Себриан (Manuel Sebrian), ръководител на групата за дигитална мобилизация в Центъра за хора и машини към Института Макс Планк, казва:
„Суперинтелигентна машина, която управлява света, звучи като научна фантастика. Но, вече има роботи, развили независимо и самостоятелно изпълняване на определени важни задачи. В същото време, програмистите изобщо не разбират как са се научили на това.
В резултат възниква въпросът: може ли този процес в един момент да стане неконтролируем и опасен за човечеството? ”
Четете още: База на ВВС на САЩ се охранява от кучета роботи (видео)
За да отговорят на този въпрос, учените са използвали моделиране и теоретични изчисления.
Както се оказва, дори ако се инсталират данни за етичните принципи в свръхинтелигентна машина и се ограничи нейната комуникация с външния свят, например достъпа до интернет се изключи, това няма да спаси човечеството от риска такава система да излезе извън контрол.
Факт е, че според теорията на компютърните науки, всеки от алгоритмите за такова ограничаване, било то програми за етични принципи или ограничаване на достъпа до външния свят, е уязвим и при определени обстоятелства е напълно способен да се задейства, дори и изключен.
Ето защо, експертите заключават, че човек няма да може да контролира свръхинтелигентните роботи и ситуацията, рано или късно, може да излезе извън контрол.
Изследователите обобщават:
„Ние твърдим, че пълното ограничаване по принцип е невъзможно, поради основни ограничения, присъщи на самото изчисление.
Супер роботът ще съдържа програма, която включва всички програми, изпълнявани от универсална машина на Тюринг (Turing machine), потенциално толкова сложна, колкото състоянието на света.“
Lucky е съвременен митолог и разказвач. Той превръща древни легенди, неразгадани мистерии и любопитни исторически факти в увлекателни статии. Със силен фокус върху историческата достоверност и потайните аспекти на човешката култура, той изследва теми от мистични цивилизации и изчезнали империи до тайните на съвременното изкуство и наука. Всяка негова статия е пътешествие, което ви кара да погледнете отвъд очевидното.
