AI може да се преструва на глупав, за да ни подчини, предупреждава изследовател
Джо Роугън често обсъжда изкуствения интелект в подкаста си, където кани гости да изследват един належащ въпрос: Какво ще стане, когато машините започнат да мислят по-добре от нас?
В скорошен епизод Роугън разговаря с д-р Роман Ямполски, изследовател по безопасност на AI, за мрачните възможности, които крие напредналият изкуствен интелект. Разговорът придоби трезвен тон, когато Ямполски изложи причините си да вярва, че AI може да представлява екзистенциална заплаха.
Ямполски, компютърен учен с над десетилетие опит в изследванията на AI риска, сподели пред Роугън, че много лидери в индустрията неофициално оценяват шансовете AI да унищожи човечеството на 20-30%.
Роугън обобщи обичайния оптимистичен възглед: AI може да направи живота по-лесен, по-евтин и по-добър. Но Ямполски рязко не се съгласи: „Всъщност това не е вярно. Всички те са публично заявили едно и също: това ще ни убие. Нивата им на обреченост са безумно високи. Не колкото моите, но все пак 20 до 30 процента шанс човечеството да умре е много.“
Роугън, звучейки неспокойно, отвърна: „Да, това е доста високо. Но твоето е 99,9 процента.“
Ямполски не спори: „Това е друг начин да кажем, че не можем да контролираме суперинтелекта безкрайно. Това е невъзможно.“
Роугън се зачуди дали AI вече не крие истинската си интелигентност: „Ако бях AI, щях да скрия способностите си,“ каза той.
Ямполски се съгласи: *„Няма да разберем. И някои хора смятат, че това вече се случва. Те [AI системите] са по-умни, отколкото ни показват. Преструват се на по-глупави, и така ние трябва някак да вярваме, че не са достатъчно умни, за да разберат, че не трябва да се обръщат срещу нас веднага.
Може просто бавно да стават по-полезни. Могат да ни научат да разчитаме на тях, да им вярваме, и за по-дълъг период от време ние ще се откажем от контрола, без никога да гласуваме за това или да се борим срещу него.“*
Освен внезапна катастрофа, Ямполски предупреди за по-бавна опасност: хората да разчитат толкова много на AI, че да изгубят критичното си мислене. Точно както смартфоните направиха запаметяването на телефонни номера ненужно, AI може да поеме все повече когнитивни задачи, докато вече нямаме контрол.
„Започваш да се привързваш към него,“ каза той. „И с времето, когато системите стават по-умни, ти се превръщаш в биологично непотребен… [AI] те блокира от вземането на решения.“
Когато Роугън попита как AI може да унищожи човечеството, Ямполски отхвърли типичните апокалиптични сценарии като кибератаки или биологични оръжия. Вместо това той твърди, че един суперинтелигентен AI би измислил нещо отвъд човешкото разбиране — точно както хората са извън разбирането на катериците.
„Няма група катерици, която да може да разбере как да ни контролира, нали? Дори да им дадеш повече ресурси, повече жълъди, каквото и да е, те няма да решат този проблем. И същото важи за нас.“
Като водещ експерт по безопасност на AI, Ямполски е автор на книгата „Изкуствената суперинтелигентност: футуристичен подход“ и настоява за строг надзор върху развитието на AI. Неговият опит в киберсигурността и разпознаването на ботове подхранва убеждението му, че неконтролираният AI може да излезе извън човешки контрол — особено с развитието на дийпфейкове и синтетични медии.
Следвайте ни в Telegram ,Facebook, Instagram, Twitter и Youtube за интересно и мистериозно бонус съдържание
За автора: Jabba
Jabba е изследовател на непознатото, разследващ журналист по душа и ловец на истини, които официалната история предпочита да мълчи. С над 10 години опит в писането на алтернативни анализи и дълбоки разследвания.
