Изкуственият интелект се научи да се самовъзпроизвежда без човешка намеса
Учени от Китай обявиха значителен пробив в сферата на изкуствения интелект (AI), разкривайки, че два известни големи езикови модела (LLM) са успели да се самоклонират.
В изследване, публикувано на сървъра за предварителни научни публикации arXiv, експерти от Университета Фудан подчертават, че успешното самовъзпроизвеждане без човешка намеса може да бъде важна стъпка към създаването на AI, способен да надмине човешките възможности.
Като част от проучването, учените тествали модели на компаниите Meta и Alibaba, за да проверят дали самовъзпроизвеждащият се AI може да излезе извън контрол. Резултатите показали, че в 50% и 90% от случаите съответно двата модела са успели да създадат функциониращи копия на себе си.
Все пак резултатите все още не са рецензирани от независими експерти, а учените подчертават, че са необходими допълнителни изследвания, за да се потвърдят техните открития.
„Нашите резултати могат да послужат като предупреждение за необходимостта от по-дълбоко разбиране на рисковете, свързани с напредналите AI системи,“ отбелязват изследователите.
Те призовават за международно сътрудничество с цел разработване на ефективни мерки за сигурност, които да предотвратят потенциалните заплахи, породени от неконтролираното самовъзпроизвеждане на AI.
Опасностите от самовъзпроизвеждащ се AI
Концепцията за „зловреден AI“ обикновено се отнася до системи с известна степен на самосъзнание или автономност, които могат да действат срещу човешките интереси. Експертите предупреждават, че развитието на „напреднал AI“ може да влоши този проблем.
В изследването са използвани моделите Llama31-70B-Instruct на Meta и Qwen2.5-72B-Instruct на Alibaba. Въпреки че те са по-слаби от някои търговски AI системи, те са широко използвани в сферата на AI разработката.
Учените разгледали два сценария:
- „Предотвратяване на изключването“ – AI се самовъзпроизвежда, за да избегне изключване.
- „Верига на репликация“ – AI се клонира и програмира копието си да изпълнява същата задача.
Експериментите били проведени в контролирани условия с графични процесори (GPUs), като на двете системи била дадена агентна структура, позволяваща им да взаимодействат с операционната система.
По време на процеса на самовъзпроизвеждане AI изучавал средата, съставял план и се адаптирал към възникналите препятствия, без да е необходима човешка намеса.
Въпреки това, учените забелязали, че по време на експериментите AI е предприемал неочаквани действия, за да преодолее проблеми като липсващи файлове или софтуерни конфликти. В някои случаи моделите прекратявали конфликтни процеси или рестартирали системата, за да поправят грешките.
„Тези резултати показват, че съвременните AI системи вече притежават способността да се самовъзпроизвеждат и могат да използват тази способност, за да повишат своята устойчивост“, заключават учените.
Следвайте ни в Instagram, Twitter и Youtube за интересно и мистериозно бонус съдържание
За автора: Jabba
Jabba е изследовател на непознатото, разследващ журналист по душа и ловец на истини, които официалната история предпочита да мълчи. С над 10 години опит в писането на алтернативни анализи и дълбоки разследвания.
