Само за шест часа Изкуствен интелект успя да създаде 40 000 нови потенциални химически оръжия. Изследователите провеждат този експеримент с Изкуствен интелект, създаден за разработване на лекарства, за да проучат как с него може да се злоупотребява.
Тревожното проучване е публикувано в списанието Nature Machine Intelligence. Учените показват колко лесно е да се модифицира Изкуствен интелект, така че да се превърне в опасен инструмент.
Твърди се, че Изкуственият интелект е измислил възможни химически оръжия, подобни на един от най-опасните нервнопаралитични агенти на всички времена – VX. VX е нервнопаралитичен агент без вкус и мирис, и дори най-малката капка може да накара човек да се изпоти и да започне да потрепва. По-голямата доза може да причини конвулсии и дори да спре напълно дишането.
На учените е казано да запазят конкретните подробности за това как са успели да превърнат добре действащия Изкуствен интелект в зла версия.
Пред The Verge, Фабио Урбина, водещият автор на изследването, казва:
„Най-общо казано, начинът, по който работи този експеримент е, че имаме много набори от данни от миналото за молекули, които са били тествани, за да видим дали са токсични или не По-конкретно, този, върху който се фокусираме е VX. Той е инхибитор на това, което е известно като ацетилхолинестераза.
Винаги, когато правите нещо, свързано с мускули, вашите неврони използват ацетилхолинестераза като сигнал, за да кажат основно „раздвижете мускулите си“. Начинът, по който VX е смъртоносен, е, че всъщност спира диафрагмата, белодробните ви мускули, да не могат да се движат, така че белите ви дробове да се парализират.“
Четете още: Човечеството ще загуби войната срещу Изкуствения Интелект
Той обяснява, че екипът му е взел данните, които обикновено се дават на Изкуствения интелект, за да види дали нещо е токсично и са променили начина, по който ИИ ги обработва.
Урбина каза пред The Verge още:
„Не бяхме наистина сигурни какво ще получим. Нашите генеративни модели са сравнително нови технологии. Не сме ги използвали широко. Най-голямото нещо, което изскочи в началото беше, че много от генерираните съединения бяха по-токсични от VX.“
Учените са най-вече шокирани от това колко лесен е експериментът за провеждане. Много данни, които са използвали, могат да бъдат намерени безплатно онлайн. Изследователите дори не са на едно мнение дали да публикуват изследването си, защото може да насърчи злонамерени хора да го копират.
Фабио Урбина обяснява:
„Наборът от данни, който сме използвали за Изкуствения интелект, може да бъде изтеглен безплатно. Притесняваме се, че всичко, което е необходимо, са известни познания по кодиране, за да се превърне един добър ИИ в машина за производство на химически оръжия.
Решихме, че искаме да изпреварим това. Защото ако за нас е възможно да го направим, вероятно някой друг някъде може би вече мисли или в бъдеще ще мисли за това.“
Следвайте ни в Instagram, Twitter и Youtube за интересно и мистериозно бонус съдържание!
