Бивш служител на OpenAI: „Вероятността ИИ да унищожи човечеството е 70 %.“


В стремежа си да бъде първият в създаването на Изкуствен общ интелект, OpenAI ще предприеме безразсъдни и рисковани действия, които могат да застрашат човечеството, неподготвено за това, което предстои.

Някои експерти в тази революционна технология се свързват с ефективния алтруизъм, движение, вдъхновено от утилитаризма, което през последните години е посветено на предотвратяването на екзистенциални заплахи от Изкуствения интелект.

Един от тях е Даниел Кокотайло, бивш изследовател в управлението на компанията, ръководена от Самюъл Харис Олтман.

Пред Ню Йорк Таймс Кокотайло казва:

„OpenAI е много развълнуван от създаването на Изкуствен общ интелект и те са нетърпеливи да бъдат първите, които ще го направят.“

Той пише до своя екип, обяснявайки напускането си от компанията миналия април:

„Светът не е готов, ние също не сме. Загрижен съм, че вървим напред прибързано и необмислено рационализираме действията си.“

Четете още: Ние ли сме ИИ? Хипотезата на HiddenTruth, че човечеството е древен изкуствен интелект

След последния си опит Кокотайло вярва, че Изкуствен общ интелект ще бъде създаден през 2027 г. и има 70 % шанс да унищожи или причини катастрофални щети на човечеството.

Поради тази причина той и група негови колеги публикуват отворено писмо, призовавайки големите компании за Изкуствен интелект, включително OpenAI, да осигурят по-голяма прозрачност и по-голяма защита на лицата, подаващи сигнали.

Когато се присъединих към OpenAI, не се присъединих с нагласата – нека просто да изхвърлим нещата в света, да видим какво ще се случи и да ги поправим по-късно!“, обяснява Уилям Сондърс, изследователски инженер, който напусна OpenAI през февруари и е още един от подписалите писмото, което също е анонимно подкрепено от няколко настоящи служители – защото според Кокотайло те се страхуваха от отмъщение от компанията.

След публикация по темата на 4 юни 2024 г., отговорът на компанията се появява само няколко часа по-късно.

Линдзи Хелд, говорител на OpenAI, коментира:

„Гордеем се с нашия опит в създаването на по-ефективни и по-безопасни системи с Изкуствен интелект и вярваме в нашия научен подход за елиминиране на риска. Съгласни сме, че строгият дебат е от решаващо значение предвид важността на тази технология и ще продължим да се ангажираме с правителствата, гражданското общество и други общности по целия свят.“

Какво мислите Вие?


FacebooktwitterrssyoutubeFacebooktwitterrssyoutube

Интелектуална собственост на HiddenTruth