Бивш служител на OpenAI: „Вероятността ИИ да унищожи човечеството е 70 %.“
В стремежа си да бъде първият в създаването на Изкуствен общ интелект, OpenAI ще предприеме безразсъдни и рисковани действия, които могат да застрашат човечеството, неподготвено за това, което предстои.
Някои експерти в тази революционна технология се свързват с ефективния алтруизъм, движение, вдъхновено от утилитаризма, което през последните години е посветено на предотвратяването на екзистенциални заплахи от Изкуствения интелект.
Един от тях е Даниел Кокотайло, бивш изследовател в управлението на компанията, ръководена от Самюъл Харис Олтман.
Пред Ню Йорк Таймс Кокотайло казва:
„OpenAI е много развълнуван от създаването на Изкуствен общ интелект и те са нетърпеливи да бъдат първите, които ще го направят.“
Той пише до своя екип, обяснявайки напускането си от компанията миналия април:
„Светът не е готов, ние също не сме. Загрижен съм, че вървим напред прибързано и необмислено рационализираме действията си.“
Четете още: Ние ли сме ИИ? Хипотезата на HiddenTruth, че човечеството е древен изкуствен интелект
След последния си опит Кокотайло вярва, че Изкуствен общ интелект ще бъде създаден през 2027 г. и има 70 % шанс да унищожи или причини катастрофални щети на човечеството.
Поради тази причина той и група негови колеги публикуват отворено писмо, призовавайки големите компании за Изкуствен интелект, включително OpenAI, да осигурят по-голяма прозрачност и по-голяма защита на лицата, подаващи сигнали.
„Когато се присъединих към OpenAI, не се присъединих с нагласата – нека просто да изхвърлим нещата в света, да видим какво ще се случи и да ги поправим по-късно!“, обяснява Уилям Сондърс, изследователски инженер, който напусна OpenAI през февруари и е още един от подписалите писмото, което също е анонимно подкрепено от няколко настоящи служители – защото според Кокотайло те се страхуваха от отмъщение от компанията.
След публикация по темата на 4 юни 2024 г., отговорът на компанията се появява само няколко часа по-късно.
Линдзи Хелд, говорител на OpenAI, коментира:
„Гордеем се с нашия опит в създаването на по-ефективни и по-безопасни системи с Изкуствен интелект и вярваме в нашия научен подход за елиминиране на риска. Съгласни сме, че строгият дебат е от решаващо значение предвид важността на тази технология и ще продължим да се ангажираме с правителствата, гражданското общество и други общности по целия свят.“
Какво мислите Вие?
Следвайте ни в Telegram , Instagram, Twitter и Youtube за интересно и мистериозно бонус съдържание
Lucky е съвременен митолог и разказвач. Той превръща древни легенди, неразгадани мистерии и любопитни исторически факти в увлекателни статии. Със силен фокус върху историческата достоверност и потайните аспекти на човешката култура, той изследва теми от мистични цивилизации и изчезнали империи до тайните на съвременното изкуство и наука. Всяка негова статия е пътешествие, което ви кара да погледнете отвъд очевидното.
