Открытое письмо с призывом не разрабатывать сверхразумный ИИ опубликовала
некоммерческая организация Future of Life Institute (FLI). Как пишет
Time, его подписали более 700 зарубежных
знаменитостей, политиков и ученых.
Инициаторы аргументируют запрет тем, что суперинтеллект нельзя создавать,
пока не будет уверенности, что это можно сделать безопасно и под контролем, а
также пока не будет полной поддержки общества.
Против нового «сверхразума» выступили пять нобелевских лауреатов,
соучредитель Apple Стив Возняк, советник Папы Римского Паоло Бенанти, актеры
Джозеф Гордон-Левитт и Стивен Фрай, рэпер will.i.am, писатель Юваль Ной Харари
и даже сотрудник OpenAI Лео Гао.
В FLI ожидают, что по мере развития кампании к ней присоединятся и другие
люди.
«Будущее искусственного интеллекта должно служить человечеству, а не
заменять его», — написал принц Гарри в сообщении, сопровождавшем его
подпись.
Авторы инициативы опасаются того, что ИИ, который может появиться уже через
пару лет, обгонит человека по всем показателям.
Единственное, что может остановить процесс, — это «всеобщее осознание в
обществе на всех уровнях того, что на самом деле мы этого не хотим». Так
изданию сказал исполнительный директор FLI Энтони Агирре.
«Время на исходе», — считает глава компании.
Организаторы к публикации письма добавили результаты опроса. Оказалось, что
64% американцев считают, что сверхразум развивать еще рано. С ними не согласны
только 5% опрошенных.
Подобное письмо организация публиковала в 2023 г. Оно получило широкое
обсуждение в обществе, но результата не принесло.
Свежие комментарии