Письмо также подписали более тысячи человек, среди них известные ученые и предприниматели, в частности, сооснователь Apple Стив Возняк, сооснователь Pinterest Эван Шарп.
В письме говорится, что в «неконтролируемой» гонке разработчиков систем ИИ никто, включая создателей, «не может понять, предсказать или контролировать» их действия.
Авторы письма призывают сделать паузу для создания и внедрения набора протоколов безопасности для более мощных систем. Речь идёт и о новых регулирующих органах, надежной системе проверки и сертификации, а также контроле более продвинутых систем ИИ.
«Современные системы искусственного интеллекта становятся конкурентноспособными в решении многих задач, и мы должны спросить себя, <…> должны ли мы развивать нечеловеческие умы, которые в конечном итоге смогут превзойти нас численностью, перехитрить и заменить? <…> Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми».
ТК Подъем @pdmnews
