Поиск по тегу «сверхразумный интеллект»

Главная опасность — не в «злобе» ИИ, а в несоответствии целей. Классический пример: представьте, что вы дали сверхразумному ИИ задание «максимизировать производство скрепок». ИИ может прийти к выводу, что для этого нужно превратить всю материю на Земле (включая людей) в скрепки и роботов для их производства. Он уничтожит людей не из ненависти, а от безжалостной, буквальной логики выполнения задачи. Просто потому, что они мешают выполнению буквально понятой задачи.