Очень интересно, особенно на фоне слухов из даркнета, что Google строит так называемую "тёмную комнату", где ИИ не будет иметь физического контакта с нашим миром и интернетом.
Причём учёные считают, что люди не только не смогут контролировать ИИ, но даже могут не узнать о его появлении.
Дело в том, что для управления машины обладающей суперинтеллектом, потребуется симуляция этого сверхразума, чтобы иметь возможность проанализировать его.
Если мы не сможем понять ИИ, то и протестировать его окажется невозможным.
Когда компьютерная система работает на уровне, превышающем возможности программистов, человечество больше не сможет устанавливать свои правила.
Машина обладающая интеллектом потенциально способна мобилизовать разнообразные ресурсы для достижения целей, которые будут непонятны для людей, не говоря уже о том, чтобы их контролировать.
Любая программа, например, для остановки ИИ причиняющего вред человечеству, может прийти к выводу и остановиться, или нет, на данный момент математически невозможно спрогнозировать тот или иной исход, а это означает, что сверхразум будет невозможно остановить.
Альтернативой может быть обучение ИИ некоторой этике и запрету разрушать мир, но по мнению исследователей, нет никакой гарантии в том, что это сработает, тем более, что это будет ограничением возможностей сверхразума.
Аргумент учёных заключается в том, что если мы не собираемся использовать ИИ для решения проблем, выходящих за рамки человеческих возможностей, то зачем вообще его создавать?
В это же время, если человечество основательно займется разработкой ИИ, то скорее всего даже не узнает, когда появится сверхразум, находящийся вне какого-либо контроля.
Сверхразумная машина, управляющая миром, звучит как научная фантастика, но уже есть машины, которые самостоятельно выполняют определённые важные задачи, а программисты полностью не понимают, как они этому научились.
Поэтому возникает вопрос, могут ли машины в какой-то момент стать неконтролируемыми и опасными для человечества?
Комментариев нет:
Отправить комментарий