вторник, 19 января 2021 г.

Valentin Gadenoff: Люди не только не смогут контролировать ИИ, но даже могут не узнать о его появлении

Новые расчёты показывают, что управлять ИИ будет невозможно.

Очень интересно, особенно на фоне слухов из даркнета, что Google строит так называемую "тёмную комнату", где ИИ не будет иметь физического контакта с нашим миром и интернетом.

Причём учёные считают, что люди не только не смогут контролировать ИИ, но даже могут не узнать о его появлении.

Дело в том, что для управления машины обладающей суперинтеллектом, потребуется симуляция этого сверхразума, чтобы иметь возможность проанализировать его.

Если мы не сможем понять ИИ, то и протестировать его окажется невозможным.

Когда компьютерная система работает на уровне, превышающем возможности программистов, человечество больше не сможет устанавливать свои правила.

Машина обладающая интеллектом потенциально способна мобилизовать разнообразные ресурсы для достижения целей, которые будут непонятны для людей, не говоря уже о том, чтобы их контролировать.

Любая программа, например, для остановки ИИ причиняющего вред человечеству, может прийти к выводу и остановиться, или нет, на данный момент математически невозможно спрогнозировать тот или иной исход, а это означает, что сверхразум будет невозможно остановить.

Альтернативой может быть обучение ИИ некоторой этике и запрету разрушать мир, но по мнению исследователей, нет никакой гарантии в том, что это сработает, тем более, что это будет ограничением возможностей сверхразума.

Аргумент учёных заключается в том, что если мы не собираемся использовать ИИ для решения проблем, выходящих за рамки человеческих возможностей, то зачем вообще его создавать?

В это же время, если человечество основательно займется разработкой ИИ, то скорее всего даже не узнает, когда появится сверхразум, находящийся вне какого-либо контроля.

Сверхразумная машина, управляющая миром, звучит как научная фантастика, но уже есть машины, которые самостоятельно выполняют определённые важные задачи, а программисты полностью не понимают, как они этому научились. 

Поэтому возникает вопрос, могут ли машины в какой-то момент стать неконтролируемыми и опасными для человечества?

Комментариев нет:

Отправить комментарий

Внимание! 14 декабря 2021 г. произошла хакерская атака на наш сайт! Исчезли все иллюстрации. Но главное ведь это - текстовый контент ;). Так победим!
Attention! On December 14, 2021, there was a hacker attack by on our site! All illustrations are gone. But the main thing is text content ;). So we will win!

* "Когда человек узнает, что движет звёздами, Сфинкс засмеётся и жизнь на Земле иссякнет" (иероглифическая надпись на скале храма Абу-Симбел, Египет, 1260 г. до н.э.),
* "Любовь, что движет солнце и светила" (Данте Алигьери, "Божественная комедия"),
* "Радуйтесь тому, что имена ваши записаны на небесах" (Лука, 10:20);
* "Число душ в Космосе равно числу звезд и распределено по одной на каждой звезде" (Платон, "Тимей", 41е);
* "Буддам несть числа как звёздам в небесах" (Ваджранатха);
* "У каждого в глазах своя звезда" (Хафиз Ширази);
*"- Хотел бы я знать, зачем звёзды светятся... - Наверное, затем, чтобы рано или поздно каждый мог вновь отыскать свою" (Антуан де Сент-Экзюпери, "Маленький принц");
* У каждого человека свои звезды" (Антуан де Сент-Экзюпери, "Маленький принц");
* "
Мир состоит из звёзд и из людей" (
Эмиль Верхарн);
* "... все звезды подчинены тебе, потому что все они созданы ради тебя, чтобы служить тебе, а не владеть тобой" (преподобный Максим Грек);
* "Я искра в бесконечности светил. Я сделаюсь звездой. Я знаю, кто я есть, куда иду – я знаю" (Хосе Лопес Портильо, «Пирамида Кетцалькоатля»);
* "Зачем рыдать под звездой, которую всё равно не снять с неба? Она совершит начертанный ей путь. А ты совершай свой" (Иван Ефремов, "Таис Афинская").

Related Posts Plugin for WordPress, Blogger...
Личностный консалтинг - новое направление консалтинга, связанное с индивидуальным консультированием по проблемам взаимоотношений между людьми, организации индивидуального ритма и темпа жизни, формирования жизненной позиции. В отличие от психологических консультаций, направленных на решение психологических проблем личности, личностный консалтинг ставит своей целью создание стратегий личностного развития, отстройки сознания и мировоззрения, усовершенствования системы отношений.