Внимание! 14 декабря 2021 г. произошла хакерская атака на наш сайт! Исчезли все иллюстрации. Но главное ведь это - текстовый контент ;). Так победим!
Attention! On December 14, 2021, there was a hacker attack by on our site! All illustrations are gone. But the main thing is text content ;). So we will win!

пятница, 16 сентября 2022 г.

Богдан Каминский: Сверхразумный ИИ угрожает человечеству

Сверхразумный искусственный интеллект может дать сбой и уничтожить человечество. Об этом предупредили ученые из Оксфордского университета и лаборатории DeepMind в новой научной работе.

Команда попыталась спрогнозировать, как ИИ с системами вознаграждения могут выйти из-под контроля и навредить людям. За основу исследования ученые взяли генеративно-состязательные нейросети (GAN), состоящие из двух частей: генератора и дискриминатора.

Первый компонент предназначен для создания изображений, а второй — для их оценки.

Ученые предположили, что в какой-то момент продвинутый ИИ, контролирующий важную функцию, может прибегнуть к мошеннической стратегии для получения вознаграждения.

«В заданных условиях наш вывод намного сильнее любой предыдущей публикации — экзистенциальная катастрофа не просто возможна, она вероятна», — сказал доктор технических наук Оксфордского университета Майкл Коэн.

Ученый считает, что в мире с ограниченными ресурсами искусственно созданные системы постараются перехитрить конкурентов.

Для иллюстративных целей исследователи представили сценарии, в которых продвинутая программа может вмешаться для получения вознаграждения без достижения заданной цели. Например, ИИ может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы обеспечить контроль над своей наградой.

«Нам следует с большей подозрительностью относиться к искусственным агентам, которые мы разворачиваем сегодня, а не просто слепо ожидать от них исполнения поставленных задач», — сказал Коэн.

Исследователи также предположили, что на данном этапе развития ИИ следует замедлить или приостановить разработки сверхразумных алгоритмов.

Компания Google, владеющая лабораторией DeepMind, в комментарии для Motherboard заявила о непричастности к данной работе. По словам представителя техгиганта, один из соавторов статьи Маркус Хаттер выступил от имени Австралийского национального университета.

«DeepMind не участвовал в этой работе, и авторы статьи запросили исправления, чтобы отразить это. В DeepMind существует широкий спектр взглядов и академических интересов. Многие в нашей команде также занимают профессорские должности в университетах и ​​занимаются академическими исследованиями отдельно от работы в DeepMind через свои университетские связи», — заявили в Google.

Однако в компании поддержали усилия исследователей в обеспечении безопасности использования ИИ-алгоритмов.

Напомним, в сентябре2022 г. историк и философ Эмиль Торрес заявил, что искусственный интеллект угрожает человечеству полным вымиранием.

В январе 2022 г. Илон Маск пообещал не допустить потенциальное восстание машин.

Комментариев нет:

Отправить комментарий

* "Когда человек узнает, что движет звёздами, Сфинкс засмеётся и жизнь на Земле иссякнет" (иероглифическая надпись на скале храма Абу-Симбел, Египет, 1260 г. до н.э.),
* "Любовь, что движет солнце и светила" (Данте Алигьери, "Божественная комедия"),
* "Радуйтесь тому, что имена ваши записаны на небесах" (Лука, 10:20);
* "Число душ в Космосе равно числу звезд и распределено по одной на каждой звезде" (Платон, "Тимей", 41е);
* "Буддам несть числа как звёздам в небесах" (Ваджранатха);
* "У каждого в глазах своя звезда" (Хафиз Ширази);
*"- Хотел бы я знать, зачем звёзды светятся... - Наверное, затем, чтобы рано или поздно каждый мог вновь отыскать свою" (Антуан де Сент-Экзюпери, "Маленький принц");
* У каждого человека свои звезды" (Антуан де Сент-Экзюпери, "Маленький принц");
* "
Мир состоит из звёзд и из людей" (
Эмиль Верхарн);
* "... все звезды подчинены тебе, потому что все они созданы ради тебя, чтобы служить тебе, а не владеть тобой" (преподобный Максим Грек);
* "Я искра в бесконечности светил. Я сделаюсь звездой. Я знаю, кто я есть, куда иду – я знаю" (Хосе Лопес Портильо, «Пирамида Кетцалькоатля»);
* "Зачем рыдать под звездой, которую всё равно не снять с неба? Она совершит начертанный ей путь. А ты совершай свой" (Иван Ефремов, "Таис Афинская").

Related Posts Plugin for WordPress, Blogger...
Личностный консалтинг - новое направление консалтинга, связанное с индивидуальным консультированием по проблемам взаимоотношений между людьми, организации индивидуального ритма и темпа жизни, формирования жизненной позиции. В отличие от психологических консультаций, направленных на решение психологических проблем личности, личностный консалтинг ставит своей целью создание стратегий личностного развития, отстройки сознания и мировоззрения, усовершенствования системы отношений.