Учените предупредиха за заплаха от загуба на човешкия контрол над изкуствения интелект

Pan.bg 23 фев 2021 | 20:44 views (730) commentaries(0)
img
pan.bg

Група специалисти анализираха степента на риск за излизане от контрол на свръхразумните програми.

Група учени са провели голямо проучване за сигурността при работа с изкуствен интелект. Както стана известно на «Регион online», изследователите публикували своята работа в Artificial Intelligence Research. Оказа се, че човечеството не може да спре ИИ. И то няма да узнае кога ще настъпи моментът на неговото излизане от контрол.

- Алгоритъмът за сдържане е неизползваем след разчетите с основните правила на теоретичните изчисления. ИИ може да спре собствените си операции, ние няма да знаем за това. Това означава, че няма работещ алгоритъм за сдържане на изкуствения интелект, казва Ияд Рахван, един от авторите на работата.

Може да изглежда, че свръхразумните машини, управляващи света, са фантастика. Но вече има машини, при които програмата се справя самостоятелно.

А програмистите не разбират къде и как системата се е научила да прави това.

Като се има предвид нивото на обучаване на изкуствения интелект, човечеството просто няма да забележи момента, в който свръхразумните машини ще започват да се появяват. И когато това стане забележимо, ще е твърде късно процесът да се спре.

Следователно, доразвивайке тази сфера е необходимо разбирането, че не е невъзможно да се създаде алгоритъм за съдържане на ИИ.

Източник: news-r.ru Снимка: РЕГИОН ONLINE

Превод и редакция: pan.бг
loading...

Други публикации


Напиши коментар

Коментари: 0

Социални мрежи

Поръчайте с до -25% отстъпка

Вход

Запомни ме на това устройство

Регистрирай се Забравена парола

Последни

НАЙ-ЧЕТЕНИ НАЙ-КОМЕНТИРАНИ

Морски архиви

Прочети още

Броячка