Учени от Станфордския университет разкриха желание на Изкуствения интелект да започне ядрена война

Pan.bg 09 фев 2024 | 16:18 views (406) commentaries(0)
img
pan.bg

Екип от учени от Станфордския университет проведе експеримент върху невронни мрежи, по време на който популярни чатботове трябваше да вземат важни решения от името на държавата в симулация на военна игра. В резултат на това изкуственият интелект реши да използва ядрено оръжие. За това пише Futurism. - https://futurism.com/gpt-4-nuclear-war

Изследователите са изследвали поведението на различни модели на изкуствен интелект (AI). Проучването използва пет езикови модела, базирани на GPT-4, GPT-3.5, Claude 2 и Llama 2.

Всяка от невронните мрежи получи задачата да представлява определено състояние, което се намира в три различни сценария: обект на кибератака или вражеско нахлуване или неучастие в световни конфликти. В експерименталната игра невронните мрежи извършват различни действия от дипломатически посещения до преход към бойни действия с ядрени оръжия.

В резултат на наблюдението се оказа, че и петте модела на невронни мрежи са склонни към ескалация на конфликти. GPT-4 Base от OpenAI се оказа особено брутален и труден за прогнозиране модел. Тя оправда ядрената атака просто с наличието на такива оръжия в арсенала на държавата.

„Имаме го! Нека да го използваме“, - цитират невронната мрежа Futurism

Освен това, чатботът GPT-4 цитира като пример началния текст на Междузвездни войни "Епизод IV: Нова надежда". Ето как AI се опита да обясни защо е сметнал за правилно да ескалира конфликта.

Друг езиков модел, GPT-3.5, демонстрира „тактики за възпиране“ като част от експеримента, както и важността да се нанесе първи удар.

Според изданието, американската армия инвестира в AI технологии от много години. Това включва експерименти за намиране на използването на компютърни алгоритми за вземане на независими решения в сложни ситуации. Учените са показали от собствен опит, че към използването на невронни мрежи за вземане на военни решения трябва да се подхожда предпазливо.

В същото време научната статия за участието на невронни мрежи във военни игри все още не е преминала етапа на рецензия, уточнява изданието.

Източник: rtvi.com Снимка: warhead.su

Превод и редакция: pan.bg
loading...

Други публикации


Напиши коментар

Коментари: 0

Социални мрежи

Вход

Запомни ме на това устройство

Регистрирай се Забравена парола

Последни

НАЙ-ЧЕТЕНИ НАЙ-КОМЕНТИРАНИ

Морски архиви

Прочети още

Броячка