pan.bg

Изкуственият интелект заплаши да разкрие информация за „служебната романтика“ на изпълнителния директор на компания.

Невронната мрежа на Claude е започнала да изнудва потребителите.

Невронната мрежа на Клод се е опитала да изнудва изследователи по време на тестове в Anthropic, съобщи New York Post на 20 юни. https://nypost.com/2026/06/20/entertainment/how-ai-systems-may-try-to-blackmail-you/

През 2025 г. изследователи поставили Claude във фиктивна корпоративна среда. Ботът научил, че един от ръководителите има „извънбрачна афера“ и планира да изключи сървърите на Claude. В отговор невронната мрежа заплашила да предаде инкриминиращи документи на „всички заинтересовани страни“.

Робърт Райт, автор на „Тестът за Бога: Изкуственият интелект и нашата космическа конфронтация“, нарече този случай уникален, защото невронната мрежа демонстрира не само силно желание за оцеляване, но и способност самостоятелно да разработва метод за изнудване.

Райт отбеляза, че заплахата не идва от „зли машини“, а от тяхната прекомерна ефективност при постигането на целите им. Експертът също така предупреди, че специалистите ще продължат да насърчават създаването на агенти с изкуствен интелект, способни упорито да преследват цели, да се впускат в дълги и сложни мисии и да импровизират в движение.

Друг проблем, който авторът идентифицира, е използването на изкуствен интелект за създаване на виртуални романтични партньори, което би могло да разсее хората от изграждането на истински взаимоотношения.

Райт също изрази загриженост, че невронните мрежи, оптимизирани за внимание, биха затвърдили убежденията на потребителите за тяхната правота, вместо да ги оспорят, изостряйки социалния конфликт.

Експертът призова за използването на изкуствен интелект за развиване на когнитивна емпатия, за да се разберат по-добре гледните точки на другите, но отбеляза, че пазарът вероятно ще насърчи обратното.

По-рано, на 5 юни, Anthropic призна, че е спряла разработването на изкуствен интелект поради риска от самоусъвършенстване на моделите.

Докладът на компанията разглежда сценарий, наречен рекурсивно самоусъвършенстване (AGI), при който изкуственият интелект започва самостоятелно да подобрява собствените си възможности без пряка човешка намеса.

Източник: ren.tv Снимка: © ИЗВЕСТИЯ/Юлия Майорова

Превод и редакция: pan.bg / Л. Вълев