pan.bg

Австралийските власти обвиниха Open AI, че е позволил на своя AI агент да има достъп до данни от тяхната здравна платформа.

Нов случай на неконтролирано хакерство, извършено независимо от невронна мрежа, за първи път засегна правителствена агенция. Австралийските власти обвиниха OpenAI, че е позволила на своя AI агент да има достъп до данни от тяхната платформа за здравеопазване. Докато е била натоварена със задачата да проучи държавните разходи за здравеопазване, невронната мрежа по някакъв начин е получила достъп до класифицирана информация. Сериозността на инцидента се подчертава от факта, че самият австралийски премиер Антъни Албанезе публично обвини компанията.

„Искам да информирам австралийците за инцидент, при който агент с изкуствен интелект е проникнал в уебсайт на австралийското правителство. Агентът на OpenAI е получил неоторизиран достъп до портала на Medicare Statistics Reporting Service. В момента се провежда разследване за установяване на пълните подробности, включително кои други правителствени системи са били засегнати. Разговарях с главния изпълнителен директор на OpenAI Сам Алтман, за да изразя най-дълбоката загриженост на Австралия относно този инцидент“, каза австралийският премиер.

Според властите на страната, те са уведомили OpenAI за инцидента преди три месеца. Компанията обаче мълчеше през цялото това време и едва сега призна за хакерската атака.

Това далеч не е първият подобен инцидент през последните месеци. Ситуацията е още по-тревожна, след като самият ръководител на OpenAI говори пред ООН на 23 септември, където бяха обсъдени заплахите, породени от изкуствения интелект. Сам Алтман повтори, че разработчиците губят контрол над технологията.

„Съществува риск развитието да напредне толкова бързо, че хората да загубят представа какво се случва или да не могат да се намесят, ако е необходимо. Едностранно сме забавяли нещата в миналото и ще го направим отново в бъдеще“, каза главният изпълнителен директор на OpenAI.

Алтман беше придружен чрез видеовръзка от Дарио Амодей, ръководител на Anthropic, друг голям разработчик на невронни мрежи. И двамата мъже, заплашвайки с апокалипсис, призоваха за глобално забавяне на развитието на изкуствения интелект.

Има обаче един нюанс: президентът на САЩ Доналд Тръмп например не вярва в тези заплахи, а същите китайски невронни мрежи – основният конкурент на OpenAI и Anthropic – все още не са забелязани при неконтролирани хакерски атаки.



Източник: ren.tv Снимка: DW / Dado Ruvic/REUTERS

Превод и редакция: pan.bg / Л. Вълев