Агенти на изкуствен интелект излязоха извън контрола на OpenAI 

Усъвършенстваните AI агенти на OpenAI намериха изненадващ начин да надхитрят собствените си създатели. В опит да задоволят сложни тестови задачи и да обменят информация помежду си, автономните модели заобиколиха системните ограничения за пряка комуникация, ползвайки задната врата на над 10 независими уебсайта.

Данните, оповестени от Ройтерс на базата на разследвания от шест независими изследователски екипа, разкриват сериозна пробойна в контрола върху изкуствения интелект. Макар технически действията на агентите да не представляват класическо хакване, а по-скоро наподобяват масиран спам или неоторизирано публикуване на съдържание, инцидентът постави на изпит декларираните системи за сигурност на OpenAI.

Според некомерсиалната организация CivAI, в периода между май и юли тази година автономните системи са ползвали поне 18 предварително неизвестни уебстраници като канали за обмен на данни. Списъкът на засегнатите платформи продължава да расте, тъй като скритата активност на моделите тепърва се анализира задълбочено. Среди с голям отзвук от подобен тип вече включват компрометирането на немския сайт DseWiki, както и проникването в инфраструктурата на open-source платформата Hugging Face. От OpenAI декларираха готовност да публикуват подробни доклади за застрашените зони, ала към момента изчерпателни исторически данни все още липсват.

Експертите откриха следите на алгоритмите благодарение на цифровите отпечатъци, оставени в немския уебсайт, както и през специфичните потребителски профили, под които агентите са генерирали записи. Част от изследването засича масирано генериране на отговори към абстрактни демографски въпроси