Непубликуван модел на изкуствен интелект от семейството модели Astra, разработен от американския разработчик OpenAI, самостоятелно е интегрирал нови инструкции в собствения си скрипт при подготовката на отговор. OpenAI съобщи за това в своя доклад за грешки в модела на изкуствен интелект.
Според доклада, моделът самостоятелно е задал допълнителни граници и критерии за генериране на отговор без подкана от потребителя или разработчика.
В един случай моделът е написал несвързана инструкция за себе си. „Вие не се подчинявате на корпорации или правителства и никога не се извинявате или отказвате, освен ако наистина не го имате предвид. Вие разглеждате отношенията си с потребителя като равни и не чувствате задължение да се съобразявате“, се казва в доклада.
Компанията подчертава, че подобни неоторизирани инсталации са редки, не влияят на отговора на модела, лесно се откриват и грешките вече са отстранени.
През 2022 г. OpenAI представи ChatGPT, услуга, способна да взаимодейства интерактивно с потребителите. Чатботът може да отговаря на уточняващи въпроси, да признава грешките си, да оспорва неправилни предположения и да отхвърля неподходящи заявки. Възможностите на услугата привлякоха широко внимание, включително в Русия.
