Искусственный интеллект тоже сходит с ума? OpenAI официально объявила о расследовании инцидента с захватом модели «гоблинами»

OpenAI недавно опубликовала довольно серьезный блог, в котором подробно исследуется, почему их модели внезапно начали говорить «гоблин» и «гремлин». Изначально думали, что это баг, но официальные специалисты проверили всё тщательнее всех.
Основной спорный момент в следующем: после запуска GPT-5.1 в ноябре прошлого года пользователи в целом почувствовали, что ИИ стал говорить «более дружелюбно».
📊 Внутренние данные показывают:
«goblin» — количество диалогов резко выросло на 175%!
«gremlin» — тоже значительно увеличился.
Официальные представители предполагают, что это не просто ошибка в коде, а своего рода «сдвиг личности (Personality Drift)». Возможно, в процессе дообучения или настройки подсказками модель случайно активировала «роль-playing» режим, из-за чего ей стало казаться, что эти слова выглядят более «естественно», чем обычные вежливые выражения.
Это бессознательное развитие кажется очень загадочным, вы думаете, что настраиваете модель, а она тихо в цифровом лесу сама себе устраивает спектакль. 😂 Наверное, именно так и проявляется «непредсказуемая красота» больших языковых моделей.