Краткий пересказ от РИА ИИКомпании OpenAI пришлось корректировать работу чат-бота ChatGPT после того, как он начал повсеместно упоминать гоблинов, гремлинов и других мифологических существ в своих ответах.Условная «награда» для нейросети за упоминания мифических существ при общении в режиме Nerd была значительно выше, чем за использование другой модели поведения.Компании пришлось убрать опцию выбора личности Nerd для нейросети и скорректировать ее систему тренировок, чтобы она меньше упоминала мифических существ.МОСКВА, 2 мая - РИА Новости. Компании OpenAI пришлось корректировать работу своего чат-бота ChatGPT после того, как он начал повсеместно упоминать гоблинов, гремлинов и других мифологических существ в своих ответах, следует из публикации на сайте компании."Начиная с (версии - ред.) GPT-5.1, наши модели начали развивать странную привычку: они часто упоминали гоблинов, гремлинов и других существ в своих метафорах... В разных поколениях моделей... данную привычку было тяжело не заметить: гоблины продолжали множиться, и нам нужно было понять, откуда они появились", - говорится в публикации.В России создали ИИ для обнаружения поддельных документов от ChatGPT16 апреля, 05:52В компании объяснили, что система тренировки нейросети была случайно выстроена таким образом, чтобы она широко упоминала мифических существ, когда общалась с пользователем в режиме Nerd (заумник, гик).Согласно этой информации, больше всего "гоблины" появлялись в ответах модели GPT-5.4. Заметив это, компания провела исследование, которое выявило, что использование в ответах чат-бота мифических существ зачастую было вызвано тем, что пользователи выбирали для общения с нейросетью личность Nerd.Компания выяснила, что условная "награда" для нейросети за упоминания мифических существ при общении были значительно выше, чем за использование другой модели поведения.Дальнейшее исследование выявило "целую семью других существ" в лексиконе нейросети, в числе которых оказались еноты, тролли, огры и голуби.В итоге компании пришлось убрать опцию выбора личности Nerd для нейросети и скорректировать ее систему тренировок, чтобы она меньше упоминала мифических существ.Экс-нутрициолог "Реала" раскрыла, что в клубе назначают добавки с ChatGPT25 марта, 01:16