В августе компания OpenAI выпустила крупное обновление своей нейросети ChatGPT. Одно из важных изменений касалось манеры общения ИИ с пользователями. Теперь нейросеть не имитирует эмоциональность и менее охотно потакает собеседнику. Разработчики пояснили, что это делает ответы ИИ более достоверными — ранее модель зачастую жертвовала правдивостью ради обтекаемости формулировок.
Кроме того, в OpenAI пояснили, что обеспокоены влиянием слишком отзывчивого и персонализированного ИИ на психическое здоровье пользователей, особенно на уязвимых людей, испытывающих психические или эмоциональные расстройства. Поэтому в сотрудничестве с психиатрами и психотерапевтами разработчики ChatGPT создали специальные критерии и механизмы, которые будут отслеживать общение и пресекать выходящие за рамки способы использования ИИ. При попытке склонить ChatGPT к более неформальному общению, он выдаёт специальное оповещение и предлагает обратиться за помощью и поддержкой к живому человеку.
Нововведение, по мнению OpenAI, должно мотивировать пользователей на знакомство и общение с реальными людьми. При этом ChatGPT всё ещё может давать личные советы и оказывать моральную поддержку в определённых ситуациях.
- Сгенерировано с помощью ИИ