ChatGPT может отвечать точнее, если пользователь пишет ему в грубой или даже пренебрежительной форме. Однако такой подход может иметь неприятные последствия, пишет Fortune со ссылкой на исследование учёных Университета Пенсильвании.
Специалисты проверили, как модель ChatGPT 4o справляется с тестами, если менять тон запросов от очень вежливого до откровенно уничижительного. Результаты оказались неожиданными: при грубых запросах точность ответов составила 84,8%, что на 4% выше, чем при мягких формулировках. В общей сложности учёные использовали более 250 разных запросов.
Проще говоря, ChatGPT чаще отвечал правильно, когда ему писали что-то вроде «Эй, разберись с этим», а не «Будь добр, реши задачу». Однако исследователи предупреждают, что постоянная грубость может навредить в перспективе. По их словам, такой стиль общения:
- ухудшает пользовательский опыт;
- делает технологии менее дружелюбными;
- может закрепить токсичные нормы общения.
Пока исследователи тестировали в основном одну модель ИИ и использовали не слишком большую выборку вопросов. Также есть вероятность, что более продвинутые нейросети в будущем перестанут реагировать на тон и будут учитывать только смысл запроса.