
Оказывается, небольшие выражения вежливости, такие как «Спасибо» и «Пожалуйста», требуют значительных затрат при использовании современных ИИ-систем. Руководитель крупной технологической компании недавно признался, что обработка этих простых вежливых фраз обходится компании в десятки миллионов долларов. Он отметил, что каждая благодарность или ответ по типу «Не за что» требует запуска сложных вычислений на сервере, что в свою очередь связано с потреблением электроэнергии и ресурсов.
К примеру, короткий ответ из трех слов может потреблять около 40-50 миллилитров воды для охлаждения серверов. В масштабах миллиардерных взаимодействий эти расходы серьёзно возрастают. Однако руководитель считает такие издержки оправданными, так как они делают взаимодействие с ИИ более естественным и приятным для пользователя.
Технически, компании могли бы настроить свои модели так, чтобы такие стандартные фразы обрабатывались без полного запуска вычислительного цикла. Но реализовать это сложнее, чем кажется, поэтому большинство решений оставляют обработку подобных вежливых выражений на общую схему работы систем.
Источник: @droidergram