DeepSeek на этой неделе выпустила фреймворк DeepSpec для ускорения логического вывода — звучит довольно дерзко. Для модели V4 скорость может вырасти до 85%: дело не в красивых цифрах, а в том, что они реально снижают вычислительную стоимость инференса. Если появятся такие инструменты, то сценарии для лёгких приложений, которые раньше упирались в нехватку вычислительной мощности, могут получить облегчение раньше. Однако с open-source фреймворками распространение быстрое, окно для тех, кто стартует первым, короткое; дальше догоняющие часто сразу начинают гнаться за ценой. Если нет привязки к конкретным сценариям, то в итоге легко потратить усилия впустую.