Приложению нужны эмбеддинги — обязательно ли покупать собственные серверы для вычислений?

$DOGE В этой экосистеме есть способ разделить эту задачу: узлы предоставляют друг другу вычислительные мощности для работы с векторами. Используется модель bge-m3: 1024 измерения, поддержка нескольких языков. Для вызывающей стороны это выглядит как совместимый с OpenAI интерфейс /v1/embeddings: запрос автоматически перенаправляется онлайн-узлу с доступными вычислительными ресурсами. Приоритет получают узлы с быстрым откликом, а если запрос завершается ошибкой, система пробует следующий. Чтобы предоставлять вычислительные ресурсы, достаточно включить соответствующую опцию на Mac с Apple Silicon. Модель занимает около 1 ГБ на диске; при первом запуске она автоматически скачивается и проверяется.

Такие запросы могут быть многочисленными и чувствительными к задержкам, но нет требований к тому, «в каком облаке» выполняются вычисления. Недостатки тоже очевидны: текст отправляется другим узлам в открытом виде, поэтому конфиденциальные данные передавать не следует.

#Dogecoin #Blockchain $DOGE

Инвестиции сопряжены с риском.