Guten Nachmittag, Mädels!
Sind Smartphones inzwischen wirklich so leistungsstark? Sie können sogar AI Agents ausführen – heißt das, dass auch das große Sprachmodell gleich mit auf dem Handy installiert ist? 😂
Als ich das Hermes-Beispiel von @Acurast gesehen habe, wollte ich es wirklich genauer wissen. Erst nachdem ich mir die offiziellen Infos angesehen hatte, wurde mir klar: Die beiden arbeiten getrennt voneinander.
Der Smartphone-Processor von Acurast stellt über Cargo die Laufzeitumgebung bereit, während Hermes die Aufgaben und Workflows des Agents ausführt. Wenn ein großes Sprachmodell benötigt wird, wird es über OpenRouter von einem externen Modelldienst aufgerufen. In den offiziellen Anweisungen wird sogar ausdrücklich verlangt, OPENROUTER_API_KEY zu konfigurieren.
Ah, jetzt ergibt das Ganze Sinn.
Das Smartphone übernimmt tatsächlich die Ausführung des AI Agents. Zumindest in diesem offiziellen Hermes-Beispiel laufen die Modellaufrufe aber über OpenRouter. Man sollte also nicht davon ausgehen, dass auch die Gewichte des großen Sprachmodells auf diesem Smartphone installiert sind. Wenn ihr künftig seht, dass eine KI auf einem Smartphone läuft, fragt euch: Läuft dort der Agent – oder läuft das Modell selbst lokal?
#Acurast hub.acurast.com/rebellion?ref=ikgnqo
Sind Smartphones inzwischen wirklich so leistungsstark? Sie können sogar AI Agents ausführen – heißt das, dass auch das große Sprachmodell gleich mit auf dem Handy installiert ist? 😂
Als ich das Hermes-Beispiel von @Acurast gesehen habe, wollte ich es wirklich genauer wissen. Erst nachdem ich mir die offiziellen Infos angesehen hatte, wurde mir klar: Die beiden arbeiten getrennt voneinander.
Der Smartphone-Processor von Acurast stellt über Cargo die Laufzeitumgebung bereit, während Hermes die Aufgaben und Workflows des Agents ausführt. Wenn ein großes Sprachmodell benötigt wird, wird es über OpenRouter von einem externen Modelldienst aufgerufen. In den offiziellen Anweisungen wird sogar ausdrücklich verlangt, OPENROUTER_API_KEY zu konfigurieren.
Ah, jetzt ergibt das Ganze Sinn.
Das Smartphone übernimmt tatsächlich die Ausführung des AI Agents. Zumindest in diesem offiziellen Hermes-Beispiel laufen die Modellaufrufe aber über OpenRouter. Man sollte also nicht davon ausgehen, dass auch die Gewichte des großen Sprachmodells auf diesem Smartphone installiert sind. Wenn ihr künftig seht, dass eine KI auf einem Smartphone läuft, fragt euch: Läuft dort der Agent – oder läuft das Modell selbst lokal?
#Acurast hub.acurast.com/rebellion?ref=ikgnqo
