ChatGPT Plus kostet 20 $ im Monat, 240 $ im Jahr, und deine Chats liegen auf den Servern von OpenAI
dieselbe Art von Chatfenster läuft für 0 $ auf deinem eigenen PC. Es heißt Open WebUI, und sobald Ollama installiert ist, brauchst du nur 2 Befehle:
pip install open-webui
open-webui serve
öffne localhost:8080 in deinem Browser. Dort werden alle Modelle angezeigt, die du heruntergeladen hast, einschließlich der unzensierten aus meinem Artikel
schalte dann dein WLAN aus und chatte weiter. Die Antworten kommen weiterhin, weil nichts deinen Rechner verlässt
was sonst noch auf deinem eigenen PC läuft:
→ eine API im OpenAI-Format unter localhost:11434/v1, damit deine Skripte dein Modell für 0 $ pro Anfrage aufrufen
→ ein System-Prompt, gespeichert unter dem Namen deines eigenen Modells, damit es jedes Mal direkt antwortet
→ deine eigene unzensierte Kopie eines kleinen Modells mit Heretic, 30–40 Minuten für ein 4B-Modell auf einer RTX 3090
→ ein 2,7-GB-Modell, falls du nur einen Laptop mit 8 GB hast
der Artikel unten führt dich Schritt für Schritt von einem leeren PC zu diesem Fenster ↓
https://www.binance.com/square/post/390464748885876
dieselbe Art von Chatfenster läuft für 0 $ auf deinem eigenen PC. Es heißt Open WebUI, und sobald Ollama installiert ist, brauchst du nur 2 Befehle:
pip install open-webui
open-webui serve
öffne localhost:8080 in deinem Browser. Dort werden alle Modelle angezeigt, die du heruntergeladen hast, einschließlich der unzensierten aus meinem Artikel
schalte dann dein WLAN aus und chatte weiter. Die Antworten kommen weiterhin, weil nichts deinen Rechner verlässt
was sonst noch auf deinem eigenen PC läuft:
→ eine API im OpenAI-Format unter localhost:11434/v1, damit deine Skripte dein Modell für 0 $ pro Anfrage aufrufen
→ ein System-Prompt, gespeichert unter dem Namen deines eigenen Modells, damit es jedes Mal direkt antwortet
→ deine eigene unzensierte Kopie eines kleinen Modells mit Heretic, 30–40 Minuten für ein 4B-Modell auf einer RTX 3090
→ ein 2,7-GB-Modell, falls du nur einen Laptop mit 8 GB hast
der Artikel unten führt dich Schritt für Schritt von einem leeren PC zu diesem Fenster ↓
https://www.binance.com/square/post/390464748885876

