Ich werde mal mit verschiedenen 8B Modellen starten. Muss dann mal schauen was klappt. hast du Tipps?
RandomUserNr8
joined 1 week ago
hmm... habe heute Nacht recherchiert und geshoppt:
- Gebrauchter DDR4 RAM
- RTX 3050 6GB Low Profile (HP SFF Server vorhanden)
Plan:
- Ollama mit lokalen Modellen
- Paperless-AI
- SearxNG + Perplexica + OpenWebUI
- Openwebui -> XMPP -> AI Assistent in Conversations mit Suchfähigkeit. Mal schauen obs auch klappt!
Yeah... definitively not a German thing 😃
Kleinanzeigen 2x8Gb 40€ Das muss jetzt nur noch ankommen und auch funktionieren.