Technisch ist das erstaunlich unspektakulär. Vorne läuft SearXNG, eine Meta-Suchmaschine, die eure Anfrage an viele andere Suchmaschinen weiterreicht und die Treffer einsammelt. Dahinter hängt ein Sprachmodell, das die Seiten liest und euch eine Antwort mit Quellen baut. Welches Modell, entscheidet ihr: Ollama lokal, oder per API-Key Claude, GPT oder Gemini. Installiert wird über Docker, danach Browser auf Port 3000 und das war's. Drei Suchmodi gibts obendrauf, Speed für schnelle Fakten, Balance für den Alltag, Quality für die tiefere Recherche. PDFs und Word-Dateien könnt ihr hochladen und befragen, und als Standardsuchmaschine im Browser lässt sich das Ganze auch eintragen.
Ich hab mir das auf meinem Mac Mini angeschaut, und das Perplexity-Feeling ist wirklich da.
Jetzt der Teil, den die Selfhosting-Fraktion gern weglässt. Die Antwortqualität hängt am Modell, die schicke Oberfläche ändert daran wenig. Wer ein kleines lokales Modell dranhängt und dann erwartet, dass es Perplexity Pro schlägt, wird enttäuscht sein. Und ein Docker-Container pflegt sich halt nicht selbst, Updates bleiben an euch hängen.
Trotzdem finde ich den Ansatz wichtig, aus einem Grund, der wenig mit Technikspielerei zu tun hat. Wenn ich recherchiere, welche Anbieter es in einer bestimmten Nische gibt oder was ein Mitbewerber gerade aufzieht, dann ist diese Suchanfrage eine Geschäftsinformation. Die landet bei den großen Tools auf fremden Servern. Bei vielen KMU sehe ich, dass darüber überhaupt nicht nachgedacht wird, weil es ja „nur eine Suche" ist. Ist es halt nicht. Beim Hochladen von Verträgen oder Angeboten wird dann aber plötzlich über DSGVO diskutiert.. 🤔
Mich würde interessieren: Was recherchiert ihr beruflich, das ihr ungern in ein Cloud-Tool tippen würdet? Und wer von euch hat schon mal was selbst gehostet und es nach zwei Monaten wieder beerdigt, weil die Wartung genervt hat? Schreibt's gerne mal in die Kommentare.
Guten Start in die Woche! Gruß, Chris