Zum Inhalt springen

Kategorie: Software

Alternative zu SearXNG: degoog

Ich nutze schon länger SearXNG und bin bei selfh.st über degoog gestolpert. Von der Idee her dasselbe, gefühlt aber etwas moderner und schicker. Auch hier können verschiedene Suchmaschinen eingebunden werden und die Ergebnisse werden dann aggregiert. Dazu gibt es auch noch Plugins, z.B. für Wetter oder OpenStreetMap.

Und hier ein Suchergebnis meiner SearXNG Instanz:

Ein nettes Feature ist das Plugin AI Summary. Mit einem (lokalen) LLM lassen sich Zusammenfassungen zur Suche generieren. Ich hab das mal mit llama3.2 ausprobiert, weil es sehr schnell Antworten erzeugt.

Und eingerichtet ist degoog auch innerhalb von wenigen Minuten mit Docker Compose.

Gemma-4-12B mit LM Studio in VS Code Chat nutzen

Voraussetzung: LM Studio läuft und hat Gemma-4-12B geladen, zusätzlich ist der Server Mode aktiviert.

In VS Code im Chat auf die Modellauswahl und dann Manage Language Models.

Nun die JSON Config öffnen.

Und folgendes dem vorhandenen JSON hinzufügen:

{
   "name":"LM Studio",
   "vendor":"customendpoint",
   "apiKey":"not-needed",
   "models":[
      {
         "id":"google/gemma-4-12b",
         "name":"Gemma 4 12b",
         "url":"http://localhost:1234/v1/chat/completions",
         "toolCalling":true
      }
   ]
}

Wichtig sind vor allem die ID und die URL.

Dazu habe ich dann noch für meine Radeon RX 9070 XT mit leider nur 16 GB RAM noch ein paar Einstellungen in LM Studio angepasst. Das wird vermutlich für andere GPU anders aussehen.

Unter Load habe ich den Context auf 32768 gesetzt, default sind nur 4096. Viel zu wenig.

Unter Inference muss Enable Thinking aktiviert sein, die Temperature habe ich auf 0.3 reduziert und die Repeat Penalty auf 1.2 gesetzt.

Und das hier ist dann z.B. ein Ergebnis nach ca. 3 Minuten.

Fazit: Technisch geht das. Macht das mit so einer kleinen GPU Spaß? Nicht wirklich… Dann doch lieber ein paar € in OpenRouter einwerfen und auf Deep Seek V4 Flash oder MiMo-V2.5 setzen. Für private Projekt ist das mehr als ausreichend, vor allem schneller, stabiler und weniger frustrierend.

LM Studio hängt bei „Indexing model files… (this might take a moment)“

LM Studio findet keine lokalen Modelle beim Start mehr und zeigt gefühlt endlos diesen Screen mit der Meldung „Indexing model files… (this might take a moment)“.

Dann könnte das hier eine Lösung sein:

LM Studio beenden.

Im Verzeichnis C:\Users\USERNAME\.lmstudio\extensions\backends alle Unterverzeichnisse löschen oder woanders hin verschieben.

LM Studio erneut starten und alle benötigten Runtimes erneut runterladen.

Dann sollte oben auch automatisch eine passende GGUF Runtime ausgewählt worden sein.

Um das zu prüfen, sollte nun unter Hardware eine GPU angezeigt werden.

Und jetzt werden hoffentlich wieder LLMs angezeigt und können ausgewählt werden.

Docker unter Windows: ext4.vhdx verkleinern

Wer Docker unter Windows nutzt, hat vielleicht auch schon bemerkt, dass das dahinterliegende Volume (z.B. unterhalb von%localAppData%\Docker\wsl) nur größer werden kann, sich aber niemals verkleinert, auch nach dem Pruning von Images nicht.

Lösung: compact disk via diskpart

# Hinweis: in einer Powershell ausführen
# 1. Docker beenden
# 2. WSL beenden
wsl --shutdown

# 3. diskpart starten
diskpart
 
# 4. hier USER_NAME anpassen
select vdisk file=C:\Users\<USER_NAME>\AppData\Local\Docker\wsl\main\ext4.vhdx
compact vdisk

Der Vorgang kann dann einige Zeit dauern, danach sollte das Volume aber (deutlich) kleiner geworden sein.

Adressvervollständigung in Thunderbird 52 funktioniert nicht mehr

Die Tage gabs für Thunderbird nach langer Zeit mal wieder einen großen Versionssprung auf Version 52. Seitdem hatte ich das Problem, dass die automatische Adressvervollständigung nicht mehr funktionierte. Ich hatte erst das Addon gContactSync in Verdacht, weil das auch (erstmal) nicht funktionierte, aber auch ein heute erschienenes Update hat an dem Problem mit der Adressvervollständigung nichts geändert.

Nach viel hin und her hab ich dann aber den Übeltäter gefunden: MoreFunctionsForAddressBook

Addon deaktiviert und schon tuts die Adressvervollständigung wieder.

Steam – Hohe CPU Last

Seit einigen Tagen hat Steam ständig 15% CPU Last auf meinen Core i7 meines MSI GE60 erzeugt, also einen der acht Kerne ausgelastet. Selbst, wenn kein Spiel lief und auch keine Downloads. Ursache war im Endeffekt der Treiber meiner Netzwerkkarte. Nachdem ich die Ursache gefunden hatte, konnte ich das auch einfach nachstellen: LAN Kabel ziehen, WLAN an, CPU Last weg. Aber wie bin ich darauf gekommen? Wenn man nach dem Problem im Internet stöbert, findet man allerlei Beiträge, die u.a. auch von einem Bitcoin Miner handeln, der sich als Steam Client tarnt. Das war in meinem Fall aber nicht der Fall. Die Lösung hat der Process Explorer gebracht. Damit hab ich mir den Steam.exe Prozess angeschaut, der die hohe CPU Last verursacht hat.

Der Tab „Threads“ hat mir dann gesagt, dass BfLLR.dll der Verursacher ist. Und mit einer Google Suche bin ich dann beim Hersteller meiner Netzwerkkarte gelandet: Killer Networking. Treiber runtergelanden, installiert, Problem behoben.