Neuerungen in ai.ku.de - insbesondere neue freie LLMs

Der mit der Applikation HAWKI betriebene KI-Service unter der URL ai.ku.de hat einige Neuerungen erfahren. Wichtigster Punkt ist, dass neben dem kommerziellen ChatGPT nun weitere LLMs angeboten werden, die kostenfrei genutzt werden können und auf Servern der GWGD laufen.

Die GWGD ist ein gemeinsames Rechenzentrum der Universität Göttingen und der Max-Planck-Gesellschaft. Da die Daten auf Servern einer Einrichtung ausgewertet werden, die annähernd den gleichen Datenschutzbestimmungen unterliegen wie das Rechenzentrum dr KU, können die Modelle auch mit Daten gefüttert werden, die einer höheren Vertrauchlichkeit unterliegen.

Explizit werden hier folgende LLMs genannt, die man in der Oberfläche auswählen kann: Intel Neural Chat 7B, Meta llama 3 70B, Mixtral 8x7B und Qwen 1.5 72B.

Aus den genannten Gründen sollten diese LLMs bevorzugt getestet und genutzt werden.

Weitere Verbesserungen sind folgende Punkte:

  • Multi-Language mit übersetzten Texten für Englisch, Italienisch, Französisch und Spanisch.
  • Darstellung von mathematischen Formeln, LaTex und Verbesserung des Syntax Highlighting