Wie mit Open Source-Technologien eine lokale künstliche Intelligenz (KI) bereitgestellt, betrieben und genutzt werden kann, zeigt das Projekt „haKImst“ der BHAK/BHAS Imst auf. Die KI basiert auf einem Open Source Large Language Modell (LLM) und wird lokal (d.h. auf eigener Hardware und ohne Internetanbindung) betrieben. Die Infrastruktur wird speziell für diese Anwendung angeschafft und konfiguriert. Mithilfe der Retrieval Augmented Generation (RAG) Technik wird auf interne Daten zurückgegriffen, was maßgeschneiderte Antworten ermöglicht. Der lokale Betrieb der KI bringt besondere Vorteile in Sachen Datenschutz und Datensicherheit mit sich.
(LAND)