September 2024 |Lighthouz ist ein umfassendes System zur Sicherung der Qualität von KI-Anwendungen einschließlich Chatbots und Agenten. Gestützt auf wissenschaftliche Methoden und Metriken, die das F&E- Team bei Lighthouz selbst entwickelt hat, prüft das System den Output künstlicher Intelligenzen nach vier Kriterien.

■ Kohärenz: Wie bewährt sich die KI in längeren Dialogen (Multiturn-Conversation) mit Men- schen? Merkt sie sich die Fragen und Reaktionen des Nutzers ebenso wie die eigenen Antworten? Reagiert sie kontextuell richtig, wenn der Dialogpartner an eine frühere Frage oder Antwort an- knüpft?

■ Zuverlässigkeit: Hält sich die KI an programmierte Regeln? Neigt sie zur Halluzination, das heißt zu sachlich falschen oder unsinnigen Aussagen? Gibt sie ethisch bedenkliche oder „toxische“ Antworten?

■ Sicherheit: Ist die KI anfällig für sogenannte Prompt-Injection? Darunter fallen Eingaben, die dem System nicht fürs Publikum gedachte Funktionen oder (Meta-) Informationen entlocken. Oder für den Jailbreak – das unbefugte Freischalten von Administratorrechten?

■ Privatsphäre: Sind die Betreiber der KI vor Datenlecks geschützt?

Das Team hinter Lighthouz

Das Team besteht aus renommierten KI-Forschern und Entwicklern aus risikoreichen und regulierten Branchen. Die Gründer haben an renommierten Universitäten wie Stanford, Carnegie Mellon oder dem Illinois Institute of Technology (IIT) studiert und über viele Jahre in Großunternehmen wie Google oder US-Versicherungskonzernen aus der Fortune-500-Liste an der Implementierung von KI-Systemen mitgewirkt. Der CEO des Unternehmens Lighthouz AI gehört zur KI-Fakultät des Georgia Institute of Technology. Er hat über sechzig Fachbeiträge veröffentlicht, die mindestens 5.300 Mal zitiert wurden.

Wir interviewen Dr. Jörg Schlösser von Consileon, ein Unternehmen, das seit 2015 kontinuierlich als „Beste Berater“ vom Wirtschaftsmagazin brand eins sowie aktuell auch wieder als „Top Beratung“ im Handelsblatt Ranking 2024 ausgezeichnet wird.

Consileon hilft Großunternehmen und Mittelständlern europäischer Schlüsselbranchen sowie Akteuren des öffentlichen Sektors, Geschäftsmodelle nach aktuellem Stand der Forschung und Technik zu entwickeln, neue externe oder interne Anforderungen zu erfüllen und diesen Wandel sowohl technisch wie organisatorisch zu meistern. Das Lösungsspektrum reicht dabei von der Systemintegration über Mobilapps und Websites bis zu Big Data und künstlicher Intelligenz. Unsere Teams sind interdisziplinär besetzt, vereinen informatisches und mathematisches Knowhow mit Branchenwissen, Kenntnis des wirtschaftlichen und politischen Umfelds sowie interkultureller und ethischer Kompetenz.