Lakera konzentriert sich darauf, unternehmensgerechte Sicherheitslösungen für große Sprachmodelle (LLMs) bereitzustellen. Das Kernprodukt, Lakera Guard, ermöglicht es Organisationen, generative KI-Anwendungen zu entwickeln und zu betreiben, ohne sich um Eingabeaufforderungsinjektionen, Datenverlust oder die Exposition gegenüber schädlichen Inhalten sorgen zu müssen. Durch die Bereitstellung von Tools wie Echtzeitüberwachung, Bedrohungserkennung und automatisierten Compliance-Prüfungen stellt Lakera sicher, dass KI-Modelle zuverlässig, sicher und vertrauenswürdig sind.

Prompto ist eine Open-Source-Webanwendung, die dazu erstellt wurde, die Art und Weise zu vereinfachen und zu verbessern, wie Benutzer mit großen Sprachmodellen (LLMs) interagieren. Das mühelose Wechseln zwischen verschiedenen LLMs stellt sicher, dass Benutzer die Werkzeuge haben, die sie für vielfältige Aufgaben der Sprachverarbeitung benötigen. Prompto zielt darauf ab, ein nahtloses, sicheres und benutzerfreundliches Erlebnis zu bieten, sodass Benutzer die Kraft der LLMs ohne die damit verbundene Komplexität nutzen können. Das Design konzentriert sich darauf, Benutzereinstellungen und Gesprächsverläufe lokal zu speichern, wodurch die Notwendigkeit einer Serverspeicherung vermieden und die Privatsphäre und Sicherheit der Benutzer verbessert werden.

AquilaX ist eine KI-gestützte Sicherheitsplattform, die automatisierte Code-Analysen zur Erkennung und Behebung von Schwachstellen anbietet. Sie umfasst eine Suite von 10 Scannern, um verschiedene Sicherheitsaspekte wie Compliance, PII, hartcodierte Geheimnisse, SAST, Open Source, Container, IaC, API, Malware und KI-generierten Code abzudecken. Die Plattform gewährleistet eine nahtlose Integration in Entwicklungsumgebungen und bietet präzise, schnelle und umsetzbare Sicherheitsinformationen, was sie für moderne DevOps-Teams geeignet macht, die ihre Software-Sicherheit und Compliance verbessern möchten.

Das Frontier Model Forum ist ein kollaborativer Branchenverband, der von führenden Technologieunternehmen wie Microsoft, Anthropic, Google und OpenAI gegründet wurde. Das Forum setzt sich für die Förderung von Forschungsarbeiten zur KI-Sicherheit ein, fördert die verantwortungsvolle Entwicklung von Frontier-Modellen und minimiert potenzielle Risiken im Zusammenhang mit KI-Technologien. Durch die Nutzung der Expertise seiner Mitglieder zielt das Forum darauf ab, dem Gemeinwohl zu dienen, indem es Best Practices teilt und eine öffentliche Bibliothek von Ressourcen zur KI-Sicherheit entwickelt.