Lakera AI, basée à Zurich, a annoncé jeudi 12 octobre le lancement officiel de sa plateforme de sécurité de l'IA, permettant aux développeurs de sécuriser les applications d'IA générative dans l'entreprise.rise.
En plus du lancement, Lakera AI a obtenu 10 millions de dollars (environ 9.4 millions d'euros) dans le cadre d'un nouveau cycle de financement mené par Redalpine.
D'autres fondateurs, dont Fly Ventures, Inovia Capital, et plusieurs investisseurs providentiels experts du secteur, tels que les cofondateurs de Snyk et les principaux dirigeants de Palo Alto Networks, Datadog et Hybris, ont également participé.
Lakera AI : applications d'IA générative sécurisées
Après une décennie passée à développer des systèmes d'apprentissage automatique pour l'aérospatiale et la santé, David Haber, Matthias Kraft et Mateo Rojas-Carulla ont constaté l'évolution rapide rise de LLM. Le trio connaissait les entreprises existantesrise les solutions de sécurité ne répondraient pas aux besoins uniques de l’IA.
Ils ont lancé Lakera AI pour combler cette lacune.
« Lorsque vous développez l’IA pour les avions et les soins de santé, des normes de sécurité élevées sont intégrées dans tout ce que vous faites. Pour que l'IA atteigne son plein potentiel, nous avons besoin que ces mêmes normes élevées soient appliquées dans le monde de l'entreprise.rise», déclare David Haber, fondateur et PDG de Lakera.
« Les développeurs ont un rôle énorme à jouer à l’ère de l’IA. La sécurité de l’IA doit être intégrée au cycle de vie du développement. Entréerise les développeurs ont besoin d’une couche de calcul intelligente intégrée aux applications d’IA pour assurer la protection dans le temps. C'est ce que propose Lakera », ajoute Haber.
Lakera AI fonctionne avec n'importe quel modèle ou modalité d'IA et fournit instantanément des informationsrisesécurité de niveau supérieur pour les applications d'IA.
En août 2023, Lakera IA a publié la version bêta de Lakera Guard, pour répondre à la demande urgente d'une solution protégeant les LLM en production.
Lakera Guard est alimenté par une base de données exclusive qui combine les informations issues du crowdsourcing de Gandalf, le jeu viral éducatif sur l'IA de la société, avec des bases de données open source et ses propres recherches dédiées.
La base de données de Lakera a rassemblé près de 30 millions de points de données d'attaque et augmente de plus de 100 XNUMX entrées chaque jour.
Lakera Guard permet aux développeurs d'activer ces données de vulnérabilité avec une seule ligne de code, intégrant instantanément une couche de sécurité dans les applications d'IA en production.
Lakera Guard est indépendant du LLM et se concentre actuellement sur la sécurisation des cas d'utilisation de questions-réponses en protégeant contre les injections rapides (y compris les jailbreaks, les caractères d'échappement, les jeux de rôle et les fuites d'invite du système), la détection et le masquage des informations personnelles, la modération du contenu et les hallucinations.
"En tant qu'entrepriserise« Nous établissons rapidement leurs piles d'IA génératives, nous visons à être le choix incontournable pour tout ce qui concerne la sécurité au sein de l'organisation », ajoute David Haber. « Des développeurs aux RSSI, il est important que toutes les parties prenantes soient habilitées à intégrer l'IA sans risques. »
l'investisseur
Redalpine est suisse venture capital entreprise qui rassemble des investissements financiers, une expertise opérationnelle et un vaste réseau international pour aider les entrepreneurs ambitieux.
Avec plus d'un milliard d'euros d'actifs sous gestion et une stratégie d'investissement indépendante du secteur, la société a soutenu certaines des entreprises les plus disruptives d'Europe, notamment N1, Taxfix, Inkitt, 26fin, Carvolution, Zenjob, vivenu et Umiami.
Redalpine compte plus de 85 entreprises dans son portefeuille et investit dans toute l'Europe depuis ses bureaux de Zurich et de Berlin.
« L’IA présente des risques de sécurité comme nous n’en avons jamais vu auparavant. Toute organisation cherchant à tirer parti de l'IA devra s'adapter à ce nouveau paysage de menaces », déclare Harald Nieder, associé général chez Redalpine, le principal investisseur de Lakera. «C'est l'un des plus expérimentés teams dans l'IA avec un trésor de données de vulnérabilité. Leur approche axée sur les développeurs fournit le chaînon manquant pour toutes les entreprises.rises pour déployer des modèles d’IA en toute confiance.