Het in Zürich gevestigde Lakera AI heeft op donderdag 12 oktober de formele lancering aangekondigd van zijn AI-beveiligingsplatform, waarmee ontwikkelaars generatieve AI-toepassingen in de onderneming kunnen beveiligen.rise.
Naast de lancering heeft Lakera AI 10 miljoen dollar (ongeveer 9.4 miljoen euro) binnengehaald in een nieuwe financieringsronde onder leiding van Redalpine.
Andere oprichters, waaronder Fly Ventures, Inovia Capital, en verschillende deskundigen uit de sector, zoals de medeoprichters van Snyk en belangrijke leidinggevenden van Palo Alto Networks, Datadog en Hybris, namen ook deel.
Lakera AI: Beveilig generatieve AI-toepassingen
Na tien jaar machine learning-systemen voor de ruimtevaart en de gezondheidszorg te hebben ontwikkeld, zagen David Haber, Matthias Kraft en Mateo Rojas-Carulla de snelle rise van LLM's. Het trio kende bestaande enterprise beveiligingsoplossingen zouden niet tegemoetkomen aan de unieke behoeften van AI.
Ze lanceerden Lakera AI om deze leemte op te vullen.
“Als je AI bouwt voor vliegtuigen en de gezondheidszorg, worden hoge beveiligingsnormen ingebakken in alles wat je doet. Om AI zijn volledige potentieel te laten bereiken, hebben we dezelfde hoge normen nodig die in de onderneming worden toegepastrise”, zegt David Haber, oprichter en CEO van Lakera.
“Ontwikkelaars hebben een grote rol te spelen in het AI-tijdperk. AI-beveiliging moet worden opgenomen in de ontwikkelingslevenscyclus. Enterprise ontwikkelaars hebben een intelligente rekenlaag nodig die is ingebed in AI-applicaties om bescherming in de loop van de tijd te garanderen. Dat is wat Lakera levert”, voegt Haber toe.
Lakera AI werkt met elk AI-model of modaliteit en biedt direct enterprisehoogwaardige beveiliging voor AI-toepassingen.
In augustus 2023, Lakera AI heeft de bètaversie van Lakera Guard uitgebracht om tegemoet te komen aan de dringende vraag naar een oplossing die LLM's in productie beschermt.
Lakera Guard wordt aangedreven door een eigen database die crowdsourced-inzichten van Gandalf, de virale AI-educatiegame van het bedrijf, combineert met open source-databases en eigen toegewijd onderzoek.
De database van Lakera heeft bijna 30 miljoen aanvalsgegevenspunten verzameld en groeit elke dag met meer dan 100 vermeldingen.
Lakera Guard stelt ontwikkelaars in staat om deze kwetsbaarheidsgegevens te activeren met één regel code, waardoor onmiddellijk een beveiligingslaag wordt ingebed in AI-applicaties in productie.
Lakera Guard is LLM-agnostisch en richt zich momenteel op het beveiligen van vraag- en antwoordgebruiksscenario's door bescherming tegen snelle injecties (inclusief jailbreaks, ontsnappingspersonages, rollenspel en systeempromptlekken), PII-detectie en -maskering, inhoudsmoderatie en hallucinaties.
“Als enterrises zijn snel bezig met het opzetten van hun generatieve AI-stacks, we willen de eerste keus zijn op het gebied van beveiliging in de hele organisatie”, voegt David Haber toe. “Van ontwikkelaars tot CISO’s: het is belangrijk dat alle belanghebbenden de mogelijkheid krijgen om AI te integreren zonder de risico’s.”
de Investor
Redalpine is een Zwitser venture capital een bedrijf dat financiële investeringen, operationele expertise en een uitgebreid internationaal netwerk samenbrengt om ambitieuze ondernemers te helpen.
Met meer dan € 1 miljard aan beheerd vermogen en een sectoronafhankelijke investeringsstrategie heeft het bedrijf enkele van de meest disruptieve bedrijven van Europa gesteund, waaronder N26, Taxfix, Inkitt, 9fin, Carvolution, Zenjob, vivenu en Umiami.
Redalpine heeft ruim 85 bedrijven in portefeuille en investeert in heel Europa vanuit kantoren in Zürich en Berlijn.
“AI brengt veiligheidsrisico's met zich mee die we nog nooit eerder hebben gezien. Elke organisatie die AI wil inzetten, zal door dit nieuwe dreigingslandschap moeten navigeren”, zegt Harald Nieder, General Partner bij Redalpine, de hoofdinvesteerder van Lakera. “Dit is een van de meest ervaren teams in AI met een schat aan kwetsbaarheidsgegevens. Hun developer-first-aanpak biedt de ontbrekende schakel voor alle ondernemingenrises om AI-modellen met vertrouwen in te zetten.”