Lakera AI, con sede a Zurigo, giovedì 12 ottobre ha annunciato il lancio formale della sua piattaforma di sicurezza AI, consentendo agli sviluppatori di proteggere le applicazioni di intelligenza artificiale generativa nell'impresarise.
Oltre al lancio, Lakera AI ha ottenuto 10 milioni di dollari (circa 9.4 milioni di euro) in un nuovo round di finanziamento guidato da Redalpine.
Hanno partecipato anche altri fondatori, tra cui Fly Ventures, Inovia Capital e diversi angel esperti del settore, come i cofondatori di Snyk e dirigenti chiave di Palo Alto Networks, Datadog e Hybris.
Lakera AI: applicazioni di intelligenza artificiale generativa sicure
Dopo un decennio dedicato allo sviluppo di sistemi di apprendimento automatico per il settore aerospaziale e sanitario, David Haber, Matthias Kraft e Mateo Rojas-Carulla hanno notato il rapido rise di LLM. Il trio conosceva l'impresa esistenterise le soluzioni di sicurezza non soddisferebbero le esigenze specifiche dell’intelligenza artificiale.
Hanno lanciato Lakera AI per colmare questa lacuna.
“Quando crei l’intelligenza artificiale per gli aerei e l’assistenza sanitaria, elevati standard di sicurezza vengono integrati in tutto ciò che fai. Affinché l’intelligenza artificiale possa raggiungere il suo pieno potenziale, abbiamo bisogno che questi stessi standard elevati siano applicati nell’impresarise", afferma David Haber, fondatore e CEO di Lakera.
“Gli sviluppatori hanno un ruolo enorme da svolgere nell’era dell’intelligenza artificiale. La sicurezza dell’intelligenza artificiale deve essere incorporata nel ciclo di vita dello sviluppo. Impresarise gli sviluppatori hanno bisogno di un livello di elaborazione intelligente incorporato nelle applicazioni AI per garantire la protezione nel tempo. Questo è ciò che offre Lakera”, aggiunge Haber.
Lakera AI funziona con qualsiasi modello o modalità di intelligenza artificiale e fornisce immediatamente enterprisesicurezza di livello superiore per le applicazioni IA.
Nell'agosto 2023, Lakera AI ha rilasciato la versione beta di Lakera Guard, per soddisfare l'urgente richiesta di una soluzione che proteggesse gli LLM in produzione.
Lakera Guard è alimentato da un database proprietario che combina gli approfondimenti in crowdsourcing di Gandalf, il gioco virale di formazione sull'intelligenza artificiale dell'azienda, con database open source e la propria ricerca dedicata.
Il database di Lakera ha accumulato quasi 30 milioni di dati sugli attacchi e cresce di oltre 100 voci ogni giorno.
Lakera Guard consente agli sviluppatori di attivare questi dati di vulnerabilità con una riga di codice, incorporando istantaneamente un livello di sicurezza nelle applicazioni AI in produzione.
Lakera Guard è indipendente da LLM e attualmente si concentra sulla protezione dei casi d'uso di domande e risposte proteggendoli da iniezioni immediate (inclusi jailbreak, personaggi di fuga, giochi di ruolo e perdite di messaggi di sistema), rilevamento e mascheramento delle informazioni personali, moderazione dei contenuti e allucinazioni.
“Come entrarisePoiché stanno rapidamente stabilendo i loro stack di intelligenza artificiale generativa, miriamo a essere la scelta giusta per tutto ciò che riguarda la sicurezza in tutta l'organizzazione", aggiunge David Haber. "Dagli sviluppatori ai CISO, è importante che tutte le parti interessate abbiano la possibilità di integrare l'intelligenza artificiale senza rischi."
l'Investitore
Redalpine è uno svizzero venture capital azienda che riunisce investimenti finanziari, competenze operative e una vasta rete internazionale per aiutare gli imprenditori ambiziosi.
Con oltre 1 miliardo di euro di asset in gestione e una strategia di investimento indipendente dal settore, l'azienda ha sostenuto alcune delle aziende più dirompenti d'Europa, tra cui N26, Taxfix, Inkitt, 9fin, Carvolution, Zenjob, vivenu e Umiami.
Redalpine ha oltre 85 aziende nel suo portafoglio e investe in tutta Europa dai suoi uffici a Zurigo e Berlino.
“L’intelligenza artificiale presenta rischi per la sicurezza diversi da qualsiasi cosa abbiamo visto prima. Ogni organizzazione che desidera sfruttare l’intelligenza artificiale dovrà affrontare questo nuovo panorama di minacce”, afferma Harald Nieder, socio accomandatario di Redalpine, il principale investitore di Lakera. “Questo è uno dei più esperti teams in AI con un tesoro di dati sulle vulnerabilità. Il loro approccio incentrato sullo sviluppatore fornisce l'anello mancante per tutte le azienderiseAiuta a implementare modelli di intelligenza artificiale in tutta sicurezza."