Lakera AI, con sede en Zurich, anunció el jueves 12 de octubre el lanzamiento formal de su plataforma de seguridad de IA, que permite a los desarrolladores proteger aplicaciones generativas de IA en el mundo empresarial.rise.
Además del lanzamiento, Lakera AI ha conseguido 10 millones de dólares (aproximadamente 9.4 millones de euros) en una nueva ronda de financiación liderada por Redalpine.
También participaron otros fundadores, incluidos Fly Ventures, Inovia Capital y varios ángeles expertos de la industria, como los cofundadores de Snyk y ejecutivos clave de Palo Alto Networks, Datadog e Hybris.
Lakera AI: aplicaciones seguras de IA generativa
Después de una década de desarrollar sistemas de aprendizaje automático para la industria aeroespacial y sanitaria, David Haber, Matthias Kraft y Mateo Rojas-Carulla vieron el rápido rise de LLM. El trío conocía las empresas existentes.rise Las soluciones de seguridad no se adaptarían a las necesidades únicas de la IA.
Lanzaron Lakera AI para llenar este vacío.
“Cuando construyes IA para aviones y atención médica, altos estándares de seguridad se incorporan a todo lo que haces. Para que la IA alcance su máximo potencial, necesitamos que se apliquen estos mismos altos estándares en la empresa.rise”, dice David Haber, fundador y director ejecutivo de Lakera.
“Los desarrolladores tienen un papel muy importante que desempeñar en la era de la IA. La seguridad de la IA debe incorporarse al ciclo de vida del desarrollo. empresarise los desarrolladores necesitan una capa informática inteligente integrada en las aplicaciones de IA para garantizar la protección a lo largo del tiempo. Eso es lo que ofrece Lakera”, añade Haber.
Lakera AI funciona con cualquier modelo o modalidad de IA y proporciona instantáneamente enterpriseSeguridad de primer nivel para aplicaciones de IA.
En agosto 2023, Lakera IA lanzó la versión beta de Lakera Guard, para satisfacer la demanda urgente de una solución que protegiera los LLM en producción.
Lakera Guard funciona con una base de datos patentada que combina conocimientos de Gandalf, el juego educativo de inteligencia artificial viral de la compañía, con bases de datos de código abierto y su propia investigación dedicada.
La base de datos de Lakera ha acumulado casi 30 millones de puntos de datos de ataques y está creciendo en más de 100 entradas cada día.
Lakera Guard permite a los desarrolladores activar estos datos de vulnerabilidad con una línea de código, integrando instantáneamente una capa de seguridad en las aplicaciones de IA en producción.
Lakera Guard es independiente del LLM y actualmente se enfoca en asegurar casos de uso de preguntas y respuestas mediante la protección contra inyecciones rápidas (incluidos jailbreak, personajes de escape, juegos de roles y fugas de avisos del sistema), detección y enmascaramiento de PII, moderación de contenido y alucinaciones.
“Como empresarise"Como estamos estableciendo rápidamente sus pilas de IA generativa, nuestro objetivo es ser la opción preferida para todo lo relacionado con la seguridad en toda la organización", añade David Haber. "Desde los desarrolladores hasta los CISO, es importante que todas las partes interesadas estén capacitadas para integrar la IA sin riesgos".
el Inversor
Redalpine es suiza. venture capital firma que reúne inversión financiera, experiencia operativa y una vasta red internacional para ayudar a emprendedores ambiciosos.
Con más de mil millones de euros en activos bajo gestión y una estrategia de inversión independiente del sector, la empresa ha respaldado a algunas de las empresas más disruptivas de Europa, incluidas N1, Taxfix, Inkitt, 26fin, Carvolution, Zenjob, vivenu y Umiami.
Redalpine tiene más de 85 empresas en su cartera e invierte en toda Europa desde sus oficinas en Zurich y Berlín.
“La IA presenta riesgos de seguridad que no se parecen a nada que hayamos visto antes. Todas las organizaciones que quieran aprovechar la IA tendrán que afrontar este nuevo panorama de amenazas”, afirma Harald Nieder, socio general de Redalpine, principal inversor de Lakera. “Este es uno de los más experimentados. teamHay en IA con un tesoro escondido de datos de vulnerabilidad. Su enfoque centrado en el desarrollador proporciona el eslabón perdido para todas las empresas.rises implementar modelos de IA con confianza”.