Comment Deeploy donne à l'IA explicable (XAI) une place centrale dans MLOps

As artificial intelligence (L’IA) s’intègre dans tous les aspects de nos vies et les entreprises d’IA atteignent une valeur stratosphérique, il existe un problème critique de l’IA dont beaucoup ne parviennent pas à discuter. Selon Tim Kleinloog, co-fondateur et CTO de Profondément, c’est qu’« il était et est toujours extrêmement difficile de mettre l’IA en production avec succès ».

Bien qu’il semble y avoir un nouveau modèle d’IA lancé à gauche, à droite et au centre, il existe un problème avec ces modèles qui est moins discuté. Kleinloog souligne qu'il existe un problème général de confiance dans les systèmes d'IA de production. En 2020, Kleinloog s'est associé à Martin Stolk, Bastiaan van de Rakt et Nick Jetten co-fonder Deeploy en tant que startup qui offre une solution technique aux obstacles à la confiance dans l’IA.

A côté de Kleinloog, la direction team comprend Maarten Stolk (PDG), Sofia Karali (responsable du marketing), Markus Heid (responsable des opérations), Robert Jan van Vugt (responsable du commerce) et Robbert van der Gugten (responsable de l'ingénierie). Ce Deeploy dynamique team a pour mission de donner à l'IA explicable (XAI) une place centrale dans les opérations de ML et voici comment ils visent à faire en sorte que AI systèmes véritablement responsables.

Importance de XAI

Kleinloog souligne que IA explicable (XAI) est essentiel dans les systèmes Human-in-the-loop (HITL) pour fournir aux décideurs le contexte nécessaire pour prendre leur décision basée sur l'IA ou corriger le modèle. Malheureusement, à l’heure actuelle, la plupart des systèmes d’IA sont conçus sans tenir compte des humains, ce qui bloque souvent les dernières étapes de la production.

Prenons l’exemple d’un médecin assisté par l’IA qui doit diagnostiquer un patient sur la base d’une radiographie. Sans XAI, le médecin peut décider de suivre les conseils de l'IA ou de les ignorer. Avec XAI, Kleinloog explique que les médecins peuvent comparer leurs propres connaissances expertes avec l'explication du modèle d'IA. Ce processus peut améliorer la prise de décision et permettre un retour détaillé du médecin sur la décision du modèle.

De plus, XAI augmente également la compréhension et la confiance d'un développeur de modèles, du comportement et de l'intention du modèle. Si vous vous demandez pourquoi il n'y a pas suffisamment de débat public sur XAI, c'est principalement que la plupart des entreprises reconnaissent l'importance de XAI mais ont parfois besoin d'être un peu convaincues et même d'éduquer sur la vitalité de XAI.

"Pour nous, il est tellement évident qu'il ne faut pas attendre pour rendre les systèmes d'IA responsables", déclare Kleinloog. Il ajoute : « Surtout lorsque la réglementation exige de la transparence, vous voyez des entreprises rechercher des solutions basées sur XAI. »

Rendre XAI central dans MLOps

Comment Profondément rendre XAI central dans MLOps ? Kleinloog explique que XAI doit être présent dans le cadre du déploiement du modèle et traité avec la même importance que le développement du modèle. Il soutient que seule une telle approche créera la possibilité d'interroger le modèle à la demande de l'utilisateur.

Alors que le battage médiatique autour de GenAI atteint son paroxysme, Deeploy voit XAI devenir véritablement une place centrale dans les opérations de ML. « Les gens commencent à reconnaître les risques de l’IA et réalisent que le contrôle et la transparence sont essentiels à son utilisation responsable », explique Kleinloog.

Deeploy fournit déjà des millions d'explications par jour à ses clients. Les explications jouent le rôle essentiel d'offrir le contenu supplémentaire nécessaire pour prendre des décisions basées sur l'IA dans les systèmes human-in-the-loop ou pour corriger le modèle.

Un jeu cloud ambitieux

Deeploy est de plus en plus reconnu comme le catalyseur des cas d'utilisation de l'IA à fort impact. Kleinloog affirme que le plus grand défi cloud auquel Deeploy est régulièrement confronté est l'intégration à l'IA en constante évolution. ecosystem où tous les principaux fournisseurs de cloud jouent leur rôle. Il affirme que l'augmentation des coûts de manière rentable constitue un autre défi majeur lié à l'utilisation de solutions basées sur le cloud.

Pour relever ces défis, Deeploy a trouvé un partenaire de confiance en Fais-le, une entreprise nouvelle de la Silicon Valley qui fournit aux organisations basées sur le cloud une technologie intelligente et une expertise multi-cloud pour économiser du temps et de l'argent. « DoiT a été un partenaire de connaissances fiable en proposant une solution de conception rentable », déclare Kleinloog.

L'une des façons dont Deeploy économise du temps et de l'argent consiste à utiliser DoiT comme point d'entrée principal pour le support AWS. Le startup bénéficie de l'expertise et des solutions de réduction des coûts de DoiT Deeploy apprécie le modèle commercial « tout le monde gagne » de DoiT, qui aide les Néerlandais à startup obtenez de meilleurs prix et une meilleure assistance sans dépenser d’argent supplémentaire et « économisez potentiellement de l’argent ».

Alors que l'IA devient la pierre angulaire de toute technologie, Deeploy vise à proposer les dernières technologies cloud de manière rentable, l'expertise de DoiT offrant un avantage concurrentiel.

Évolution de XAI

Deeploy envisage que XAI fasse une percée dans les années à venir. Kleinloog estime que comprendre les composants internes du modèle est non seulement nécessaire pour garder le contrôle des modèles de pointe actuels, mais nous permet également de créer la prochaine génération de modèles GenAI. Avec des réglementations telles que Entrée en vigueur de la loi européenne sur l’IA, Kleinloog s'attend à ce que des entreprises comme OpenAI fassent des efforts de transparence pour rester actives sur le marché européen.

L'objectif de Deeploy est de contribuer à l'alignement entre les humains et l'IA. "Nous pensons que XAI a déjà un rôle à jouer dans l'amélioration de l'utilisation responsable et de la confiance dans les systèmes d'IA et que cela ne fera qu'augmenter à l'avenir", ajoute Kleinloog.

Deeploy souhaite rendre les méthodes XAI de pointe disponibles pour une utilisation pratique et ne veut pas le faire seul. Soutenu par 3.5M€ de financement et l'expertise multi-cloud de DoiT, la société basée à Utrecht startup est dans une position unique pour propulser XAI dans le langage courant dans le monde de l’IA.

DoiT aide les entreprises digital natives à mettre en œuvre des contrôles et des optimisations des coûts dans le cloud pour stimuler la croissance de leur entreprise. Inscrivez-vous pour un essai gratuit du produit pour découvrir comment DoiT est intelligent software et une expertise cloud inégalée peut vous faire économiser du temps et de l'argent.