El proyecto Gobierno del Reino Unido anunció el lunes 16 de octubre un Desafío de Innovación Justa para abordar los prejuicios y la discriminación en artificial intelligence (IA) sistemas.
El desafío invita a las empresas con sede en el Reino Unido a solicitar una inversión gubernamental de hasta £400,000 XNUMX para financiar nuevas soluciones innovadoras destinadas a erradicar los prejuicios de las tecnologías de inteligencia artificial.
El concurso tiene como objetivo apoyar hasta tres proyectos innovadores, cada uno de los cuales podría garantizar un aumento de financiación de hasta 130,000 libras esterlinas.
Esta iniciativa se alinea con el compromiso del Reino Unido de albergar la primera gran Cumbre de Seguridad de la IA del mundo, donde los diálogos girarán en torno a la gestión de los riesgos asociados con la IA y al mismo tiempo maximizar su potencial para el beneficio del pueblo británico.
El Centro para la Ética e Innovación de los Datos, que depende del Departamento de Ciencia, Innovación y Tecnología, ha iniciado la primera ronda de presentaciones del Fairness Innovation Challenge. El desafío tiene como objetivo fomentar el desarrollo de técnicas novedosas para incorporar la equidad en la creación de modelos de IA.
El objetivo principal es contrarrestar las amenazas que plantean los prejuicios y la discriminación fomentando enfoques innovadores.
Se insta a los desarrolladores de modelos de IA a considerar de inmediato un contexto social más amplio.
El gobierno del Reino Unido enfatiza la equidad en la IA
La equidad en los sistemas de IA es uno de los principios fundamentales establecidos en el Gobierno del Reino UnidoLibro blanco sobre regulación de la IA.
La IA es una herramienta poderosa para el bien, que presenta oportunidades casi ilimitadas para hacer crecer la economía global y brindar mejores servicios públicos.
En el Reino Unido, la IA ya se está probando dentro del Servicio Nacional de Salud (NHS) para ayudar a los médicos a identificar casos de cáncer de mama, y tiene un gran potencial para desarrollar nuevos medicamentos y tratamientos y abordar desafíos globales como el cambio climático.
Sin embargo, estas oportunidades sólo pueden aprovecharse plenamente abordando y rectificando los problemas relacionados con el sesgo y la discriminación en los sistemas de IA.
El ministro de IA, el vizconde Camrose, afirma: “Las oportunidades que presenta la IA son enormes, pero para aprovechar plenamente sus beneficios debemos abordar sus riesgos”.
“Esta financiación coloca al talento británico a la vanguardia para hacer que la IA sea más segura, justa y confiable. Al asegurarnos de que los modelos de IA no reflejen los prejuicios que se encuentran en el mundo, no solo podemos hacer que la IA sea menos dañina, sino también garantizar que los desarrollos de la IA del mañana reflejen la diversidad de las comunidades a las que ayudarán a servir”, agrega Camrose.
Aunque en el mercado se encuentran disponibles varias herramientas de auditoría de sesgos técnicos, muchas de ellas se desarrollan en los Estados Unidos.
Si bien las empresas pueden utilizar estas herramientas para identificar posibles sesgos en sus sistemas, a menudo no se alinean con las leyes y regulaciones del Reino Unido, afirma el gobierno.
Áreas de enfoque del desafío
El desafío promueve un nuevo enfoque liderado por el Reino Unido que enfatiza el contexto social y cultural de los sistemas de IA además de las consideraciones técnicas.
El desafío se centrará en dos áreas principales:
El primero implica una asociación con el King's College de Londres, donde los participantes del sector de IA del Reino Unido trabajarán para mitigar el sesgo en sus modelos generativos de IA. Estos modelos, desarrollados en colaboración con Health Data Research UK y el apoyo del NHS AI Lab, se entrenan en registros anónimos de más de 10 millones de pacientes para predecir posibles resultados de salud.
El segundo desafío es una convocatoria de "casos de uso abiertos", donde los solicitantes pueden proponer soluciones novedosas diseñadas para abordar los sesgos en sus modelos únicos de IA y áreas de enfoque específicas. Incluye combatir el fraude, crear nuevas herramientas de inteligencia artificial para hacer cumplir la ley o ayudar a los empleadores a crear sistemas más justos para analizar y preseleccionar candidatos durante la contratación.
Actualmente, las empresas enfrentan una serie de desafíos para abordar el sesgo de la IA, incluido el acceso insuficiente a datos demográficos y garantizar que las posibles soluciones cumplan con los requisitos legales.
El CDEI está trabajando en estrecha colaboración con la Oficina del Comisionado de Información (ICO) y la Comisión de Igualdad y Derechos Humanos (EHRC) para cumplir este Desafío.
El Fairness Innovation Challenge cierra el plazo para presentar presentaciones a las 11 a. m. del miércoles 13 de diciembre de 2023, y los solicitantes seleccionados serán notificados de su selección el 30 de enero de 2024.