Este sitio utiliza cookies para ofrecerle un servicio más ágil y personalizado. Al utilizar este sitio, acepta el uso que hacemos de las cookies. Puede obtener más información sobre el uso que hacemos de las cookies y tecnologías similares y sobre sus opciones consultando nuestra Política de privacidad. Al hacer clic en "Acepto", acepta nuestro uso de cookies y tecnologías similares.
Por qué debe preocuparle la gobernanza de la IA
Imaginemos este escenario: Una entidad financiera adopta la IA para automatizar las decisiones crediticias, pero debido a un marco de gobernanza inadecuado, el sistema deniega préstamos basándose en datos incompletos o sesgados. Cuando los reguladores y los clientes plantearon sus dudas, la empresa se enfrentó a sanciones legales y críticas públicas, mientras que competidores más preparados sacaban provecho de la situación. Esto ilustra la importancia crítica de anticiparse a la evolución de la normativa y gestionar la IA con un marco que garantice el cumplimiento legal, la transparencia y la equidad, protegiendo no sólo su negocio, sino también su posición competitiva.
Aunque el cumplimiento de la IA es un objetivo móvil, hemos ayudado a clientes a evaluar su riesgo y establecer un marco que se adapte y gestione el riesgo a lo largo del tiempo. Lo desglosamos en las tres áreas siguientes: legal, ética y competitiva.
Legal: El panorama normativo de la IA evoluciona rápidamente, pero sigue siendo superado por la innovación en IA. Por lo tanto, no solo es importante preocuparse por la legislación vigente aplicable, sino también anticiparse a las novedades legales para garantizar un entorno de cumplimiento eficiente en su organización. La legislación actual difiere según la jurisdicción, ya que los órganos legislativos han luchado por mantenerse al día con la tecnología. Las empresas deben navegar por estas normativas para garantizar que sus sistemas de IA cumplen leyes como el Reglamento General de Protección de Datos (RGPD) en Europa, la Ley de Inteligencia Artificial de la UE en la UE, la Orden Ejecutiva 14110 en Estados Unidos y otras leyes locales. Todas las organizaciones deben preocuparse y dar prioridad a evitar las ejecuciones y sanciones asociadas al incumplimiento. La falta de normativas estandarizadas en las distintas regiones expone especialmente a las empresas multinacionales a un mayor riesgo de incumplimiento. A pesar de los retos que plantean las diferentes normas de cumplimiento, todas las normativas sobre IA se centran en las mismas preocupaciones generales que existían antes del uso generalizado de la IA, como la privacidad de los datos y la parcialidad, y hacen hincapié en adoptar un enfoque basado en el riesgo con controles adecuados para mitigar el riesgo específico de la empresa.
Ética: Anticiparse a la evolución legal de la regulación de la IA es difícil, pero esta dificultad puede atenuarse siguiendo las mejores prácticas éticas y alineando el uso de la IA con las normas éticas existentes en su organización. Más allá de preocuparse por los riesgos legales asociados a la IA, debe preocuparse por la confianza de los clientes y las partes interesadas en su organización, y eso implica preocuparse por las implicaciones sociales y morales del uso de la IA. Para que un marco de gobernanza de la IA tenga en cuenta adecuadamente las preocupaciones éticas, debe abordar como mínimo la detección/mitigación de sesgos, la transparencia/comunicación relacionada con los procesos de toma de decisiones en los que interviene la IA, y la imparcialidad/equidad en la aplicación y disponibilidad de uso. A medida que las organizaciones han ido implementando herramientas de IA en sus prácticas empresariales, ha habido demasiados casos en los que la IA ha tomado decisiones importantes de forma injusta o errónea, como decisiones de empleo, violando leyes/políticas de privacidad o promoviendo la desinformación. La auditoría de IA es la investigación y la práctica de evaluar, mitigar y garantizar la seguridad, legalidad y ética de un algoritmo. La auditoría de la IA puede ayudar a prevenir prácticas y resultados poco éticos de la IA.
Competitiva: La inteligencia artificial (IA) es una de las tendencias tecnológicas más discutidas del mundo y se prevé que aumente el PIB mundial en 15,7 billones de dólares para 2030. La IA es una herramienta única que, al igual que los avances tecnológicos anteriores, solo puede hacer avanzar los objetivos empresariales de su organización si se aplica con objetivos claros y un marco sólido. Las organizaciones con un marco sólido de gobernanza de la IA que abarque el desarrollo, la implantación y la evaluación de nuevas herramientas y aplicaciones de IA pueden lograr ventajas competitivas. Es fundamental encontrar un equilibrio entre la vigilancia de la aplicación de la IA en su organización y el fomento de un entorno que recompense la innovación, que es necesaria para mantener la competitividad en todos los sectores.
La clave para utilizar la IA para el bien es establecer un marco sólido de IA como base. Contratar a un consultor externo, como Guidepost, para que le ayude a evaluar, diseñar e implementar un marco de IA completo y equilibrado permite a su organización responder más rápidamente a las oportunidades de uso de la IA. Aumentará la eficiencia de su organización, ahorrará costes, mejorará la experiencia del cliente y desarrollará más soluciones exclusivas para su organización.
Allison Spagnolo CIPP
Director General de Protección de Datos
Como directora de privacidad y directora ejecutiva sénior, Allison Spagnolo dirige la práctica de Inteligencia Artificial (IA), garantizando la gobernanza y el cumplimiento para el uso de la IA por parte de los clientes, y los compromisos de cumplimiento en sectores como las instituciones financieras, la sanidad y los contratistas gubernamentales. Esto incluye la revisión de las cuestiones relacionadas con la lucha contra el blanqueo de capitales (AML) y las sanciones (OFAC) para los bancos globales y las empresas multinacionales, así como el asesoramiento sobre cuestiones de cumplimiento de delitos financieros específicos para los intercambios de criptomoneda y las empresas Fintech. Ha viajado extensamente por Europa y Asia con el fin de dirigir y llevar a cabo inspecciones y revisiones in situ relacionadas con supervisiones del NYDFS y la Reserva Federal, auditorías BSA/AML y otros asuntos de cumplimiento.
Morgan Maiorino
Analista principal
Morgan Maiorino es analista de cumplimiento e investigaciones en Guidepost Solutions. Apoya a los grupos de práctica de Investigaciones + Inteligencia de Negocios, Riesgo Corporativo + Cumplimiento, Integridad Institucional e Inmigración + Servicios Fronterizos.
Jacqueline Pluta ACAMS
Analista
Jacqueline Pluta es analista en Guidepost Solutions y trabaja en una gran variedad de asuntos relacionados con diversos sectores. Recientemente, la Sra. Pluta llevó a cabo una revisión de cumplimiento para un banco comunitario con 13 sucursales, donde desarrolló varios procedimientos de revisión para comprobar el cumplimiento del banco con los requisitos reglamentarios, incluida la Ley de Igualdad de Oportunidades de Crédito y la Ley de Veracidad en el Ahorro.
InvestigaciónLíneas directas