Este sitio utiliza cookies para ofrecerle un servicio más ágil y personalizado. Al utilizar este sitio, acepta el uso que hacemos de las cookies. Puede obtener más información sobre el uso que hacemos de las cookies y tecnologías similares y sobre sus opciones consultando nuestra Política de privacidad. Al hacer clic en "Acepto", acepta nuestro uso de cookies y tecnologías similares.
Los peligros ocultos de la IA no regulada: cómo la gobernanza protege a su empresa
Una encuesta reciente de Compliance Week reveló que casi el 70 por ciento de las organizaciones utilizan IA, pero no tienen una gobernanza adecuada de IA. Esto es chocante. Pero lo más alarmante es que estas organizaciones no perciben esa falta de gobernanza como un alto riesgo. Esta falta de concienciación no solo es sorprendente, sino que podría permitir un daño organizativo real, ya que fomenta la complacencia con medidas de gobernanza insuficientes. En efecto, estas organizaciones están adoptando una posición de alto riesgo sin las salvaguardias para gestionar esos riesgos y no logran comprender las amenazas actuales y potenciales que plantea la IA no regulada.
La IA ya se ha relacionado con importantes fallos en diversos sectores. Algunos ejemplos son los actores maliciosos que utilizan tecnología deepfake para comprometer la ciberseguridad haciéndose pasar por plataformas de confianza, la selección sesgada de currículos en las decisiones de empleo y los errores perjudiciales en las aplicaciones sanitarias. Creer que su organización es inmune a estos riesgos no solo es imprudente, sino potencialmente catastrófico.
La Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) ya ha advertido a los empleadores de que tendrán que rendir cuentas por los sistemas de IA utilizados en las decisiones de contratación. Del mismo modo, grandes aseguradoras como Humana, Cigna y UnitedHealthcare se enfrentan a demandas colectivas por el presunto uso de tecnología avanzada para denegar reclamaciones, lo que pone de relieve los riesgos legales de la IA sin control.
Los gobiernos reconocen cada vez más estos riesgos. Aunque la normativa aún no esté plenamente establecida, la historia demuestra que la demora en la adopción de medidas reguladoras suele coger desprevenidas a las organizaciones, que suponen que no hay medidas de este tipo en el horizonte. Un ejemplo reciente es el uso indebido de las comunicaciones fuera del canal por parte de las instituciones financieras, donde la falta de autorregulación llevó en última instancia a la Comisión de Bolsa y Valores de Estados Unidos y a la Comisión de Comercio de Futuros de Materias Primas a imponer sanciones por valor de casi 3.000 millones de dólares a las instituciones financieras.
Además, como señala Kevin Werbach, de la Wharton School, la política de IA bajo la administración Trump está mostrando "sorprendentes continuidades" con el enfoque de Biden, lo que sugiere que la administración actual probablemente continuará avanzando en la regulación de la IA y fomentando la autorregulación. Ignorar estas señales y no prepararse para las normativas entrantes podría dejar a las organizaciones expuestas a consecuencias tanto operativas como legales.
Una gobernanza eficaz de la IA no es solo un requisito normativo, sino un elemento crítico para salvaguardar a las organizaciones frente a los crecientes riesgos que plantean los sistemas de IA no regulados. En nuestras entradas de blog Por qué debería preocuparse por la gobernanza de la IA y Por qué fracasan las políticas corporativas de IA: Descuidar la gobernanza interfuncional de la IAexplicamos por qué las organizaciones deben dar prioridad a la gobernanza de la IA y los riesgos de no establecer un marco de colaboración. Además, nuestro seminario web Navigating the AI Landscape: Gobierno, privacidad y cumplimiento en un entorno legal cambiante profundiza en las complejidades del cumplimiento, la privacidad y la regulación, ofreciendo ideas prácticas para navegar por este desafiante panorama. En conjunto, estos recursos proporcionan una guía completa para comprender y aplicar una gobernanza eficaz de la IA.
Guidepost está preparado para ayudar a las organizaciones a evaluar su uso actual de la IA, realizar evaluaciones de riesgos y desarrollar planes de acción que preparen para futuras regulaciones. Con nuestra experiencia, podemos ayudar a su organización a gestionar de forma proactiva los riesgos relacionados con la IA, garantizando el cumplimiento, reduciendo las vulnerabilidades y fomentando la innovación responsable. Póngase en contacto con nosotros hoy mismo para reforzar la estrategia de gobernanza de la IA de su organización.
Allison Spagnolo CIPP
Director General de Protección de Datos
Como directora de privacidad y directora ejecutiva sénior, Allison Spagnolo dirige la práctica de Inteligencia Artificial (IA), garantizando la gobernanza y el cumplimiento para el uso de la IA por parte de los clientes, y los compromisos de cumplimiento en sectores como las instituciones financieras, la sanidad y los contratistas gubernamentales. Esto incluye la revisión de las cuestiones relacionadas con la lucha contra el blanqueo de capitales (AML) y las sanciones (OFAC) para los bancos globales y las empresas multinacionales, así como el asesoramiento sobre cuestiones de cumplimiento de delitos financieros específicos para los intercambios de criptomoneda y las empresas Fintech. Ha viajado extensamente por Europa y Asia con el fin de dirigir y llevar a cabo inspecciones y revisiones in situ relacionadas con supervisiones del NYDFS y la Reserva Federal, auditorías BSA/AML y otros asuntos de cumplimiento.
Línea directa SBCOakland County AARMAGELLAN Monitorship