Este sitio utiliza cookies para ofrecerle un servicio más ágil y personalizado. Al utilizar este sitio, acepta el uso que hacemos de las cookies. Puede obtener más información sobre el uso que hacemos de las cookies y tecnologías similares y sobre sus opciones consultando nuestra Política de privacidad. Al hacer clic en "Acepto", acepta nuestro uso de cookies y tecnologías similares.
Los peligros ocultos de la IA no regulada: cómo la gobernanza protege a su empresa
Una encuesta reciente de Compliance Week reveló que casi el 70 por ciento de las organizaciones utilizan IA, pero no tienen una gobernanza adecuada de IA. Esto es chocante. Pero lo más alarmante es que estas organizaciones no perciben esa falta de gobernanza como un alto riesgo. Esta falta de concienciación no solo es sorprendente, sino que podría permitir un daño organizativo real, ya que fomenta la complacencia con medidas de gobernanza insuficientes. En efecto, estas organizaciones están adoptando una posición de alto riesgo sin las salvaguardias para gestionar esos riesgos y no logran comprender las amenazas actuales y potenciales que plantea la IA no regulada.
La IA ya se ha relacionado con importantes fallos en diversos sectores. Algunos ejemplos son los actores maliciosos que utilizan tecnología deepfake para comprometer la ciberseguridad haciéndose pasar por plataformas de confianza, la selección sesgada de currículos en las decisiones de empleo y los errores perjudiciales en las aplicaciones sanitarias. Creer que su organización es inmune a estos riesgos no solo es imprudente, sino potencialmente catastrófico.
La Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) ya ha advertido a los empleadores de que tendrán que rendir cuentas por los sistemas de IA utilizados en las decisiones de contratación. Del mismo modo, grandes aseguradoras como Humana, Cigna y UnitedHealthcare se enfrentan a demandas colectivas por el presunto uso de tecnología avanzada para denegar reclamaciones, lo que pone de relieve los riesgos legales de la IA sin control.
Regulatory Landscape and Critical Role of Effective AI Governance
Los gobiernos reconocen cada vez más estos riesgos. Aunque la normativa aún no esté plenamente establecida, la historia demuestra que la demora en la adopción de medidas reguladoras suele coger desprevenidas a las organizaciones, que suponen que no hay medidas de este tipo en el horizonte. Un ejemplo reciente es el uso indebido de las comunicaciones fuera del canal por parte de las instituciones financieras, donde la falta de autorregulación llevó en última instancia a la Comisión de Bolsa y Valores de Estados Unidos y a la Comisión de Comercio de Futuros de Materias Primas a imponer sanciones por valor de casi 3.000 millones de dólares a las instituciones financieras.
Además, como señala Kevin Werbach, de la Wharton School, la política de IA bajo la administración Trump está mostrando "sorprendentes continuidades" con el enfoque de Biden, lo que sugiere que la administración actual probablemente continuará avanzando en la regulación de la IA y fomentando la autorregulación. Ignorar estas señales y no prepararse para las normativas entrantes podría dejar a las organizaciones expuestas a consecuencias tanto operativas como legales.
Una gobernanza eficaz de la IA no es solo un requisito normativo, sino un elemento crítico para salvaguardar a las organizaciones frente a los crecientes riesgos que plantean los sistemas de IA no regulados. En nuestras entradas de blog Por qué debería preocuparse por la gobernanza de la IA y Por qué fracasan las políticas corporativas de IA: Descuidar la gobernanza interfuncional de la IAexplicamos por qué las organizaciones deben dar prioridad a la gobernanza de la IA y los riesgos de no establecer un marco de colaboración. Además, nuestro seminario web Navigating the AI Landscape: Gobierno, privacidad y cumplimiento en un entorno legal cambiante profundiza en las complejidades del cumplimiento, la privacidad y la regulación, ofreciendo ideas prácticas para navegar por este desafiante panorama. En conjunto, estos recursos proporcionan una guía completa para comprender y aplicar una gobernanza eficaz de la IA.
Strengthen Your AI Governance Strategy with Guidepost
Guidepost is ready to assist organizations in evaluating their current AI usage, conducting risk assessments, and developing actionable plans that prepare for future regulations. With our expertise, we can help your organization proactively manage AI-related risks, ensuring compliance, reducing vulnerabilities, and fostering responsible innovation. Reach out today to strengthen your organization’s AI governance strategy.
MSU Institutional Assessment + RAMAGELLAN MonitorshipEmpire/Liberty Review