¿Cómo pueden las organizaciones mejorar su preparación para la IA?
La IA generativa está cambiando el paradigma y seguirán surgiendo riesgos en torno a casos de uso específicos. Para mantenerse a la vanguardia, las organizaciones deberán mover los enfoques actuales más allá de los esfuerzos aislados y reunir funciones discretas bajo el paraguas de un marco de gobierno sólido.
Si bien muchas organizaciones confían en los científicos de datos para encabezar las iniciativas de IA, todas las partes interesadas relevantes, incluidos los departamentos legales, el C-suite, las juntas directivas, la privacidad, el cumplimiento y los recursos humanos, deben participar en todo el proceso de toma de decisiones.
Esta brecha de representación quedó clara en los resultados de nuestra encuesta. Actualmente, solo el 54 % de los encuestados dijo que su organización involucra a RR.
En este entorno de alto riesgo, la CAIO desempeñará un papel fundamental para garantizar que exista una gobernanza y supervisión relevantes a nivel de C-Suite e involucrar a Recursos Humanos en la capacitación y el fomento de un equipo multifuncional de IA.
Junto con esto, las organizaciones deben preparar y seguir un marco de gobierno interno que tenga en cuenta los riesgos empresariales en todos los casos de uso y permita a la empresa realizar de manera eficiente los ajustes de cumplimiento correctos una vez que se identifiquen los problemas.
El riesgo para las empresas que no tienen una estructura de gobierno de IA y la falta de supervisión de las partes interesadas clave, o aquellas que dependen mayoritariamente de herramientas de terceros, es el uso de herramientas de IA de una manera que crea responsabilidad legal organizacional (por ejemplo, reclamos por discriminación).
Prácticamente toda la toma de decisiones, ya sea basada en IA o no, crea sesgos. Las empresas que utilizan estas herramientas deben desarrollar un marco que identifique un enfoque para evaluar el sesgo y un mecanismo para probar y evitar el sesgo ilegal, además de garantizar que se cumplan los requisitos de privacidad de datos relevantes.
Los esfuerzos para combatir el sesgo deben respaldarse aún más con medidas efectivas para las pruebas previas y posteriores al despliegue.
Las empresas que implementan IA también deben asegurarse de que existan procesos que brinden una comprensión clara de los conjuntos de datos que se utilizan, la funcionalidad algorítmica y las limitaciones tecnológicas, ya que la legislación propuesta probablemente incluirá requisitos de informes.
La perspectiva final para la IA
La conclusión es simple: la IA se está adoptando amplia y rápidamente y proporciona muchos beneficios. Pero se está implementando y desarrollando tan rápidamente que la supervisión estratégica y la gobernanza se vuelven aún más críticas para su uso responsable y la mitigación de riesgos.
Muchas organizaciones no están preparadas para la IA y subestiman los riesgos, lo que hace que la voluntad de implementar esta tecnología sea preocupante sin las medidas de seguridad adecuadas.
Afortunadamente, al establecer estructuras sólidas de gobernanza y supervisión, las organizaciones pueden resistir estas mareas tecnológicas sin importar dónde se encuentren en sus viajes de IA.
Más allá de esto, la solución a largo plazo para gestionar el riesgo relacionado con la IA dependerá de que las partes interesadas informadas del sector legal, regulatorio y privado unan sus fuerzas para promover la legislación, los códigos de práctica o los marcos de orientación que reconozcan tanto las oportunidades como los riesgos que presenta la tecnología.
Con un marco seguro implementado, las organizaciones pueden permitirse implementar la tecnología de IA y aprovechar sus beneficios con mayor confianza.