¿Cómo está cambiando la IA generativa el panorama de riesgos?

En estos días, el progreso y la adopción relacionados con la IA están ocurriendo a un ritmo exponencial; algunos argumentan que es demasiado rápido.

Si bien este crecimiento exponencial ha renovado el enfoque en el uso de la IA, la realidad es que académicos, científicos, legisladores, profesionales del derecho y otros han estado haciendo campaña desde hace algún tiempo por el uso y despliegue ético y legal de la IA, particularmente en el lugar de trabajo donde abundan las aplicaciones existentes de IA en la función de recursos humanos (por ejemplo, adquisición de talento, tareas administrativas, capacitación de empleados).

Según nuestra encuesta, el 75 % de las empresas ya utilizan herramientas y tecnología de inteligencia artificial para fines de contratación y recursos humanos.

En esta nueva fase de IA generativa, los principios básicos en torno a la adopción de IA, como la gobernanza, la responsabilidad y la transparencia, son más importantes que nunca, al igual que las preocupaciones sobre las consecuencias de una IA mal implementada.

Por ejemplo, los algoritmos no controlados pueden generar resultados sesgados y discriminatorios, perpetuar las desigualdades y frenar el progreso de la diversidad de la fuerza laboral. La privacidad de los datos y las infracciones son otra preocupación, que ocurre fácilmente a través de la no anonimización y la recopilación de datos de los empleados.

La IA generativa también ha dado paso a nuevas consideraciones de propiedad intelectual, lo que plantea interrogantes sobre la propiedad tanto de las entradas como de las salidas de programas de terceros y las consiguientes preocupaciones por la infracción de los derechos de autor.

En términos generales, hemos visto a los gobiernos y los reguladores esforzarse por implementar la legislación relacionada con la IA y los mecanismos de cumplimiento normativo. En los EE. UU., un enfoque clave de la legislación emergente será el caso de uso de la IA en las operaciones relacionadas con la contratación y los recursos humanos.

Los litigios, incluidas las acciones colectivas, también están en el horizonte. Ya estamos viendo la primera ola de litigios generativos de PI de IA en los EE. UU., y estas primeras decisiones judiciales están dando forma al panorama legal en ausencia de la regulación existente.

Las organizaciones que implementan IA generativa también deben asumir que los proveedores externos de la tecnología recopilarán los datos introducidos en las herramientas y consultas de IA. En algunos casos, estos proveedores tendrán derechos de uso y/o divulgación de estos insumos.

A medida que los empleadores buscan equipar a su fuerza laboral con herramientas de IA generativa, ¿están poniendo en riesgo los datos confidenciales y los secretos comerciales? En resumen, sí. En general, cada nuevo desarrollo parece abrir preguntas más rápido de lo que las organizaciones, los reguladores y los tribunales pueden responder.