Cómo controlar la Inteligencia Artificial en la empresa
En las últimas semanas nos hemos visto inundados de noticias apocalípticas sobre el fin de la humanidad causado por una inteligencia artificial potencialmente fuera de control. Nadie nos explica cómo sobrevendría ese evento, y la conclusión parece ser que las empresas que desarrollan estos sistemas se comprometen a ser más cuidadosas… Esa conclusión parece demasiado simple si el problema realmente es tan grave. ¿O será que estaban exagerando un poco como estrategia de publicidad? Parece macabro.
Pero sirve para que cada empresa y organización se pregunte si está haciendo lo necesario para evitar que el uso de herramientas de inteligencia artificial cause problemas para la empresa y su entorno y, por el contrario, genere beneficios.
Esa pregunta se la tienen que hacer el dueño de la empresa, el director general y el consejo de administración. Una de las dificultades es que a ese nivel falta a veces el conocimiento técnico para poder evaluar si la aplicación es correcta y los riesgos están controlados.
Hay una manera de enfocar este tema que todos los directivos pueden aplicar. El uso de la inteligencia artificial debe responder a las mismas reglas que rigen la actuación de los colaboradores de la empresa, aplicando los mismos sistemas de gestión.
Porque debemos partir de la premisa de que lo que haga (bien o mal) la herramienta de inteligencia artificial responde a las instrucciones (o falta de ellas) de una persona que decide su utilización.
Jonathan Sumner, de GRC World Forums, propone cambiar el nombre de la tecnología: debería llamarse Inteligencia Conductual. Porque aparte de generar contenidos, lo importante es que la herramienta se conduzca de acuerdo con reglas establecidas. Eso adquiere mayor importancia en las aplicaciones agénticas, donde damos a la herramienta ciertos poderes de decisión.
La gobernanza de la Inteligencia Artificial-Conductual tiene, entonces, los mismos elementos que la Gobernanza Empresarial. Empieza por un Código de Conducta que establece los cómos (y los cómo no) de la conducta frente a los grupos de interés de la empresa.
El sistema de denuncias que detecta las desviaciones aplica de la misma forma. Consiste primordialmente en intervenciones predefinidas de la persona responsable (person in the loop), eventualmente reforzado por una vigilancia a cargo de una segunda herramienta de IA.
El siguiente paso es definir los objetivos a lograr, cuantificados y provistos de KPI que se revisan periódicamente. Sigue la inclusión de la herramienta en un proceso de la organización, con claras definiciones de los datos que se pueden utilizar, de las acciones que se llevan a cabo y del resultado esperado.
Un elemento fundamental es el cumplimiento regulatorio o Compliance. Las leyes y normas por cumplir tienen que formar parte de los “barandales” que definimos para cada aplicación.
Y finalmente hay que incluir el uso de la Inteligencia Artificial en el sistema de Gestión de Riesgos, para poder prevenir las conductas no autorizadas y los resultados no deseables.
Todas estas herramientas deben existir de por sí en la organización para un desarrollo ordenado de las actividades, asegurando el cumplimiento de objetivos, actuación con integridad y el manejo de riesgos.
Su aplicación es responsabilidad de todos los tomadores de decisión en la empresa, es coordinada por un Oficial de Integridad y Cumplimiento, y vigilada por el Consejo de Administración.
Las organizaciones que ya han estructurado su Gobernanza Empresarial con estos elementos pueden asegurar la gobernanza de la Inteligencia Artificial sin problema. Los que no han avanzado en esta dirección, más vale que lo hagan antes de implementar el uso de la Inteligencia Artificial.
Por supuesto, además debe haber reglamentos internos que establezcan en detalle el manejo de la herramienta, el uso de los datos, la asignación de responsabilidades, la supervisión humana y los protocolos ante incidentes.
Pero el asegurar que se cumplan los objetivos, que se actúe con integridad y se gestionen los riesgos requiere la misma Gobernanza Empresarial que aplica a todos los colaboradores.
Ya que la Inteligencia Artificial (o Conductual) no tiene criterio ni sentido común, la aplicación debe ser más estricta todavía que para los colaboradores humanos.
El analista de McKinsey, Rich Isenberg, compara a los agentes de IA con un niño pequeño. Si le dices al niño que corra por el pasillo y se detenga antes de la escalera, puede que lo haga. Pero igual se sigue y se cae por la escalera. La solución: una reja antes de la escalera.
Para la Inteligencia Artificial, significa que debemos tener controles que no puede franquear. Si los construimos, obtenemos resultados y evitamos problemas. Incluso el fin de la humanidad.
Si quieres saber más sobre Gobernanza Empresarial, contáctame en thomas.karig@tkonsult.com.mx
Te sugerimos:
