Si hay una constante en el mundo de la tecnología, es que cuanto más se adopta una tecnología determinada, más fallos presenta.
Dado que la respuesta ante incidentes de Inteligencia Artificial (IA) es diferente de la respuesta tradicional a incidentes en varios aspectos, los esfuerzos de respuesta ante incidentes de IA requieren sus propias políticas y procedimientos para guiar a las empresas y al personal involucrado en la gestión del incidente. Las políticas sobre incidentes de IA deben abordar los siguientes puntos.
— Crear una definición de IA.
— Identificar los daños más relevantes.
— Designar a los responsables de responder ante incidentes.
— Desarrollar un plan de contención a corto plazo.
LEA TAMBIÉN: ¿La burbuja de la IA tiene problemas? Lo que ya inquieta a los inversores
¿Qué hacer después de un incidente de IA?
Una vez que se han identificado los incidentes, el siguiente paso es llevar a cabo una estrategia de contención a más largo plazo para evitar que el daño se extienda aún más. Estas son las preguntas críticas que dicha evaluación debe responder:
— ¿Quién está siendo perjudicado?
— ¿Cuáles son las opciones para modificar el comportamiento del sistema de IA?
— ¿Qué está causando el daño?
— ¿Pueden abordarse o rectificarse de alguna manera los daños existentes?
Una vez que el incidente ha ocurrido, es importante no solo entender quién ha sido perjudicado, sino también qué pueden hacer las empresas al respecto. Un tipo común de incidente se produce cuando se ofrecen servicios preferenciales (como descuentos en productos) solo a grupos demográficos específicos.
Cuando se han puesto en marcha y ejecutado los planes de contención, el siguiente paso consiste en intentar eliminar por completo la causa del incidente. Algunos sistemas de IA pueden ser susceptibles de ser erradicados, pero otros solo permiten una erradicación parcial, o es posible que la fuente del incidente no pueda eliminarse por completo.
A grandes rasgos, existen tres formas principales de abordar o corregir el comportamiento problemático de los modelos, cada una de las cuales ha sido utilizada desde hace mucho tiempo para depurar modelos de aprendizaje automático:
1. Preprocesamiento: Se refiere a las acciones que se pueden realizar antes de que el modelo ingiera datos de entrada o sea entrenado con ellos. En algunos casos, los datos de entrenamiento no representativos pueden ser la fuente del comportamiento problemático del modelo. En ese caso, la solución consiste en volver a entrenar el modelo con datos más representativos.
2. Procesamiento interno: Este tipo de correcciones implica cambiar los pesos reales o la arquitectura del propio modelo. En ocasiones, este tipo de actualizaciones son relativamente simples, pero en la mayoría de los casos requieren un desarrollo significativo y prolongado. Rara vez he visto que este enfoque funcione en la práctica, sobre todo porque a menudo implica crear un modelo completamente nuevo.
3. Postprocesamiento: Esta es la opción más sencilla de todas y se ha utilizado ampliamente durante décadas para solucionar problemas de IA. Consiste en cambiar el comportamiento del modelo después de que el sistema ha realizado sus predicciones. Los filtros de salida, por ejemplo, pueden simplemente impedir ciertos comportamientos o evitar que se generen predicciones específicas. Por lo general, estos se presentan en forma de reglas que pueden añadirse al modelo.
LEA TAMBIÉN: Inteligencia artificial en empresas: ¿cómo ha potenciado la productividad de los negocios?
Lecciones aprendidas
Una vez concluidas las actividades de respuesta, es fundamental que las empresas realicen una revisión posterior para aprender y mejorar a partir de cada incidente. Esto implica dar un paso atrás y evaluar los aciertos y las deficiencias en la forma en que se abordó el incidente.
Prevenir y responder a los riesgos debe ser un ejercicio continuo.
Por: Andrew Burt (cofundador y CEO de Luminos.AI)
