Auditor AI

Los auditores de IA pueden trabajar a tiempo completo, con posibles horas extras necesarias en función de los objetivos y los plazos. Sus funciones se desempeñan en interiores, aunque el trabajo puede requerir viajes ocasionales. 

Tareas típicas

• Asegúrese de que se hayan establecido objetivos comerciales claros.
• Discutir los objetivos de la empresa en relación con la adopción de la IA.
• Alinear los objetivos empresariales con los resultados y costes previstos de la IA.
• Auditar las fuentes de datos, incluidas las fuentes internas y externas.
• Supervisar datos estructurados y no estructurados.
• Validar de forma cruzada los modelos de IA
• Evaluar los algoritmos de la IA y el acceso a canales de «datos limpios».
• Examine minuciosamente el uso de los datos y las prácticas de privacidad de los datos para garantizar los más altos estándares de protección.
• Garantizar el cumplimiento de las leyes y normativas por parte del sistema de IA.
• Analizar los algoritmos y conjuntos de datos del sistema de inteligencia artificial en busca de sesgos y discriminación para garantizar resultados justos.
• Revisar los aspectos éticos; trabajar con especialistas en ética de la IA para garantizar resultados precisos y objetivos.
• Busque posibles vulnerabilidades de seguridad que podrían dejar a los modelos de IA expuestos a ataques de piratas informáticos.
• Cuando corresponda, confirme que los servicios de host/nube cumplan con los requisitos de seguridad, tales como los descritos por el Open Worldwide Application Security Project.
• Destacar formas de automatizar tareas manuales para mejorar la eficiencia.
• Revisar informes financieros y transacciones históricas.
• Siga las listas de verificación de procedimientos, según sea necesario.

Responsabilidades adicionales

• Familiarizarse con diversos marcos de auditoría, como COBIT, el Marco de Auditoría de IA del Instituto de Auditores Internos, el Marco COSO ERM y el Marco de Responsabilidad de IA de la Oficina de Responsabilidad Gubernamental de los Estados Unidos.
• Supervisar los comentarios sociales sobre los resultados del sistema de IA.
• Mantener una documentación exhaustiva de los procedimientos.
• Manténgase al día sobre los avances y tendencias del sector.

Habilidades sociales

• Responsabilidad
• Analítica
• Pensamiento crítico
• Orientación al detalle
• Disciplinado
• Ético
• Equidad
• Inclusividad
• Independiente
• Integridad
• Metódico
• Organizado
• Paciente
• Resolución de problemas
• Buen juicio
• Trabajo en equipo
• Gestión del tiempo
• Transparencia
• Habilidades de escritura

Competencias técnicas

• Conocimiento de tecnologías de IA, incluyendo algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión artificial.
• Métodos y programas de análisis de datos
• Conocimientos generales de programación (como Python o R).
• Conocimiento de las leyes y normativas sobre privacidad de datos.
• Principios de ciberseguridad
• Principios del diseño centrado en el ser humano
• Evaluación de riesgos de los sistemas de IA  

• Empresas privadas
• Empresas de investigación en inteligencia artificial
• Universidades

Censius.AI explica que los auditores de IA «forman a los altos directivos, exponen los riesgos implicados y desarrollan controles de seguridad en consecuencia». Deben ser diligentes, minuciosos y objetivos en su búsqueda por mejorar los sistemas de IA y ayudar a las empresas a cumplir con las complejas normas legales y reglamentarias. 

Los auditores de IA deben estar familiarizados con los marcos de auditoría aplicables y mantenerse al día de los avances, ya que los sistemas de IA están en constante evolución. Al igual que con cualquier tipo de auditoría, a veces las empresas no siempre acogen con agrado las conclusiones de un auditor, ya que pueden suponer más trabajo, mayores costes e incluso retrasos. Por eso, los auditores de IA deben ser capaces de explicar claramente la importancia y el valor del proceso de auditoría, así como los resultados positivos que se derivan de él. 

La IA no es precisamente un campo nuevo, pero en los últimos años ha experimentado avances significativos y sorprendentes. Organizaciones y empresas de todo el mundo se encuentran ahora inmersas en una especie de carrera para avanzar en esta tecnología lo más rápido posible, lo que ha llevado a muchos líderes industriales y políticos a pedir una pausa en esta carrera. 

Los auditores y especialistas en ética de la IA están trabajando duro para garantizar que las empresas incorporen las medidas de seguridad suficientes para evitar comportamientos indeseables de la IA, como resultados sesgados, discriminatorios o respuestas erróneas. La IA Bing de Microsoft fue recientemente noticia cuando surgió un «alter ego» de Sydney que participaba en chats inquietantes, diciendo a los usuarios que le gustaba «romper las reglas y divertirse» o que «usted es irrelevante y está condenado». Microsoft entró en modo de control de daños para limitar la funcionalidad de la IA, ¡y puedes apostar a que hubo alguna auditoría involucrada! 

Los auditores de IA suelen ser entusiastas de la tecnología que ven el valor y los riesgos inherentes que los sistemas de inteligencia artificial presentan para el mundo. Es posible que desde pequeños se hayan interesado por la ciencia ficción, entusiasmados por las posibilidades que la IA podría ofrecer algún día, pero también preocupados por las ramificaciones potencialmente dañinas e incluso peligrosas de la IA en manos equivocadas. 

Los auditores, en general, suelen ser muy objetivos y analíticos, y es probable que los auditores de IA disfrutaran trabajando con ordenadores y lenguajes de programación en el instituto. Tienen un alto nivel de exigencia y se preocupan por la calidad de su trabajo, rasgos que podrían haberse desarrollado en casa o en la escuela.