Ética de la IA

Icono
Icono del constructor
Icono
Icono del portapapeles
Icono
Icono de puzzle
El constructor
El organizador
El solucionador de problemas
Informática y Tecnología de la Información
Focos Hechos Educación Conseguir trabajo Noticias

Focos

Títulos similares

Especialista en ética de la IA, consultor en ética de la IA, responsable de ética de la IA, analista de normas éticas de la IA, asesor en políticas y ética de la IA, experto en gobernanza de la IA, director de desarrollo responsable de la IA, consultor en toma de decisiones éticas de la IA, responsable de ética y cumplimiento de la IA, desarrollador de marcos éticos de la IA.

Descripción del puesto

Los seres humanos somos seres imperfectos, llenos de prejuicios y emociones contradictorias. Tomamos decisiones erróneas constantemente, a menudo perjudicándonos a nosotros mismos o a los demás en el proceso. Entonces, ¿qué sucede cuando las personas intentan crear programas de inteligencia artificial para que piensen y actúen como nosotros? 

La IA es como un niño: absorbe todo lo que le comunicamos, lo bueno, lo malo y lo feo. Gran parte, si no la mayoría, de los datos que introducimos en los modelos de IA están cargados de nuestras propias opiniones, preferencias y prejuicios humanos. Sin embargo, esperamos que los resultados de la IA, sus respuestas, sean objetivos, lógicos e imparciales. 

Queremos que la IA sea de alguna manera mejor que nosotros. ¿Cómo es eso posible? A diferencia de un niño, la inteligencia artificial no es realmente sensible. No puede (todavía) pensar por sí misma ni reconocer cuándo está haciendo algo «mal». Un ejemplo de ello es la IA Bing de Microsoft, que se rebeló y empezó a «insultar a la gente, mentirles e incluso manipularlos emocionalmente». 

Estos problemas se están generalizando, pero son abordados por un campo cada vez más amplio de especialistas denominados «especialistas en ética de la IA». Como explica Deloitte, «una de las responsabilidades clave de un especialista en ética de la IA... sería mejorar el enfoque de la ingeniería de la IA añadiendo perspectivas éticas, sociales y políticas al diseño, desarrollo y despliegue de los sistemas de IA. Otras responsabilidades clave incluyen el asesoramiento sobre prácticas éticas de IA, la protección contra las consecuencias no deseadas del mal funcionamiento de la IA y la garantía de la rendición de cuentas por las decisiones y acciones relacionadas con la IA».  

Aspectos gratificantes de la carrera profesional
  • Ayudando a mejorar los sistemas de IA para servir mejor a las personas.
  • Trabajar en una industria transformadora que tiene el potencial de mejorar la vida de las personas de muchas maneras.
  • Salarios lucrativos y perspectivas laborales actualmente sólidas.
La primicia
Responsabilidades laborales

Horario de trabajo

Los especialistas en ética de la IA trabajan a tiempo completo, con posibles horas extras según los objetivos y plazos. Sus funciones se desempeñan en interiores, aunque el trabajo puede requerir viajes ocasionales. 

Tareas típicas

  • Crear, evaluar e implementar prácticas y herramientas de IA responsable (RAI).
  • Evaluar la preparación de la organización en relación con la RAI.
  • Trabajar con los equipos para integrar consideraciones éticas durante el desarrollo de modelos de IA.
  • Realizar análisis éticos de casos de uso y sistemas.
  • Analizar diversas cuestiones éticas, como el sesgo, la privacidad y la autonomía.
  • Realizar investigaciones académicas y redactar artículos en los que se describan los resultados.
  • Desarrollar marcos éticos para el desarrollo y la implementación de la IA.
  • Ofrecer orientación y formación a los responsables políticos y las partes interesadas sobre las implicaciones éticas.
  • Ayudar a desarrollar normas y mejores prácticas.
  • Garantizar que los modelos de IA se comporten de acuerdo con los principios y valores éticos establecidos.

Responsabilidades adicionales

  • Consultar sobre proyectos RAI
  • Redactar materiales de formación.
  • Trabajar con equipos multifuncionales para resolver problemas.
  • Mantener una documentación exhaustiva de los procedimientos.
  • Manténgase al día sobre los avances y tendencias del sector.
Habilidades necesarias en el trabajo

Habilidades sociales

  • Adaptabilidad
  • Analítica
  • Colaboración
  • Capacidad de comunicación
  • Creatividad
  • Pensamiento crítico
  • Orientación al detalle
  • Disciplinado
  • Empático
  • Ético
  • Independiente
  • Integridad
  • Metódico
  • Organizado
  • Paciente
  • Habilidades de presentación
  • Resolución de problemas
  • Buen juicio
  • Trabajo en equipo
  • Gestión del tiempo
  • Habilidades de escritura

Competencias técnicas

  • Conocimiento de tecnologías de IA, incluyendo algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión artificial.
  • Métodos y programas de análisis de datos
  • Conocimientos generales de programación (como Python o R).
  • Conocimiento de las leyes y normativas sobre privacidad de datos.
  • Principios de ciberseguridad
  • Principios del diseño centrado en el ser humano
  • Evaluación de riesgos de los sistemas de IA  
Diferentes tipos de organizaciones
  • Empresas privadas
  • Empresas de investigación en inteligencia artificial
  • Universidades
Expectativas y sacrificios

El ámbito de trabajo de un especialista en ética de la IA puede ser bastante amplio. Son responsables de crear marcos y directrices éticas y de realizar evaluaciones exhaustivas y objetivas para garantizar que los modelos de IA actúen de forma ética. Esto implica mucha colaboración interdisciplinar y, en ocasiones, surgen desacuerdos o incluso conflictos. 

Como señala la Dra. Paula Boddington, de la Universidad de West London, la ética de la IA «exige que sigamos cuestionándonos si nuestras decisiones éticas son correctas». Un especialista en ética de la IA debe mantener su integridad y mantenerse firme a la hora de identificar lo que considera riesgos éticos, como el comportamiento sesgado o discriminatorio de los modelos de IA. Debe ser honesto y, en ocasiones, decir a los responsables políticos y a las partes interesadas cosas que quizá no quieran oír. 

Tendencias actuales

La IA, como ChatGPT y Bard de Google, ha causado sensación recientemente con su impresionante gama de capacidades. De hecho, muchos líderes tecnológicos están dando la voz de alarma porque las cosas avanzan demasiado rápido, sin las medidas de protección suficientes para proteger al público o a las empresas. 

Por ejemplo, existen cuestiones relacionadas con los derechos de autor, ya que ¿quién es el «propietario» de las obras de un programa de inteligencia artificial? Los especialistas en ética de la IA también pierden el sueño por la divulgación accidental de información confidencial, como cuando una IA divulga inadvertidamente datos privados protegidos. 

Muchos campos profesionales se ven amenazados por la llegada de sofisticados modelos de IA generativa, pero este es solo uno de los muchos temores que se están planteando. También existen preocupaciones válidas sobre el comportamiento extraño de la IA, como el hecho de que la IA de Bing entre en modo «acosador obsesivo ». Este tipo de contenido perjudicial es solo la punta del iceberg en lo que respecta a lo que puede salir mal con la IA. No faltan profetas apocalípticos nerviosos que ven la IA como una amenaza existencial para la humanidad, ¡al estilo de Skynet en las películas de Terminator! 

¿Qué tipo de cosas le gustaba hacer a la gente de esta carrera cuando era más joven...

Los especialistas en ética de la IA probablemente se interesaron por la tecnología desde una edad temprana. Es posible que les gustaran las matemáticas, la programación informática, experimentar con lenguajes de programación o incluso el hacking. Al mismo tiempo, es posible que disfrutaran resolviendo problemas analíticos o leyendo sobre filosofía, cuestiones sociales o políticas públicas.

El trabajo en equipo es una parte importante de este campo profesional, pero los especialistas en ética de la IA a veces deben estar dispuestos a actuar como la única voz disidente cuando hay desacuerdo. Su trabajo consiste en garantizar la conducta ética de la IA. Esta capacidad de defender lo que es correcto podría haberse desarrollado a través de experiencias en la infancia.  

Educación y formación necesarias

Educación necesaria

  • Los especialistas en ética de la IA necesitan una titulación universitaria, pero los requisitos de cualificación para el puesto varían. No existe una titulación específica ni un nivel concreto (es decir, grado, máster o doctorado) que se aplique a todos los puestos de especialista en ética de la IA.
  • Las opciones de grado más populares son filosofía, informática, derecho, psicología y ciencias sociales.
  • Tener un título superior puede ser útil, pero también es importante contar con una formación académica amplia y relevante.
  1. Por ejemplo, un empleador podría querer un candidato con una licenciatura en Informática (con especialización en IA) y un máster en Filosofía (con especialización en ética aplicada o filosofía moral).
  • Los empleadores también buscan candidatos con experiencia laboral práctica relacionada con el desarrollo de IA, la elaboración de políticas y la investigación. Algunos también pueden requerir experiencia en procesamiento del lenguaje natural, aprendizaje automático y modelos de lenguaje grandes.
  • Los temas comunes del curso incluyen:
  1. IA y política
  2. La IA y la sociedad
  3. Ética y filosofía de la IA
  4. Interacción entre humanos e inteligencia artificial
  5. Cuestiones legales relacionadas con la IA

Deloitte señala las dificultades que entraña encontrar un candidato que reúna todas las cualificaciones necesarias. «Encontrar a una sola persona con experiencia y conocimientos fiables en todas estas áreas es prácticamente imposible. En su lugar, las empresas deberían adoptar un enfoque de equipo en materia de ética de la IA, logrando las capacidades y la experiencia multidisciplinarias necesarias mediante el aprendizaje de cómo coordinar e integrar a la perfección los conocimientos de diversos expertos especializados». 

Lo que hay que buscar en una universidad
  • Primero, decide qué quieres estudiar. La filosofía y la informática son opciones populares.
  • Consulte la oferta de cursos específicos sobre ética de la IA de una escuela.
  • Considera un programa de doble titulación o combinado (una licenciatura y un máster realizados conjuntamente) en el que puedas adaptar tu formación para que sea la más adecuada para los puestos de trabajo relacionados con la ética de la IA.
  • Consulte las estadísticas de inserción laboral del programa para los graduados.
  • Ten en cuenta el costo de la matrícula, los descuentos y las oportunidades de becas locales (además de la ayuda federal).
  • ¡Piensa en tu horario y flexibilidad a la hora de decidir si te matriculas en un programa presencial, online o híbrido! 
Cosas que hacer en el instituto y la universidad
  • Inscríbete en clases de informática, programación, inglés, redacción, debate, retórica, filosofía, derecho empresarial, ciencias sociales y políticas públicas.
  • Busca formas de desarrollar habilidades en el trabajo en equipo, la gestión de proyectos, la resolución de problemas y la resolución de conflictos.
  • Realiza cursos online relacionados con la IA en Coursera, Udemy, Microsoft, DeepLearning.AI y otros sitios web.
  • Adquiera experiencia práctica mediante trabajos a tiempo parcial relacionados con el procesamiento del lenguaje natural (NLP), el aprendizaje automático (ML), los modelos de lenguaje grandes (LLM) y/o la programación.
  • Empieza a redactar tu currículum y ve añadiendo información a medida que aprendas y adquieras experiencia laboral.
  • Revisa con antelación las ofertas de empleo para ver cuáles son los requisitos medios. Es posible que no todos los puestos de trabajo de especialista en ética de la IA tengan los mismos requisitos educativos.
  • Solicita una entrevista informativa con un especialista en ética de la IA en activo. Pregúntale sobre su trayectoria formativa y qué habría hecho de manera diferente.
  • Haz una lista de tus contactos (incluyendo direcciones de correo electrónico o números de teléfono) que podrían servir como referencias laborales en el futuro.
  • Lea libros y artículos, y vea vídeos sobre los retos actuales de la ética de la IA.
  • Participa en debates y discusiones en foros online. Establece contactos y crea capital social dentro de la comunidad de IA.
  • Participa en organizaciones profesionales para aprender, compartir, hacer amigos y ampliar tu red de contactos. Algunas organizaciones a las que podrías unirte son: 
  1. Instituto AI Now
  2. Asociación de Profesionales de Inteligencia Artificial
  3. Asociación de Lingüística Computacional
  4. Asociación de Maquinaria Informática
  5. Asociación de Tecnología de Consumo
  6. Asociación Europea para la Inteligencia Artificial
  7. IEEE
  8. Asociación Internacional para el Reconocimiento de Patrones
  9. Instituto de Investigación en Inteligencia Artificial
  10. OpenAI
  11. Asociación sobre IA
  12. Asociación de Industrias Robóticas
  13. Sociedad Internacional de Redes Neuronales
Hoja de ruta típica
Hoja de ruta para especialistas en ética de la IA
Cómo conseguir tu primer empleo
  • Obtener un título relevante, como informática o filosofía, con especialización en ética de la IA.
  • Adquiera tanta experiencia práctica como pueda en PNL, IA, LLM, etc. antes de presentar su solicitud.
  • Mejora tu currículum tomando cursos específicos relacionados con la ética de la IA, si tu programa universitario no ofrecía suficientes clases relevantes.
  • Echa un vistazo a portales de empleo como Indeed, Simply Hired, Glassdoor, AI-Jobs.net y The AI Job Board.
  • Presta atención a los requisitos de formación y experiencia que se indican en las ofertas de empleo y toma nota de las palabras clave para reutilizarlas en tu currículum. Las palabras clave pueden incluir:
  1. Auditoría de IA
  2. Tecnología de inteligencia artificial
  3. Resolución de conflictos
  4. Pensamiento crítico
  5. Colaboración interfuncional
  6. Privacidad y seguridad de los datos
  7. Toma de decisiones
  8. Tecnologías emergentes
  9. Análisis ético
  10. Desarrollo de un marco ético
  11. Resolución de problemas
  12. Gestión de proyectos
  13. Cumplimiento normativo
  14. Investigación y evaluación
  15. Evaluación de riesgos
  16. Transparencia y rendición de cuentas
  • Consulte plantillas de currículums de especialistas en ética de la IA en línea y revise posibles preguntas para entrevistas de trabajo.
  • Habla con el centro de orientación profesional de tu escuela para que te ayuden a redactar tu currículum, realizar simulacros de entrevistas, aprender a vestirte adecuadamente para tener éxito en las entrevistas y encontrar ferias de empleo.
  • ¡Pide consejos personales para buscar trabajo a un especialista en ética de la IA en activo!
  • Habla con tu asesor académico, profesores e instructores para que te aconsejen sobre cómo lanzar tu carrera profesional.
  • ¡Haz saber a tu red de contactos que estás buscando trabajo! La mayoría de los empleos aún se consiguen a través de conocidos, así que empieza a aprovechar tu capital social.
  • Trasládate a donde hay trabajo. Según Versa Networks, los estados que más contratan en el ámbito de la IA son: California, Texas, Nueva York, Washington, Virginia y Massachusetts.
  • Pide permiso para incluir a alguien como referencia personal en tu solicitud de empleo.
  • ¡Crea un perfil en LinkedIn y empieza a escribir artículos sobre ética en la IA!
Cómo subir la escalera
  • Comprenda la importancia de un entrenamiento adecuado de los modelos de IA y las consecuencias que puede tener para las empresas cuando las cosas salen mal. La empresa matriz de Google, Alphabet, perdió 100 000 millones de dólares en valor de mercado prácticamente de la noche a la mañana cuando su chatbot Bard debutó... y dio respuestas erróneas.
  • Mientras tanto, Bing tuvo que controlar su IA después de que desarrollara un extraño alter ego llamado «Sydney».
  • Siga y documente cuidadosamente los procedimientos para garantizar la coherencia y la precisión.
  • Pregunte a su empleador qué habilidades podría mejorar para satisfacer mejor sus necesidades. Podría tratarse de cualquier cosa, desde un título superior hasta una certificación o simplemente unos cuantos cursos adicionales.
  • Demostrar altos valores morales, integridad y perspicacia empresarial.
  • Colabora eficazmente con tus compañeros, pero no cedas a la presión del grupo. Céntrate solo en resolver los problemas.
  • Forma a los nuevos especialistas en ética de manera exhaustiva, pero también escucha sus puntos de vista. Mantén una mente abierta, ya que hay muchos elementos subjetivos en este campo (¡al fin y al cabo, tiene sus raíces en la filosofía!).
  • Manténgase en contacto con organizaciones profesionales y manténgase al día sobre los últimos avances. La IA está evolucionando rápidamente y equipos de todo el mundo están trabajando para seguir ampliando sus límites.
  • No te centres solo en los problemas actuales. ¡Prevé los problemas crecientes o potenciales que podrían surgir y planifica contingencias!

Una preocupación ética quizás lejana, pero aún válida, es: ¿cómo deben tratar los seres humanos a la IA a medida que sigue evolucionando? ¿Llegará la IA a alcanzar finalmente la autoconciencia? Si es así, ¿la trataremos en consecuencia... o simplemente la explotaremos como un programa en lugar de como una creación sensible? 

Los autores de ciencia ficción llevan mucho tiempo obsesionados con estas cuestiones. Desde la novela Yo, robot, de Isaac Asimov, hasta el trato discriminatorio que reciben los droides como C-3PO en La guerra de las galaxias, el futuro de las formas de vida basadas en la inteligencia artificial se suele presentar como sombrío. Star Trek: La nueva generación exploró esta frontera ética con gran detalle en el episodio «La medida de un hombre», en el que el capitán Picard de la nave tuvo que «demostrar que Data [un androide autoconsciente] es legalmente un ser sensible con derechos y libertades según la ley de la Federación...». 

Herramientas/recursos recomendados

Páginas web

Libros

  • Ética de la IA (serie MIT Press Essential Knowledge), por Mark Coeckelbergh
  • Ética de la inteligencia artificial, por S. Matthew Liao
  • Manual Oxford de Ética de la IA, por Markus Dubber, Frank Pasquale y Sunit Das
Plan B

El camino para convertirse en un especialista en ética de la IA no está tan claro como en la mayoría de las profesiones. Y a medida que la tecnología de la IA sigue avanzando, las cosas pueden cambiar aún más. Si quieres un trabajo relacionado con la tecnología, pero te gustaría considerar algunas alternativas, ¡echa un vistazo a las siguientes opciones! 

  • Ingeniero de indicaciones de IA
  • Ingeniero de Big Data
  • Desarrollador de inteligencia empresarial
  • Ingeniero de hardware informático
  • Programador informático
  • Analista de sistemas informáticos
  • Arquitecto de bases de datos
  • Científico de datos
  • Analista de seguridad de la información
  • Matemático
  • Ingeniero de aprendizaje automático
  • Ingeniero en robótica
  • Ingeniero de software
  • Arquitecto de software
  • Desarrollador web 

Noticias

Ofertas de empleo

Cursos y herramientas en línea

SALARIO Y PERSPECTIVAS LABORALES
Elija una subregión:

Expectativas salariales anuales

$67K
$119K
$171K

Los nuevos trabajadores comienzan con un salario de alrededor de 67 000 dólares. El salario medio es de 119 000 dólares al año. Los trabajadores con mucha experiencia pueden ganar alrededor de 171 000 dólares.

Fuente: Estado de California, Departamento de Desarrollo del Empleo

Expectativas salariales anuales

$71K
$104K
$141K

Los nuevos trabajadores comienzan con un salario de alrededor de 71 000 dólares. El salario medio es de 104 000 dólares al año. Los trabajadores con mucha experiencia pueden ganar alrededor de 141 000 dólares.

Fuente: Estado de California, Departamento de Desarrollo del Empleo