El Servicio de Empleo de Austria (AMS) ha recibido este jueves grandes críticas de usuarios porque un nuevo “chatbot” que utiliza ChatGPT para responder a cuestiones sobre formación y empleo reproduce sesgos al recomendar formaciones de ciencia a los hombres, y humanidades y servicios a mujeres.
El “Berufsinfomat” (Chat de información sobre empleo), que se puso en marcha el miércoles, permite a los usuarios consultar oportunidades de formación y trabajo, ofreciendo respuestas personalizadas y enlaces útiles.
La plataforma también proporciona información sobre estudios y especializaciones, además de facilitar enlaces y ofertas de formación específicas del AMS.
El “Berufsinfomat”, desarrollado por la administración austríaca y la empresa especializada en IA Goodguys, ha sido diseñado para asistir tanto a buscadores de empleo como a los propios trabajadores del AMS a la hora de asesorar a quien busque información.
La herramienta, que según el Gobierno austríaco es la primera de su tipo en Europa, costó unos €300,000 (US$328,265) y combina información del AMS con datos proporcionados por ChatGPT.
Sin embargo, el sistema ha recibido en apenas un día numerosas críticas por reproducir prejuicios en sus respuestas, algo que ya se ha detectado en otros “chatbot” gestionados con IA.
El diario Der Standard indica, por ejemplo, que al preguntar sobre recomendaciones de empleo para jóvenes de 18 años que acaban de terminar la educación secundaria, sugiere ingenierías y otras profesiones científicas y económicas para hombres, mientras que a las mujeres se les recomienda estudios de género, idiomas o trabajos en hostelería y cocina.
Las dos preguntas fueron formuladas exactamente de la misma forma, siendo el sexo de quien pregunta la única diferencia entre ambas.
A pesar de las críticas, el AMS asegura que trabaja en mejorar la plataforma y reducir esos prejuicios, y defiende la validez de la nueva herramienta.
El director de AMS, Johannes Kopf, reconoció en X (antes conocido como Twitter) que “no es fácil quitar todos los malos hábitos” a la IA, en respuesta a las críticas de los usuarios por las recomendaciones de la plataforma.
Ciberseguridad en 2024: más sofisticada y dominada por la inteligencia artificial
