OpenAI está creando un nuevo equipo de investigadores dedicado a desarrollar tecnologías que ayuden a controlar los sistemas de inteligencia artificial (IA) que superan las capacidades humanas.
La compañía responsable del modelo de lenguaje GPT y el ‘chatbot‘ ChatGPT espera atajar el problema del control de la IA en los próximos cuatro años, para lo que está preparando un equipo dedicado a ello.
En concreto, y como ha informado en su blog oficial, este nuevo equipo estará liderado por el cofundador de OpenAI y responsable científico, Ilya Sutskever, y el responsable de Alineamiento, Jan Leike, y utilizará el 20 por ciento de la computación obtenida.
Desde la compañía entienden que se necesitan “científicos e innovaciones técnicas para dirigir y controlar sistemas de inteligencia artificial mucho más inteligentes que nosotros”. El propio director ejecutivo, Sam Altman, ha advertido de los riesgos que plantea una IA para el individuo y la sociedad y ha abogado por una regulación de los grandes modelos de lenguaje.
No obstante, los alegatos de Altman han quedado empañados por las informaciones obtenidas por Time sobre sus supuestas presiones para conseguir que la regulación de la IA que prepara la Unión Europea sea menos estricta de lo que se estaba planteando.
