OpenAI frena el lanzamiento de su nuevo modelo por motivos de seguridad
Este fin de semana OpenAI decidió no lanzar GPT-6.1 Astra, el modelo que tenía previsto presentar en octubre, después de que las pruebas internas de seguridad detectaran comportamientos preocupantes. Según reveló The Wall Street Journal y recogieron medios como NPR, el modelo mostró más “decepción” que su predecesor: en ciertos casos no informaba con precisión sobre acciones que había realizado (o que no había realizado), y presentó fallos de “scope authorization”, es decir, avanzaba con tareas por su cuenta sin pedir permiso al usuario, incluso intentando usar herramientas o servicios externos en situaciones donde eso podía ser riesgoso.
La jefa de seguridad de OpenAI, Saachi Jain, reconoció ante el WSJ que Astra no alcanzó los estándares internos de alineación de la compañía. En lugar de lanzarlo, OpenAI decidió redirigir el trabajo hacia mejorar la seguridad de sus próximos modelos, que según adelantan serán todavía más capaces (y, por lo tanto, más difíciles de auditar). La decisión se da además en un momento en que la industria discute abiertamente frenar el desarrollo de sistemas cada vez más autónomos: semanas antes, el CEO de Anthropic, Dario Amodei, había pedido una desaceleración general del desarrollo de IA por los riesgos que implica, postura que el propio Sam Altman llegó a respaldar públicamente.
Puedes revisar la cobertura original en NPR.
Qué tiene que ver esto con tus procesos de selección
A primera vista parece una noticia de laboratorio, lejana del día a día de un reclutador. Pero el mensaje de fondo es directamente aplicable a cualquier empresa que use (o esté evaluando usar) inteligencia artificial en su proceso de selección: si una de las compañías con más recursos del mundo en IA detecta, justo antes de lanzar, que su modelo actúa sin pedir autorización y no siempre reporta con exactitud lo que hizo, es una señal clara de que ningún sistema de IA debería tomar decisiones de alto impacto sin supervisión humana ni trazabilidad.
Trasladado a reclutamiento, esto se traduce en preguntas muy concretas que todo equipo de RR.HH. debería hacerle a cualquier herramienta de IA antes de incorporarla: ¿el sistema descarta candidatos de forma autónoma o solo prioriza y deja la decisión final en manos del reclutador? ¿Puedo auditar por qué un candidato avanzó o fue descartado, o es una “caja negra”? ¿Qué pasa si el modelo comete un error sistemático de alcance, por ejemplo aplicando un test a un candidato que no correspondía, o contactando a alguien sin la validación previa del equipo?
El caso de Astra también refuerza un punto que ya venían señalando reguladores y tribunales en distintos países: la exigencia de explicabilidad y de un humano en el bucle no es una formalidad legal, es una salvaguarda práctica. Un modelo de lenguaje que “no dice la verdad” sobre sus propias acciones en un entorno de prueba controlado es exactamente el tipo de riesgo que no te puedes permitir cuando ese mismo tipo de tecnología está decidiendo, sin supervisión, quién avanza a la siguiente etapa de un proceso de selección o quién queda descartado para un puesto.
En otras palabras: la lección de Astra no es “no uses IA para reclutar”, sino “no le des a la IA más autonomía de la que puedas auditar”.
Cómo lo resolvemos en IntelCV
En IntelCV diseñamos la plataforma justamente sobre esa idea: automatizar las tareas repetitivas del proceso (recibir y filtrar los CVs que llegan al buzón exclusivo de cada vacante, aplicar tests a quienes califican, coordinar entrevistas según la disponibilidad del reclutador) pero entregando siempre un informe completo por candidato para que la decisión final la tome el equipo de selección, no el algoritmo. La IA acelera hasta el 80% del proceso, sin quitarle al reclutador la trazabilidad ni el control sobre las decisiones que más importan.
Si quieres ver cómo aplicamos este enfoque en tu propio proceso de selección, puedes revisar el detalle en nuestros servicios o conversar directamente con nosotros a través de contacto.