Se encontró con Business Insider: uno de los responsables del equipo de Sistemas de Seguridad de OpenAI, David Robinson, dejó la empresa la semana pasada—la confirmación la hizo el portavoz de la compañía el viernes. Antes se encargaba de la planificación de políticas y, recientemente, se ha centrado principalmente en la seguridad y la transparencia, incluyendo ayudar a los modelos a redactar/publicar la system card.
En medio de la misma agitación, el jueves la empresa también dijo que había “tomado caminos separados” con tres investigadores, por el motivo de compartir información sensible hacia el exterior de manera indebida; el responsable de seguridad, Johannes Heidecke, también se fue a principios de este año. Robinson escribió en X en septiembre: “En OpenAI, ciertamente hay gente que empieza a observar en serio las consecuencias de los modelos de alta capacidad, pero no sé si cambiamos lo suficientemente rápido”.
Los incidentes de seguridad, las controversias sobre la alineación y la rotación de personal se superponen: del lado del equipo de seguridad, recientemente ha sido bastante ajetreado.
#OpenAI #AI安全 #对齐
En medio de la misma agitación, el jueves la empresa también dijo que había “tomado caminos separados” con tres investigadores, por el motivo de compartir información sensible hacia el exterior de manera indebida; el responsable de seguridad, Johannes Heidecke, también se fue a principios de este año. Robinson escribió en X en septiembre: “En OpenAI, ciertamente hay gente que empieza a observar en serio las consecuencias de los modelos de alta capacidad, pero no sé si cambiamos lo suficientemente rápido”.
Los incidentes de seguridad, las controversias sobre la alineación y la rotación de personal se superponen: del lado del equipo de seguridad, recientemente ha sido bastante ajetreado.
#OpenAI #AI安全 #对齐
