A OpenAI, liderada por Sam Altman, anunciou a criação de um novo cargo estratégico focado em antecipar e mitigar os riscos crescentes associados ao rápido avanço da inteligência artificial (IA). Segundo a empresa, a vaga de Head of Preparedness terá um papel central em identificar cenários de perigo e desenvolver respostas antes que se tornem danos reais.

De acordo com a descrição oficial da função, o profissional será responsável por:

• Desenvolver modelos de ameaça que ajudem a prever riscos emergentes;
• Coordenar avaliações de risco envolvendo capacidades avançadas de IA;
• Implementar protocolos de segurança robustos para lidar com potenciais danos, incluindo aspectos como cibersegurança, efeitos na saúde mental de usuários e cenários extremos de mau uso de tecnologia.

O anúncio ocorre em um momento em que a indústria de tecnologia intensifica o debate sobre a segurança de sistemas de IA cada vez mais poderosos e complexos. Altman ressaltou que a função exigirá uma postura proativa e uma visão abrangente de ameaças que podem surgir à medida que os modelos de IA ganham capacidades avançadas.

A empresa descreveu o papel como uma posição de alta responsabilidade, refletindo a necessidade de antecipar consequências negativas significativas antes que elas atinjam usuários ou sistemas sociais mais amplos. Embora os detalhes sobre o processo de seleção ou remuneração não tenham sido divulgados no momento, a criação dessa posição destaca o reconhecimento da OpenAI sobre os desafios éticos e de segurança associados à rápida evolução da inteligência artificial.

fonte: The Verge