A OpenAI, liderada por Sam Altman, anunciou a criação de um novo cargo estratégico focado em antecipar e mitigar os riscos crescentes associados ao rápido avanço da inteligência artificial (IA). Segundo a empresa, a vaga de Head of Preparedness terá um papel central em identificar cenários de perigo e desenvolver respostas antes que se tornem danos reais.
De acordo com a descrição oficial da função, o profissional será responsável por:
- Desenvolver modelos de ameaça que ajudem a prever riscos emergentes;
- Coordenar avaliações de risco envolvendo capacidades avançadas de IA;
- Implementar protocolos de segurança robustos para lidar com potenciais danos, incluindo aspectos como cibersegurança, efeitos na saúde mental de usuários e cenários extremos de mau uso de tecnologia.
O anúncio ocorre em um momento em que a indústria de tecnologia intensifica o debate sobre a segurança de sistemas de IA cada vez mais poderosos e complexos. Altman ressaltou que a função exigirá uma postura proativa e uma visão abrangente de ameaças que podem surgir à medida que os modelos de IA ganham capacidades avançadas.
A empresa descreveu o papel como uma posição de alta responsabilidade, refletindo a necessidade de antecipar consequências negativas significativas antes que elas atinjam usuários ou sistemas sociais mais amplos. Embora os detalhes sobre o processo de seleção ou remuneração não tenham sido divulgados no momento, a criação dessa posição destaca o reconhecimento da OpenAI sobre os desafios éticos e de segurança associados à rápida evolução da inteligência artificial.
fonte: The Verge
fonte https://santotech.com.br/openai-quer-contratar-alguem-para-se-preocupar-com-todos-os-perigos-da-ia/
